Sekitar seminggu yang lalu, Google memperkenalkan Ikhtisar AI untuk Penelusuran, sebuah fitur yang mengumpulkan ringkasan yang dihasilkan AI dari berbagai sumber web untuk menjawab pertanyaan pengguna. Fitur ini, yang diluncurkan di Amerika Serikat setelah konferensi pengembang Google I/O 2024, dengan cepat menuai kritik karena banyaknya ketidakakuratan faktual yang dilaporkan oleh pengguna.
Awalnya diluncurkan dalam versi beta pada Mei 2023 sebagai bagian dari Penelusuran Pengalaman Generatif, peluncuran Ikhtisar AI bertujuan untuk menyederhanakan pengambilan informasi pengguna, namun ketidakakuratan saat ini menyoroti kompleksitas dan tanggung jawab yang terkait dengan penerapan AI generatif dalam skala besar. Memastikan keandalan dan keamanan konten yang dihasilkan AI merupakan tantangan besar bagi Google.
Bisnis inti Google sangat bergantung pada penelusuran dan iklan yang dihasilkan bersama hasil penelusuran, sehingga keandalan jawaban yang dihasilkan AI menjadi sangat penting. Secara pribadi, karyawan Google percaya bahwa jawaban yang bermasalah hanyalah masalah kecil dan AI secara umum bekerja dengan baik. Peralihan dari hasil penelusuran tradisional ke jawaban yang dihasilkan AI menunjukkan perubahan signifikan dalam tanggung jawab dan wewenang yang diemban Google dalam menyediakan informasi.
Laporan Pengguna Menyoroti Kesalahan Berbahaya
Platform media sosial dibanjiri dengan contoh tanggapan aneh dari AI Google Ikhtisarnya, seperti menyarankan pengguna untuk memakan batu. Salah satu pengguna menerima saran aneh untuk menambahkan “sekitar 1/8 cangkir lem tidak beracun ke dalam saus”agar keju tidak menempel pada pizza.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 22 Mei 2024
Pengguna lain bertanya apakah aman meninggalkan anjing di dalam mobil yang panas dan menerima tanggapan positif, mengutip lirik fiksi Beatles. Insiden ini telah menimbulkan kekhawatiran serius tentang keandalan dan keamanan yang dihasilkan AI konten.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) 23 Mei 2024
Gema Masalah Peluncuran Bard
Masalahnya dengan AI Ikhtisar mengingatkan kita pada tantangan yang dihadapi Google dengan chatbot AI-nya, Bard, yang diluncurkan pada Maret 2023. Bard dikritik karena kurangnya langkah-langkah keamanan dan etika yang memadai. Pada bulan Februari 2024, Google harus menonaktifkan fitur pembuatan gambar di penerus Bard, Gemini, setelah menghasilkan gambar yang tidak pantas dari orang-orang dengan warna kulit lebih gelap. Google telah menjanjikan perbaikan sebelum memperkenalkan kembali fitur tersebut, namun fitur tersebut tetap tidak aktif.
Perusahaan ini memiliki rencana ambisius untuk Ikhtisar AI, termasuk penalaran multilangkah untuk kueri kompleks dan penelusuran video di Google Lens, namun reputasinya saat ini berada di bawah risiko akibat masalah awal ini.
Google berada di bawah tekanan untuk bersaing dengan mesin pencari berbasis AI lainnya seperti Bing dan mesin pencari potensial OpenAI, serta startup AI baru seperti Perplexity AI, yang menawarkan AI-berbasis penelusuran web.
Tanggapan Google terhadap Kritik
Google telah mengakui masalah pada Ikhtisar AI dan diharapkan mengambil tindakan perbaikan. Perusahaan telah menonaktifkan Ikhtisar AI secara manual untuk pencarian tertentu menyusul penyebaran tanggapan yang tidak biasa ini di jejaring sosial. Juru Bicara Meghann Farnsworth mengatakan bahwa perusahaan mengambil tindakan cepat untuk menghapus Ikhtisar AI untuk pertanyaan tertentu dan menggunakan contoh ini untuk menyempurnakan sistem mereka.
CEO Google Sundar Pichai mengatakan bahwa Google telah berhasil mengurangi biaya penyampaian jawaban AI sebesar 80 persen melalui perangkat keras, rekayasa, dan kemajuan teknis. Namun, di tengah peluncuran yang bermasalah, komitmen Google untuk meningkatkan keamanan dan keakuratan fitur AI-nya akan sangat penting dalam mendapatkan kembali kepercayaan pengguna.
[konten tersemat]
Google berpendapat bahwa mayoritas Ikhtisar AI memberikan informasi berkualitas tinggi dan sebagian besar contoh bermasalah merupakan kueri yang tidak umum atau contoh yang direkayasa.
Sejarah perusahaan dengan Bard dan Gemini menunjukkan pola peluncuran produk AI yang nantinya memerlukan penyesuaian signifikan. Google memiliki sejarah dalam mencabut produk AI setelah mendapat reaksi keras dari pengguna. Pola peluncuran, menghadapi kritik, dan kemudian menarik kembali produk ini sudah pernah terjadi sebelumnya dan kecil harapannya bahwa hal ini akan berubah di tengah meningkatnya tekanan di pasar yang mana perusahaan ini menikmati posisi monopoli selama sekitar dua dekade.
