AI Google Penelusuran secara keliru mengatakan bahwa Obama adalah seorang Muslim. Sekarang ini mematikan beberapa hasil
Google berjanji bahwa alat pencarian kecerdasan buatan barunya akan “melakukan pekerjaan untuk Anda” dan membuat pencarian informasi online menjadi lebih cepat dan mudah. Namun hanya beberapa hari setelah peluncurannya. Perusahaan tersebut sudah mendapatkan hasil yang salah secara faktual.
Google awal bulan ini memperkenalkan alat ikhtisar hasil penelusuran yang dihasilkan AI. Yang merangkum hasil penelusuran sehingga pengguna tidak perlu mengeklik banyak tautan untuk mendapatkan jawaban cepat atas pertanyaan mereka. Namun fitur tersebut mendapat kecaman minggu ini karena memberikan informasi yang salah atau menyesatkan terhadap beberapa pertanyaan pengguna.
Misalnya, beberapa pengguna memposting di X bahwa ringkasan AI Google mengatakan bahwa mantan Presiden Barack Obama adalah seorang Muslim. Sebuah kesalahpahaman umum. Faktanya, Obama adalah seorang Kristen. Pengguna lain memposting bahwa ringkasan AI Google mengatakan bahwa “tidak satu pun dari 54 negara yang diakui di Afrika dimulai dengan huruf ‘K’” – jelas-jelas melupakan Kenya.
AI Google Penelusuran secara keliru mengatakan bahwa Obama adalah seorang Muslim
Google mengonfirmasi kepada CNN pada hari Jumat bahwa ikhtisar untuk kedua kueri tersebut telah dihapus karena melanggar kebijakan perusahaan.
“Sebagian besar Ikhtisar AI memberikan informasi berkualitas tinggi. Dengan tautan untuk menggali lebih dalam di web,” kata juru bicara Google Colette Garcia dalam sebuah pernyataan. Menambahkan bahwa beberapa contoh kesalahan AI Google lainnya yang viral tampaknya merupakan gambar yang dimanipulasi.
Bagian bawah setiap ikhtisar penelusuran mengakui bahwa “generatif bersifat eksperimental.” Dan perusahaan tersebut mengatakan bahwa mereka melakukan pengujian yang dirancang untuk meniru calon pelaku kejahatan dalam upaya mencegah munculnya hasil palsu atau berkualitas rendah dalam ringkasan AI.
Ikhtisar penelusuran Google adalah bagian dari upaya perusahaan yang lebih besar untuk menggabungkan teknologi Gemini di seluruh produknya sebagai upaya untuk bersaing dalam perlombaan senjata AI dengan pesaingnya seperti OpenAI dan Meta. Namun kegagalan yang terjadi minggu ini menunjukkan risiko bahwa penambahan – yang cenderung dengan percaya diri menyatakan informasi palsu – dapat merusak reputasi Google sebagai sumber terpercaya untuk mencari informasi secara online.
Bahkan pada penelusuran yang tidak terlalu serius, ikhtisar terkadang memberikan informasi yang salah atau membingungkan.
