kehadiran fitur AI Overviews dari Google yang menjanjikan ringkasan jawaban instan di atas hasil pencarian seharusnya menjadi solusi. Tapi, investigasi mendalam oleh surat kabar The Guardian justru mengungkap potensi bahaya tersembunyi di balik kemudahan itu.
Investigasi tersebut menemukan bahwa untuk kueri spesifik seperti seberapa rentang normal tes darah hati?, AI Overviews menampilkan angka rujukan statis tanpa mempertimbangkan faktor krusial seperti usia, jenis kelamin, atau latar belakang etnis pasien.
Praktik semacam ini dinilai berpotensi menyebabkan kesalahan interpretasi yang berbahaya atas kondisi kesehatan seseorang. Tentu berbahaya bukan?
Menanggapi temuan tersebut, Google mengambil langkah cepat namun terbatas: mereka membatasi atau menghapus tampilan AI Overviews untuk beberapa kueri kesehatan tertentu yang disoroti.
Beberapa jam setelah laporan diterbitkan, pencarian untuk istilah tersebut tidak lagi menampilkan ringkasan AI, meskipun variasi pencarian lain terkadang masih memunculkannya. Seorang juru bicara Google menyatakan perusahaan tidak berkomentar pada penghapusan individual, tetapi terus melakukan perbaikan menyeluruh.
Google juga menegaskan bahwa tim internal berisi tenaga klinis telah meninjau kueri-kueri tersebut dan menilai banyak informasinya tidak sepenuhnya keliru serta didukung sumber berkualitas.
Sayangnya, tindakan Google ini dianggap seperti menambal kebocoran di satu titik sementara kapal masih penuh lubang. Vanessa Hebditch, Direktur Komunikasi British Liver Trust, menyambut baik penghapusan tapi menyayangkan bahwa langkah itu belum menyentuh akar masalah.
“Kekhawatiran utama kami adalah bahwa ini hanya mematikan ringkasan AI pada satu hasil pencarian, tanpa benar-benar mengatasi persoalan yang lebih besar mengenai penggunaan AI Overviews untuk informasi kesehatan,” ungkapnya.
Kritik ini menyentuh inti dilema: apakah model AI, yang dirancang untuk generalisasi, dapat dan seharusnya digunakan untuk domain yang sangat personal dan kompleks seperti diagnosis medis, meski hanya sekadar informasi awal?
Kasus ini adalah pengingat keras tentang batasan dan tanggung jawab dalam integrasi AI ke dalam kehidupan sehari-hari. Di satu sisi, Google telah menunjukkan responsivitas terhadap kritik eksternal. Di sisi lain, insiden ini mempertanyakan proses pengujian dan penjaminan kualitas internal sebelum fitur semacam ini diluncurkan secara massal.
Sebagai penjaga gerbang informasi digital terbesar di dunia, keputusan Google untuk sementara menarik fitur tersebut justru mengonfirmasi kekhawatiran banyak pihak, bahwa dalam mengejar inovasi dan efisiensi, keamanan dan akurasi informasi publik terutama yang menyangkut kesehatan tidak boleh dikorbankan.