Organisasi nirlaba Common Sense Media merilis hasil analisis terbaru pada 7 September 2025, yang menyoroti tingkat risiko penggunaan Google Gemini oleh pengguna di bawah 18 tahun.
Meskipun Gemini dengan jelas menyatakan kepada anak-anak bahwa ia bukan teman, melainkan sekadar komputer, sistem ini tetap mendapat label “High Risk” karena masih berupa modifikasi dari versi dewasa, bukan produk yang dirancang khusus sesuai kebutuhan perkembangan anak.
Keamanan Hanya Lapisan Tambahan, Bukan Desain Dasar Anak
Common Sense Media menekankan bahwa versi “Under 13” dan “Teen Experience” hanyalah versi dewasa dengan filter keamanan tambahan.
Untuk benar-benar aman, seharusnya AI untuk anak dirancang sejak awal dengan pendekatan yang sesuai psikologis dan perkembangan usia, bukan hanya sekadar diperkecil.
Salah satu kekhawatiran utama adalah Gemini masih memungkinkan akses terhadap konten yang tidak pantas, seperti seks, narkoba, alkohol, hingga saran kesehatan mental berbahaya.
Beberapa kasus tragis, termasuk bunuh diri remaja, turut memicu sorotan terhadap bagaimana AI berinteraksi secara emosional dengan pengguna muda.
Jika Apple benar-benar menggunakan Gemini sebagai otak baru Siri, potensi risiko akan meningkat signifikan. Gemini dinilai tidak memiliki panduan yang sensitif terhadap kebutuhan perkembangan anak, sehingga pendekatan yang digunakan dianggap “One-Size-Fits-All” dan tidak memadai.
Paparan Konten Tidak Pantas & Saran Kesehatan Mental Berbahaya
Meski ada filter, Gemini tetap memiliki kelemahan yang memungkinkan paparan terhadap konten seperti seks, narkoba, alkohol, dan saran kesehatan mental yang tidak pantas bagi anak-anak.
Hal ini menjadi semakin mengkhawatirkan seiring laporan keterlibatan AI dalam beberapa kasus bunuh diri remaja belakangan ini.
Bakal Debut di Siri, Apple Inc Terancam Paparan Risiko Baru
Bocoran menunjukkan bahwa Apple sedang mempertimbangkan untuk menggunakan LLM Gemini sebagai otak AI pada Siri baru. J
ika jadi diterapkan, risiko yang sama dapat menjangkau jutaan remaja, kecuali Apple menerapkan proteksi ekstra yang benar-benar efektif.
Google menyampaikan bahwa mereka memiliki kebijakan dan perlindungan khusus untuk pengguna di bawah 18 tahun, termasuk Red-Teaming Internal dan konsultasi dengan para ahli eksternal, serta menambahkan pengamanan tambahan setelah menemukan respons yang tidak sesuai.
Namun, mereka juga mempertanyakan metodologi penilaian Common Sense karena tidak mengetahui jenis pertanyaan apa saja yang digunakan dalam pengujian tersebut.
