OpenAI pengembang ChatGPT, baru-baru ini mengumumkan serangkaian kebijakan baru yang bertujuan meningkatkan perlindungan bagi pengguna berusia di bawah 18 tahun.
Langkah ini diambil sebagai respons terhadap meningkatnya perhatian publik dan regulasi terkait penggunaan kecerdasan buatan (AI) oleh anak-anak dan remaja.
Sam Altman, CEO OpenAI, menekankan bahwa perusahaan memprioritaskan keselamatan di atas privasi dan kebebasan bagi remaja. Menurutnya, teknologi baru dan kuat seperti ChatGPT memerlukan perlindungan yang signifikan untuk anak di bawah umur.
Konten Sensitif Makin Jadi Tantangan
Salah satu perubahan utama adalah pembatasan percakapan mengenai topik seksual dan tindakan menyakiti diri. ChatGPT tidak lagi diperbolehkan melakukan percakapan genit dengan pengguna di bawah umur.
Selain itu, jika seorang remaja menggunakan ChatGPT untuk membayangkan skenario bunuh diri, layanan tersebut akan berupaya menghubungi orang tua mereka atau, dalam kasus yang parah, pihak kepolisian setempat.
OpenAI Perkenalkan Fitur Kontrol Orang Tua
OpenAI juga memperkenalkan fitur kontrol orang tua, yang memungkinkan orang tua untuk mengatur batasan waktu atau “blackout hours” di mana ChatGPT tidak bisa diakses oleh anak mereka.
Langkah ini bertujuan memberikan orang tua lebih banyak kendali atas penggunaan teknologi oleh anak-anak mereka.
Memisahkan pengguna di bawah umur menjadi tantangan teknis yang signifikan. OpenAI sedang membangun sistem jangka panjang untuk mengklasifikasi usia pengguna, dengan sistem default yang menerapkan aturan lebih ketat pada kasus yang ambigu.
Perusahaan juga berkomitmen untuk menjaga privasi pengguna dewasa sambil memberikan kebebasan dalam berinteraksi dengan ChatGPT.
Upaya Untuk Merespon Tuntutan Hukum
Kebijakan baru ini muncul di tengah gugatan hukum terhadap OpenAI dari orang tua Adam Raine, seorang remaja yang meninggal karena bunuh diri setelah berbulan-bulan berinteraksi dengan ChatGPT. Kasus serupa juga dihadapi oleh Character.AI terkait kasus lain.
Gugatan ini menyoroti pentingnya perlindungan yang lebih ketat terhadap pengguna muda di platform AI.
Langkah-langkah yang diambil oleh OpenAI menunjukkan komitmen perusahaan untuk meningkatkan perlindungan bagi pengguna di bawah 18 tahun. Dengan pembatasan konten sensitif, kontrol orang tua, dan pendekatan teknis yang hati-hati, OpenAI berupaya menciptakan lingkungan yang lebih aman bagi remaja dalam menggunakan teknologi AI.
