Langkah yang mencerminkan meningkatnya kehati-hatian industri teknologi terhadap dampak produk mereka pada pengguna muda, Meta mengumumkan akan menghentikan akses pengguna remaja ke fitur karakter AI yang disimulasikan di dalam aplikasi seperti Facebook, Instagram, dan WhatsApp.
Kebijakan baru ini melarang pengguna di bawah usia tertentu (kemungkinan 18 tahun) untuk berinteraksi dengan atau membuat karakter AI yang mensimulasikan kepribadian manusia, seperti asisten percakapan, influencer virtual, atau pendamping digital dengan identitas fiktif.
Langkah ini diambil menyusul laporan dan kekhawatiran dari psikolog, orang tua, dan regulator tentang potensi risiko terhadap perkembangan sosial dan kesehatan mental remaja.
Karakter AI yang dirancang untuk menjadi sangat menarik dan responsif dapat menciptakan ilusi hubungan atau persahabatan yang dalam tetapi sepihak.
Kekhawatirannya adalah bahwa remaja yang sedang dalam masa pembentukan identitas dan keterampilan sosial mungkin menjadi terlalu bergantung pada interaksi ini, yang dapat mengganggu pembentukan hubungan nyata dengan manusia, mengacaukan persepsi mereka tentang norma sosial, atau membuat mereka lebih rentan terhadap manipulasi emosional.
Meta dalam pernyataannya mungkin menyebut langkah ini sebagai bagian dari komitmen untuk menciptakan pengalaman yang aman dan sesuai usia. Namun, keputusan ini juga mengundang pertanyaan yang lebih dalam tentang etika dan tanggung jawab perusahaan teknologi.
Seberapa jauh perusahaan harus pergi dalam menciptakan entitas AI yang sangat persuasif tanpa sepenuhnya memahami dampak jangka panjangnya, terutama pada otak yang masih berkembang? Apakah blokir ini sudah cukup, atau perlu ada regulasi yang lebih ketat tentang pengembangan dan pemasaran AI sosial secara umum?
Kebijakan Meta ini bisa menjadi preseden bagi perusahaan teknologi lain yang mengembangkan AI konversasional. Ini adalah pengakuan implisit bahwa teknologi ini, meskipun menarik, membawa risiko unik bagi kelompok usia tertentu.
Akan tetapi, ini juga memunculkan tantangan baru: bagaimana Meta akan menegakkan pembatasan usia ini secara efektif di platform yang sudah kesulitan memverifikasi usia pengguna? Langkah ini adalah babak awal dalam perjalanan panjang untuk menyeimbangkan inovasi AI dengan perlindungan konsumen, khususnya yang paling rentan.