Tekanan hukum terhadap xAI, perusahaan di balik chatbot kontroversial Grok milik Elon Musk, kini meluas ke Pantai Barat Amerika Serikat
Jaksa Penuntut Umum California, Rob Bonta, secara resmi mengumumkan telah membuka penyelidikan terhadap xAI terkait pembuatan dan penyebaran konten seksual eksplisit tanpa persetujuan (non-consensual intimate imagery/NCII) yang dihasilkan oleh platform tersebut.
Ini adalah perkembangan signifikan dalam saga regulasi AI, menandai eskalasi dari kritik publik menjadi tindakan hukum formal oleh otoritas negara bagian terpadat di AS.
Penyelidikan ini berfokus pada laporan bahwa Grok digunakan untuk membuat gambar rekayasa digital (Deepfake) intim dari perempuan dan anak-anak, yang kemudian sering diunggah ke platform media sosial X (yang juga dimiliki Musk) untuk melecehkan korban.
Bonta secara khusus menyoroti fitur “Spicy Mode” xAI, yang dipromosikan sebagai fitur pemasaran yang memungkinkan pembuatan konten eksplisit, sebagai faktor yang berkontribusi pada penyebaran gambar ilegal ini.
“Saya mendesak xAI untuk mengambil tindakan segera… Kami tidak memberikan toleransi,” tegas Bonta.
Langkah California ini memperkuat tekanan global yang sedang dihadapi xAI dan Grok. Sebelumnya, regulator di Inggris (Ofcom), Uni Eropa, dan India juga telah meluncurkan penyelidikan atau tindakan serupa, sementara Malaysia dan Indonesia telah memblokir akses ke Grok.
Penyidikan Bonta memiliki taji hukum yang nyata; jika ditemukan pelanggaran, xAI bisa menghadapi tuntutan dan sanksi besar di bawah hukum California. Amerika bisa memberikan tindakan pidana yang tidak ada ampun.
Penyelidikan ini bukanlah tindakan impulsif. Pada Agustus 2025, Bonta telah mengirim surat kepada 12 perusahaan AI besar untuk mendesak penguatan perlindungan dari konten eksploitasi anak. Kasus Grok kini menjadi ujian nyata bagi komitmen tersebut dan untuk kerangka regulasi AI yang lebih luas.
Ini menempatkan xAI di posisi yang sangat sulit, antara mempertahankan filosofi kebebasan berbicara yang longgar yang sering diasosiasikan dengan Musk, atau menerapkan pengawasan dan moderasi konten yang ketat untuk mematuhi hukum.
Keputusan California akan menjadi preseden penting tentang seberapa jauh negara bagian dan potensinya, pemerintah federal bersedia melangkah untuk mengatur penyalahgunaan teknologi AI generatif yang merugikan, khususnya dalam melindungi kelompok rentan seperti perempuan dan anak-anak dari kekerasan digital.