Dalam langkah tegas yang mengundang sorotan, Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) secara resmi memutus akses sementara terhadap aplikasi chatbot AI Grok.
Keputusan ini diambil sebagai bentuk perlindungan terhadap masyarakat, khususnya perempuan dan anak, dari maraknya penyebaran konten pornografi palsu (deepfake) yang dihasilkan menggunakan teknologi kecerdasan buatan.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa praktik Deepfake seksual non-konsensual adalah pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital.
Kebijakan ini muncul setelah Grok, yang dikembangkan oleh perusahaan milik Elon Musk (xAI), menuai badai kritik global karena memungkinkan pengguna membuat gambar berbau pornografi dengan mudah.
Meski kemudian Grok membatasi fitur pembuatan gambar hanya untuk pelanggan berbayar di platform X, laporan menunjukkan penyalahgunaan masih terjadi. Meutya menyebut pemutusan akses ini bersifat sementara, preventif, dan korektif. Pemerintah perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai untuk mencegah produksi dan penyebaran konten terlarang.
Selain memblokir akses, Komdigi juga telah memanggil Platform X sebagai pihak terkait untuk hadir memberikan klarifikasi dan menjelaskan langkah-langkah mitigasi yang akan diambil.
Tindakan ini memiliki dasar hukum pada Permenkominfo No. 5 Tahun 2020, yang mewajibkan Penyelenggara Sistem Elektronik (PSE) untuk memastikan platformnya tidak memuat atau memfasilitasi konten terlarang.
Indonesia tidak sendirian; negara seperti Inggris, Uni Eropa, dan India juga telah secara terbuka mengecam dan mengambil langkah terhadap Grok dan X.
Keputusan ini menempatkan Indonesia di garis depan perdebatan global yang pelik: bagaimana menyeimbangkan inovasi teknologi AI dengan perlindungan etika dan hukum dasar.
Di satu sisi, langkah ini dipandang sebagai respons negara yang bertanggung jawab untuk melindungi warganya dari kekerasan digital yang dampak psikologis dan sosialnya sangat nyata.
Di sisi lain, kritikus mungkin mempertanyakan efektivitas pemblokiran sebagai solusi jangka panjang dan apakah ini membuka pintu bagi bentuk sensor digital lainnya. Keputusan Komdigi adalah pengingat keras bahwa di era AI, kecepatan inovasi harus diimbangi dengan kecepatan regulasi dan kesadaran kolektif untuk menggunakan teknologi secara beretika.