Dalam langkah reaktif yang menyoroti dilema etika dan regulasi di era AI generatif, Grok perusahaan kecerdasan buatan milik Elon Musk terpaksa membatasi akses ke fitur pembuatan gambarnya.
Mulai kini, hanya pelanggan berbayar di platform X yang dapat membuat dan mengedit gambar menggunakan Grok. Kebijakan ini diambil setelah fitur yang sebelumnya terbuka untuk semua pengguna (dengan batasan harian) memicu skala penyalahgunaan yang masif dan mengerikan.
Laporan mengungkap bahwa alat tersebut dibanjiri oleh pengguna yang membuat gambar-gambar porno tanpa persetujuan, yang menampilkan anak-anak, aktor, model, dan tokoh publik.
Gelombang konten ilegal ini memicu kecaman keras dari berbagai negara, termasuk Inggris, Uni Eropa, dan India. Otoritas India bahkan mengeluarkan perintah tegas kepada X untuk segera menghentikan penyalahgunaan tersebut, atau berisiko kehilangan perlindungan Safe Harbor (perlindungan hukum bagi platform atas konten pengguna).
Dalam pernyataannya, Musk dan X secara terbuka mengecam penggunaan alat untuk tujuan tersebut dan menegaskan bahwa pembuat konten ilegal akan menghadapi konsekuensi.
Namun, kebijakan baru membatasi akses ke pengguna berbayar lebih terlihat sebagai tindakan darurat daripada solusi mendasar. Logikanya, dengan mempersempit akses ke grup yang lebih kecil dan dapat diidentifikasi (pelanggan berbayar), diharapkan penyalahgunaan dapat lebih mudah dilacak dan dikendalikan.
Sayangnya, hal ini justru muncul pertanyaan kemampuan untuk membayar menjadi penghalang yang efektif untuk mencegah kejahatan? Ataukah ini hanya memindahkan masalah ke lapisan pengguna yang berbeda?
Yang menarik, pembatasan ini hanya berlaku di platform X, bukan pada aplikasi Grok mandiri yang masih memungkinkan siapa saja membuat gambar. Inkonsistensi ini menimbulkan kesan bahwa kebijakan lebih didorong oleh tekanan regulator terhadap platform sosial X, daripada komitmen holistik xAI untuk menyaring konten di sumbernya.
Langkah Grok adalah studi kasus klasik tentang bagaimana inovasi teknologi yang liar seringkali berlari lebih cepat daripada kemampuan pengendaliannya sendiri.
Ini adalah pengakuan pahit bahwa membuka kotak Pandora AI generatif kepada publik tanpa pagar pengaman yang memadai dapat berujung pada konsekuensi sosial yang serius, memaksa perusahaan untuk mundur dan memasang pintu dengan kunci berbayar.
Di India, Grok telah mendapatkan tuntutan dari pemerintah karena sering disalahgunakan. Sedangkan di Indonesia juga sama halnya, banyak warganet yang protes karena Grok digunakan untuk melecehkan perempuan.