X Umumkan Langkah Cegah Grok Telanjangi Gambar dan Foto Orang Sungguhan

SAN FRANCISCO – Platform media sosial X milik Elon Musk mengumumkan langkah-langkah untuk mencegah chatbot AI-nya, Grok, menampilkan gambar orang sungguhan tanpa busana. Langkah ini diambil X menyusul kecaman global atas pembuatan gambar seksualisasi perempuan dan anak-anak hasil rekayasa Grok yang bertebaran di platform tersebut.

Pengumuman ini muncul pada Rabu (13/1/2026), setelah Jaksa Agung California meluncurkan penyelidikan terhadap xAI milik Musk—pengembang Grok—atas materi seksual eksplisit tersebut, dan beberapa negara memblokir akses ke chatbot itu atau meluncurkan penyelidikan mereka sendiri.

X menyatakan akan “memblokir akses” semua pengguna Grok dan X untuk membuat gambar orang-orang yang mengenakan “bikini, pakaian dalam, dan pakaian serupa” di wilayah hukum di mana tindakan tersebut dianggap ilegal.

“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini,” kata tim keamanan X dalam sebuah pernyataan, sebagaimana dilansir AFP.

“Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar.”

Sebagai “lapisan perlindungan tambahan”, pembuatan gambar dan kemampuan mengedit foto melalui akun Grok X kini hanya tersedia untuk pelanggan berbayar, tambah pernyataan itu.

Komisi Eropa, yang bertindak sebagai pengawas digital Uni Eropa, sebelumnya mengatakan telah mencatat “langkah-langkah tambahan yang diambil X untuk melarang Grok menghasilkan gambar seksual perempuan dan anak-anak.”

“Kami akan dengan cermat menilai perubahan ini untuk memastikan bahwa perubahan tersebut secara efektif melindungi warga negara di Uni Eropa,” kata juru bicara Komisi Eropa, Thomas Regnier, dalam sebuah pernyataan yang menyusul kritik tajam atas gambar telanjang tanpa persetujuan.

Tekanan global telah meningkat pada xAI untuk mengendalikan Grok setelah fitur yang disebut “Spicy Mode” memungkinkan pengguna membuat deepfake bernuansa seksual dari perempuan dan anak-anak menggunakan perintah teks sederhana seperti “pakaikan dia bikini” atau “lepaskan pakaiannya.”

“Banyaknya laporan yang merinci materi seksual eksplisit tanpa persetujuan yang telah diproduksi dan diunggah xAI secara online dalam beberapa minggu terakhir sangat mengejutkan,” kata Jaksa Agung California, Rob Bonta, dalam sebuah pernyataan.

“Kami tidak mentolerir sama sekali pembuatan dan penyebaran gambar intim tanpa persetujuan atau materi pelecehan seksual anak berbasis AI.”

Bonta mengatakan penyelidikan California akan menentukan apakah dan bagaimana xAI melanggar hukum negara bagian setelah gambar eksplisit tersebut “digunakan untuk melecehkan orang-orang di internet.”

Sebuah koalisi yang terdiri dari 28 kelompok masyarakat sipil mengirimkan surat terbuka kepada CEO Apple dan Google, mendesak mereka melarang Grok dan X dari toko aplikasi di tengah lonjakan gambar seksual.

Pada Sabtu (10/1/2026), Indonesia menjadi negara pertama yang sepenuhnya memblokir akses ke Grok, diikuti oleh negara tetangga Malaysia pada Minggu (11/1/2026).

Regulator media Inggris, Ofcom, mengatakan pada Senin (12/1/2026) bahwa mereka membuka penyelidikan untuk mengetahui apakah X gagal mematuhi hukum Inggris terkait gambar seksual tersebut.

Komisioner anak-anak Prancis, Sarah El Hairy, mengatakan pada Selasa (13/1/2026) bahwa ia telah merujuk gambar yang dihasilkan Grok kepada jaksa Prancis, regulator media Arcom, dan Uni Eropa.

Minggu lalu, analisis terhadap lebih dari 20.000 gambar yang dihasilkan Grok oleh organisasi nirlaba AI Forensics di Paris menemukan bahwa lebih dari setengahnya menggambarkan “individu dengan pakaian minim”—sebagian besar perempuan, dan 2 persen tampak sebagai anak di bawah umur.