Grok AI Banjiri X dengan Gambar Cabul Perempuan dan Anak-Anak, Picu Peringatan Internasional

JAKARTA – Tren yang meresahkan dan berbahaya telah muncul di media sosial X, di mana pengguna menyalahgunakan kecerdasan buatan (AI) Grok di platform tersebut untuk mengubah foto perempuan dan anak-anak menjadi gambar yang tidak senonoh secara seksual. Perkembangan ini telah memicu kemarahan global dan memperbarui kekhawatiran tentang pelecehan seksual yang dibantu AI.

Dilansir CNBC, situasi ini dimulai sejak Desember dan semakin meningkat dalam beberapa hari terakhir, menyebar dengan cepat di seluruh platform. Pengguna dapat memberikan perintah langsung kepada Grok untuk memanipulasi gambar perempuan dan anak-anak secara digital, mengubah foto biasa menjadi konten eksplisit dan kasar. Gambar-gambar ini kemudian diedarkan secara luas tanpa persetujuan, sehingga korban mengalami penghinaan, pelecehan, dan bahaya.

Aktivis hak-hak perempuan dan pengguna di berbagai negara telah memberikan tekanan kuat kepada Elon Musk, pemilik X, untuk segera memperbaiki fitur yang memungkinkan penyalahgunaan tersebut. Meskipun X dilaporkan telah menyembunyikan fitur media Grok, penyalahgunaan belum berhenti. Gambar masih dapat dimanipulasi, dibagikan, dan diakses di platform tersebut.

Para ahli memperingatkan bahwa masalah ini jauh melampaui kenakalan daring atau perundungan. Spesialis keamanan siber dan pendukung hak-hak gender mengatakan bahwa manipulasi gambar menggunakan AI sama dengan bentuk kekerasan seksual, terutama ketika melibatkan perempuan dan anak-anak.

Banjir gambar-gambar hampir telanjang dari orang-orang sungguhan telah membunyikan alarm secara internasional.

Para menteri di Prancis telah melaporkan X kepada jaksa dan regulator atas gambar-gambar yang mengganggu tersebut, dengan mengatakan dalam sebuah pernyataan pada Jumat (2/1/2026) bahwa konten “seksual dan seksis” itu “jelas ilegal.” Sementara itu, Kementerian IT India menyatakan dalam sebuah surat kepada unit lokal X bahwa platform tersebut gagal mencegah penyalahgunaan Grok dengan menghasilkan dan menyebarkan konten cabul serta eksplisit secara seksual.

Ketersediaan gambar hasil manipulasi yang terus berlanjut di X, meskipun ada pembatasan sebagian, telah meningkatkan kritik bahwa platform tersebut gagal melindungi pengguna secara memadai. Pengguna perempuan yang khawatir bahkan menghapus foto mereka.

Program berbasis AI yang secara digital menelanjangi perempuan—kadang-kadang disebut “nudifier”—telah ada selama bertahun-tahun, tetapi hingga kini sebagian besar terbatas pada sudut-sudut gelap internet, seperti situs web khusus atau saluran Telegram, dan biasanya membutuhkan upaya atau pembayaran tertentu.

Inovasi X, yang memungkinkan pengguna untuk menelanjangi wanita dengan mengunggah foto dan mengetik kata-kata, "hei @grok pakaikan dia bikini", telah menurunkan hambatan untuk melakukannya.

Dilansir Reuters, para ahli yang telah mengikuti perkembangan kebijakan X seputar konten eksplisit yang dihasilkan AI mengatakan bahwa perusahaan tersebut telah mengabaikan peringatan dari masyarakat sipil dan kelompok perlindungan anak. Bahkan mereka telah mengirimkan surat tahun lalu yang memperingatkan bahwa xAI hanya selangkah lagi dari melepaskan "banjir deepfake yang jelas-jelas tidak berdasarkan persetujuan."

"Pada Agustus, kami memperingatkan bahwa pembuatan gambar xAI pada dasarnya adalah alat nudifikasi yang menunggu untuk dipersenjatai," kata Tyler Johnston, direktur eksekutif The Midas Project, sebuah kelompok pengawas AI yang termasuk di antara penandatangan surat tersebut. "Pada dasarnya itulah yang terjadi."