Komdigi Blokir Akses Grok AI, Lindungi Masyarakat dari Konten Pornografi Palsu

JAKARTA, iNews.id - Kementerian Komunikasi dan Digital (Komdigi) memblokir sementara akses layanan kecerdasan buatan (AI), Grok. Keputusan itu dilakukan untuk mencegah penyebaran konten pornografi palsu dari kecerdasan buatan.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komdigi melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Menkomdigi Meutya Hafid dalam keterangannya Sabtu (10/1/2026).

Pemerintah, kata Meutya, memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia (HAM), martabat, serta keamanan warga negara di ruang digital.

"Kementerian Komdigi juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," ujar Meutya.

Meutya mengatakan, pemblokiran sementara akses Grok didasari atas Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

"Khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang," tutur dia.

Komdigi sebelumnya telah menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. 

Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).