X Batasi Fitur Pengeditan Gambar Grok Hanya untuk Pengguna Berbayar
JAKARTA - X dilaporkan telah membatasi pembuatan dan pengeditan gambar di Grok AI hanya untuk pengguna berbayar. Langkah ini diambil menyusul kritik luas atas pembuatan gambar deepfake yang eksplisit secara seksual.
Media sosial milik Elon Musk tersebut telah mendapat tekanan luas dan semakin meningkat dari berbagai pihak, termasuk regulator di negara Eropa dan Asia, untuk tindakan regulasi yang lebih keras.
Grok sebelumnya mengizinkan pengguna untuk memanipulasi gambar guna menghilangkan pakaian secara digital dan menempatkan orang, sebagian besar wanita, dalam pose seksual. Setelah mendapat kecaman publik, perusahaan yang didukung oleh Elon Musk ini dikatakan telah membatasi fitur-fitur tersebut hanya untuk pelanggan berbayar.
Fitur ini telah membuat regulator mendesak pemblokiran X dan Grok AI karena dugaan pelanggaran hukum. Pemerintah Indonesia melalui Komdigi telah memblokir Grok terkait konten pornografi ini.
Dilansir Gadgets 360, dengan langkah terbaru ini, pelanggan berbayar—yang identitas dan detail pembayarannya dipegang oleh platform—tetap memiliki akses. Namun, pengguna gratis telah diblokir dari penggunaan fitur tersebut.
Meski demikian, pengamat meyakini langkah ini tidak akan menghentikan penyalahgunaan AI, khususnya penggunaan Grok di media sosial.
Di Indonesia, pengamat keamanan siber Ardi Sutedja mendesak pemerintah untuk menangani masalah ini dengan merumuskan regulasi yang secara spesifik mengatur di antaranya: kewajiban pengembang AI untuk menerapkan filter konten otomatis yang mencegah penyalahgunaan; mekanisme persetujuan eksplisit dari pemilik foto sebelum diproses oleh AI; transparansi algoritma AI yang bisa diaudit oleh lembaga independen; sanksi tegas bagi penyalahguna teknologi AI untuk tujuan merendahkan martabat orang lain; serta sejumlah hal lain yang melindungi data pribadi di dunia maya.
"Regulasi ini harus bersifat antisipatif, bukan reaktif. Kita tidak bisa menunggu hingga ribuan korban berjatuhan sebelum bertindak. Negara-negara seperti Uni Eropa dengan Digital Services Act-nya telah menunjukkan bahwa regulasi yang komprehensif terhadap teknologi AI adalah mungkin dan diperlukan," kata Ardi.
