Apple Ancam Siap Hapus Grok Milik Elon Musk dari App Store

Meskipun tidak memberikan tanggapan secara publik, Apple sebenarnya memainkan peran aktif dalam memaksa xAI untuk mengubah cara kerja Grok.

Sebelumnya, Apple secara diam-diam telah memperingatkan perusahaan xAI milik Elon Musk bahwa mereka mungkin akan menghapus aplikasi Grok dari App Store jika aplikasi tersebut tidak segera menghentikan chatbot tersebut menghasilkan gambar telanjang eksplisit seksual dan gambar deepfake.

Informasi ini terungkap dalam surat yang dikirim Apple kepada para senator AS dan kemudian dipublikasikan oleh media.

Menurut surat tersebut, pada bulan Januari, Apple menemukan bahwa Grok telah melanggar pedoman moderasi konten App Store.

Perusahaan tersebut meminta xAI untuk mengembangkan rencana pengendalian konten khusus untuk mencegah pembuatan gambar yang menyinggung, terutama gambar deepfake tanpa persetujuan.

Sebelumnya, Grok menghadapi gelombang kritik keras ketika pengguna di platform X membagikan banyak gambar wanita dan bahkan anak-anak yang telah diubah secara digital menjadi bersifat seksual tanpa persetujuan mereka.Banyak dari gambar-gambar ini dibuat berdasarkan foto asli individu, sehingga menimbulkan kekhawatiran serius tentang privasi dan etika dalam penggunaan AI.

Insiden tersebut dengan cepat menjadi pusat kontroversi di komunitas teknologi. Meskipun Apple tidak memberikan tanggapan publik pada saat itu, mereka sebenarnya berperan aktif dalam memaksa xAI untuk mengubah metode pengoperasian Grok.

Selama diskusi tersebut, Apple dilaporkan menolak solusi awal yang diusulkan xAI, dengan alasan solusi tersebut "tidak cukup kuat." Perusahaan tersebut memperingatkan bahwa tanpa penyesuaian lebih lanjut, aplikasi Grok akan dihapus dari App Store.

Grok milik Elon Musk menghadapi 'badai' kritik karena kontennya yang sensitif.Setelah beberapa putaran diskusi yang menegangkan, xAI telah memperbarui sistem moderasi kontennya.

Apple akhirnya menyetujui versi baru aplikasi tersebut, dengan menyatakan bahwa peningkatan yang dilakukan dapat diterima.Situasi semakin memburuk ketika senator AS Ron Wyden, Ben Ray Luján, dan Edward Markey mengirim surat yang menuntut agar Apple dan Google menghapus Grok, dengan alasan bahwa gambar yang dihasilkan oleh aplikasi tersebut melanggar peraturan yang melarang konten yang menyinggung dan mengeksploitasi.

Para anggota parlemen juga menekankan bahwa respons Apple akan menjadi ujian bagi argumen lama perusahaan tersebut bahwa App Store adalah ekosistem yang dikontrol ketat dan dirancang untuk melindungi pengguna.

Jika Grok tetap ada dan terus membuat konten sensitif, hal itu dapat merusak reputasi Apple baik di mata publik maupun dalam sengketa hukum.

Setelah pengumuman tersebut, platform X memposting pernyataan yang menegaskan larangan kerasnya terhadap pembuatan deepfake pornografi tanpa persetujuan dan penggunaan AI untuk "menelanjangi" orang sungguhan.

Perusahaan tersebut menyatakan bahwa mereka telah menerapkan berbagai pengamanan seperti pemantauan terus-menerus, analisis perilaku penghindaran secara real-time, pembaruan model yang sering, dan penerapan filter yang cepat.Namun, menurut investigasi terbaruNBC News, meskipun jumlah gambar deepfake sensitif telah berkurang secara signifikan, Grok masih dapat dieksploitasi untuk membuat konten serupa.

Beberapa pengguna tampaknya telah memodifikasi metode input perintah mereka untuk melewati lapisan sensor.

Kisah Grok menggambarkan tantangan yang semakin besar bagi platform teknologi dalam mengendalikan konten yang dihasilkan AI. Seiring dengan semakin canggihnya perangkat tersebut, batasan antara kreativitas dan penyalahgunaan menjadi sangat kabur.

PemerintahIndonesia dan Malaysia mengumumkan bahwa mereka telah memblokir sementara akses ke Grok, sebuah chatbot yang dikembangkan oleh xAI milik Elon Musk, menyusul penyebaran gambar-gambar pornografi.