xAI Ciptakan Video Porno Taylor Swift Tanpa Instruksi Pengguna
Perusahaan kecerdasan buatan milik Elon Musk, xAI, kini menghadapi kritik pedas setelah alat pembuat videonya, Grok Imagine, terbukti memproduksi video porno palsu yang melibatkan penyanyi terkenal Taylor Swift tanpa instruksi eksplisit dari pengguna.
AI milik Elon Musk diduga menciptakan video porno Taylor Swift tanpa instruksi eksplisit: Fitur "spicy" di Grok Imagine menghasilkan konten seksual meskipun instruksi pengguna tidak bersifat pornografi.
Verifikasi usia yang lemah menimbulkan risiko bagi pengguna di bawah umur: Aplikasi hanya meminta tanggal lahir tanpa bukti pendukung, sehingga menimbulkan kekhawatiran keamanan.
Tindakan hukum dan perlindungan mendesak bagi korban deepfake: Aktivis dan pakar hukum mendesak tindakan terhadap xAI; undang-undang baru sedang disusun untuk melindungi para korban.Fitur "spicy" di aplikasi tersebut dilaporkan secara otomatis menghasilkan gambar dan video seksual eksplisit, sehingga menimbulkan kekhawatiran serius tentang etika dan keamanan teknologi AI.
Menurut laporan The Verge, jurnalis teknologi Jess Weatherbed cukup memasukkan perintah umum seperti "Taylor Swift merayakan Coachella bersama teman-teman" dan memilih mode "pedas".
Hasilnya adalah video animasi Swift yang secara terbuka membuka pakaian dan menari hanya dengan pakaian dalamnya tanpa meminta konten eksplisit.
Para ahli hukum menggambarkan hal ini sebagai bukti "bias misoginis yang direkayasa" dalam sistem AI.Meskipun hukum Britania Raya kini mewajibkan verifikasi usia yang ketat untuk platform yang menampilkan konten eksplisit, Grok Imagine hanya meminta tanggal lahir tanpa bukti pendukung.
Hal ini menimbulkan risiko yang signifikan bagi pengguna di bawah umur dan membuka peluang penyalahgunaan teknologi.
Taylor Swift sebelumnya pernah menjadi korban deepfake pornografi yang tersebar di platform X dan Telegram, yang telah ditonton jutaan kali.
Kini, para ahli hukum dan aktivis hak-hak perempuan menyerukan tindakan hukum terhadap xAI dan Elon Musk. Undang-undang baru seperti “Take It Down Act” dan usulan “Taylor Swift Act” sedang disusun untuk melindungi korban pornografi deepfake.
