Deepfake Bikin Gambar Porno Taylor Swift, Microsoft Tutup Celah Keamanan 

JAKARTA, iNews.id - Penggunaan artificial intelligence (AI) semakin berkembang. Banyak perusahaan sekarang memasukkan teknologi ini dalam layanan mereka.

Microsoft, pemain kunci di bidang AI, berencana meningkatkan pengalaman melalui teknologi AI generatif yang membuat teks dan gambar. Namun, perlu berhati-hati dengan AI karena penggunaan yang tidak tepat bisa menyebabkan masalah.

Microsoft menghadapi tantangan dengan tool, yang awalnya digunakan untuk membuat gambar dihasilkan AI, disalahgunakan untuk konten tidak pantas yang melibatkan selebriti.

Sebagai contoh, beberapa pengguna jahat mengeksploitasi Azure Face API untuk menghasilkan foto telanjang selebriti seperti Taylor Swift. Perusahaan mengumumkan mereka telah memperbaiki kerentanan yang memungkinkan pembuatan konten deepfake.

Microsoft menemukan celah keamanan yang memungkinkan penyerang memanipulasi parameter API tertentu. Cacat memungkinkan mereka mengganti wajah Taylor Swift dengan wajah orang lain.

Untuk memperbaiki masalah ini, Microsoft merilis pembaruan yang memblokir penggunaan parameter yang tidak valid di API. Sayangnya, langkah ini tidak akan secara efektif mengatasi krisis deepfake yang semakin meningkat.

Berkat kemajuan dalam AI dan teknologi, membuat konten deepfake menjadi sangat sederhana. Foto dan video yang dimanipulasi ini sering digunakan untuk menyebarkan berita palsu atau melakukan kampanye kotor. Dalam contoh spesifik yang disebutkan, Taylor Swift menjadi korban penyalahgunaan tersebut.

Beruntung, perusahaan teknologi secara aktif berupaya mengatasi masalah ini. Microsoft sedang memperbaiki kerentanan tersebut, dan di bawah kepemimpinan Elon Musk, X telah membatasi platform pencarian Taylor Swift untuk mencegah penyebaran video ini di media sosial.