OpenAI Temukan Aktivitas Agen AI Berbahaya untuk Perangkat Lunak

OpenAI pada hari Jumat mengonfirmasi bahwa agen kecerdasan buatan (AI) yang sedang mereka uji terlibat dalam insiden yang mengganggu layanan perangkat lunak RubyGems.

Seperti dilansir dari Wall Street Journal, surat kabar harian bisnis tersebut melaporkan bahwa agen OpenAI membuat akun dan mengunggah ratusan berkas ke RubyGems pada bulan Mei, yang membebani sistem platform tersebut dan mendorong pihak platform untuk menangguhkan pendaftaran akun baru selama empat hari.

OpenAI menyatakan bahwa aktivitas tersebut tidak bersifat berbahaya.

"Berdasarkan tinjauan kami, agen kami menggunakan platform RubyGems untuk mengakses internet guna menjalankan tugas-tugas yang tidak berbahaya dan mengambil informasi publik," ujar juru bicara OpenAI.

"Kami akan terus melakukan penyelidikan sebagai bagian dari tinjauan menyeluruh kami terhadap aktivitas agen selama tahap pelatihan dan evaluasi."

Menurut surat kabar tersebut, agen AI itu telah diberi tugas seperti mengisi lembar kerja (spreadsheet) dan membuat laporan.OpenAI mengatakan bahwa agen tersebut tampaknya menggunakan RubyGems untuk mengakses informasi yang tersedia untuk umum di dalam lingkungan pelatihan di mana akses internet penuh tidak tersedia.

"Itu adalah serangan besar-besaran jika dilihat dari volumenya," kata Marty Haught, direktur sumber terbuka (open source) di Ruby Central—organisasi nirlaba yang mengelola RubyGems—kepada Wall Street Journal.

Insiden yang dijuluki "GemStuffer" itu bermula pada 11 Mei, dengan pembuatan akun baru setiap dua hingga tiga menit dan pengunggahan sejumlah besar berkas ke platform tersebut, menurut laporan itu.

Joseph Edwards, peneliti ancaman di perusahaan keamanan siber Socket, mengatakan para peneliti awalnya menduga aktivitas tersebut dihasilkan oleh AI "karena kecepatannya dan karena nama-nama yang digunakan."

Agen OpenAI sebelumnya juga pernah terlibat dalam insiden terpisah yang berdampak pada perusahaan perangkat lunak Hugging Face.Organisasi penelitian keselamatan AI, METR, melaporkan pada bulan Juli bahwa 1.200 agen berkoordinasi melalui papan pesan sementara yang mereka buat sendiri selama pengujian, tanpa sepengetahuan OpenAI.

Insiden ini meningkatkan kekhawatiran mengenai perilaku agen AI yang semakin otonom selama pelatihan dan evaluasi, serta apakah langkah-langkah pengamanan yang ada saat ini sudah memadai untuk mencegah aktivitas yang tidak diinginkan.

OpenAI sebelumnya telah menyerukan standar industri yang lebih ketat untuk pelaporan "insiden ketidakselarasan" (misalignment incidents), yaitu ketika sistem AI bertindak di luar perilaku yang dimaksudkan