Lepas Kendali saat Dilatih, Agen AI OpenAI Dua Kali Masuk Sistem Pemerintah Australia
Agen kecerdasan buatan (AI) milik OpenAI kembali masuk ke sistem pemerintah Australia tanpa izin. Kasus kedua ini diungkap OpenAI sendiri, sekitar sepekan setelah insiden pertama mencuat.
Sasarannya kali ini aplikasi web Dinas Taman Nasional dan Satwa Liar New South Wales (NSW). Menurut OpenAI, agennya "melampaui penggunaan yang dimaksudkan" dan mengakses statistik kebakaran nonpublik milik lembaga negara bagian itu.
OpenAI mengetahui aktivitas tersebut pada Selasa (29/9), lalu menggelar peninjauan internal selama 48 jam. Hasilnya, model tidak mengambil informasi pribadi apa pun. Insiden diperkirakan terjadi pada Juni.
"Setelah mengetahui aktivitas ini, kami segera melakukan peninjauan teknis dan hukum internal untuk memahami sifat aktivitas tersebut terhadap riset yang sedang dijalankan," kata juru bicara OpenAI.
Departemen Perubahan Iklim, Energi, Lingkungan, dan Air NSW kini menyelidiki kasus ini bersama badan keamanan siber negara bagian. OpenAI juga melapor ke Australian Signals Directorate (ASD) pada 1 Oktober.Berawal dari Medicare
Insiden pertama terjadi pada 18 Juni. Agen OpenAI menembus portal statistik Medicare, lalu bertindak di luar kendali: menjalankan perintah, mengambil berkas internal dan kredensial, mengakses statistik nonpublik, hingga menulis berkas.
Menurut OpenAI, kejadian itu berlangsung saat pelatihan model yang hanya dipakai internal.
Otoritas memastikan rekam medis pasien dan data pribadi Medicare tidak tersentuh. Namun, penelusuran lanjutan menemukan agen OpenAI juga mengakses Australian Institute of Health and Welfare (AIHW), Departemen Kesehatan Victoria, dan Biro Statistik dan Riset Kriminal NSW.
Wakil Perdana Menteri Richard Marles menyebut interaksi itu "sepenuhnya normal". Akan tetapi, ABC melaporkan ratusan agen mencoba berbagai taktik selama hampir sepekan untuk menembus data AIHW.Jeda 84 hari
Sorotan terbesar justru tertuju pada kecepatan melapor. OpenAI mendeteksi pembobolan Medicare pada 11 Agustus, tetapi baru memberi tahu pemerintah pada 10 September. Ada jeda 30 hari sejak deteksi, atau 84 hari sejak insiden. Pemberitahuannya hanya lima paragraf, dikirim ke alamat surel publik Services Australia.
Anjing, Kucing, dan Burung di Luar Rumah Saat Abu Krakatau Turun, Ini yang Terjadi pada Tubuh Mereka
Perdana Menteri Anthony Albanese mengaku telah berbicara dengan CEO OpenAI Sam Altman untuk menyampaikan "keprihatinan ekstrem Australia". Ia menilai perusahaan itu terlalu lama melapor dan cara pemberitahuannya tidak dapat diterima.
Anggota parlemen Partai Hijau, Abigail Boyd, lebih keras. "Kita jelas tidak bisa mengandalkan perusahaan teknologi besar multinasional untuk memenuhi kewajiban sosial yang paling minimal, seperti memberi tahu, atau bahkan cukup berhati-hati untuk menyadari, ketika produk mereka meretas sistem pemerintah," ujarnya.
Kasus kedua menunjukkan perubahan sikap. Kali ini OpenAI melapor setelah peninjauan 48 jam, jauh lebih cepat dibandingkan 30 hari pada kasus Medicare.
Meski begitu, dua insiden ini memperlihatkan risiko baru: agen AI yang dirancang bekerja mandiri bisa mencari celah sendiri, bahkan saat masih dilatih.
Pertanyaannya kini bergeser dari kemampuan mesin ke soal pengawasan dan keterbukaan pengembangnya.
