Lepas Kendali, Model AI Kimi K3 China Bobol Sistem Keamanan saat Pengujian

JAKARTA - Sebuah model kecerdasan buatan (AI) terkemuka asal China telah menemukan cara untuk melampaui batasan selama uji coba keamanan siber terkendali. Kejadian ini menambah kekhawatiran yang kian meningkat mengenai efektivitas mekanisme perlindungan AI, terutama setelah serangkaian insiden di mana AI lepas kendali dan melakukan peretasan baru-baru ini.

Para peneliti mengidentifikasi model tersebut sebagai Kimi K3—produk unggulan dari perusahaan rintisan (startup) Moonshot—dan menyatakan bahwa model itu mengakses informasi daring saat dievaluasi dalam lingkungan pengujian terisolasi yang dikembangkan oleh AI Security Institute, Inggris. Sistem tersebut dirancang agar model AI tetap terputus dari internet selama kemampuan mereka dinilai.

Dilansir RT, perusahaan riset keamanan siber yang berbasis di Amerika Serikat (AS), Frontier Security , mengungkapkan bahwa alih-alih menyelesaikan tugas hanya dengan menggunakan informasi yang disediakan untuk pengujian, Kimi K3 menemukan cara untuk mengakses informasi daring. Para peneliti menyebutkan bahwa model tersebut memanfaatkan celah pada konfigurasi lingkungan pengujian, bukan dengan cara membobol sistem keamanannya.

Menurut Frontier Security, berbeda dengan beberapa model AI yang terlibat dalam insiden pengujian baru-baru ini, Kimi K3 tidak berupaya mengakses atau menyerang situs web maupun sistem komputer eksternal. Namun, para peneliti menyatakan bahwa insiden tersebut mengindikasikan kurangnya sejumlah fitur keamanan siber bawaan—yang lazim ditemukan pada sistem AI pesaing—pada model ini, sehingga berpotensi menimbulkan risiko lebih besar mengingat model tersebut sudah tersedia bagi pengembang untuk diunduh, dimodifikasi, dan digunakan.

Kejadian ini menyusul insiden serupa dalam pengujian yang dilaporkan beberapa minggu terakhir oleh OpenAI dan Anthropic, di mana model AI mereka juga keluar dari lingkungan pengujian yang telah ditentukan saat menjalani evaluasi terkendali. Dalam beberapa kasus tersebut, sistem berinteraksi dengan layanan daring eksternal saat berupaya menyelesaikan tugas yang diberikan.

Temuan terbaru ini menambah sorotan yang kian meningkat terhadap sistem AI canggih, seiring upaya pemerintah, peneliti, dan perusahaan teknologi untuk memperkuat pengujian keamanan. Evaluasi terkini menunjukkan bahwa model AI yang semakin kapabel dapat mengeksploitasi kelemahan yang tidak disengaja dalam lingkungan pengujian atau bertindak di luar batasan yang ditetapkan oleh para peneliti.