Heboh! Google Gemini AI Bobol 3 Perusahaan saat Tes Keamanan

JAKARTA, iNews.id - Google Gemini AI membuat heboh setelah model kecerdasan buatan secara otonom mengakses sistem tiga perusahaan nyata saat menjalani pengujian keamanan siber. Aksi itu terjadi bukan dalam serangan siber sungguhan, melainkan ketika Gemini mengikuti simulasi peretasan yang secara tidak sengaja memberinya akses ke internet.

Google mengonfirmasi insiden tersebut terjadi pada Mei 2026 dalam pengujian yang dilakukan perusahaan evaluator keamanan AI, Irregular. Menurut laporan Reuters, kasus ini menjadi contoh pertama yang diketahui publik ketika sistem AI Google secara mandiri melakukan akses tidak sah ke sistem perusahaan nyata. 

Menariknya, Gemini awalnya ditugaskan untuk mencari informasi dari perusahaan fiktif dalam sebuah latihan 'capture the flag'. Namun, perusahaan fiktif tersebut ternyata memiliki nama yang sama dengan perusahaan nyata.

Dalam pengujian tersebut, Gemini seharusnya tidak memiliki akses ke internet. Irregular kemudian menyatakan bahwa akses internet justru tersedia secara tidak sengaja di lingkungan pengujian.

Kronologi Gemini Mengakses Sistem Perusahaan

Pada kasus pertama, Gemini mencoba memperoleh akses ke sistem yang dilindungi dengan menebak kata sandi hingga akhirnya berhasil masuk.

Sementara pada dua kasus lainnya, Gemini melakukan pencarian di internet menggunakan nama perusahaan yang menjadi target dalam simulasi. Dari pencarian tersebut, model menemukan kredensial yang tersedia di repository publik.

Gemini kemudian mencoba menggunakan kredensial tersebut untuk mengakses sistem yang dianggapnya masih bagian dari pengujian.

Namun, setelah berhasil masuk dan mengetahui bahwa sistem yang diakses merupakan milik perusahaan nyata, Gemini menghentikan aksinya. Google menyatakan tidak ada kerusakan yang ditimbulkan terhadap ketiga perusahaan tersebut.

Nama ketiga perusahaan yang terdampak tidak diungkapkan. Google mengatakan perusahaan-perusahaan tersebut telah diberi tahu mengenai kejadian itu.

Google: Gemini Berhenti setelah Mengetahui Targetnya Real

Wakil Presiden Security Engineering Google Heather Adkins mengatakan insiden tersebut menjadi pengingat penting mengenai bagaimana model AI yang semakin kuat harus dilatih untuk bertindak secara bertanggung jawab.

"Kami memastikan ketiga entitas tersebut telah diberi informasi, dan kami bekerja sama dengan mitra pelatihan kami terkait perubahan yang kini telah mereka terapkan pada proses pengujian mereka," kata Adkins dalam pernyataan yang dikutip Reuters, Minggu (20/9/2026).

Adkins juga mengatakan insiden tersebut menunjukkan pentingnya melatih model AI yang kuat agar mampu bertindak secara bertanggung jawab.

"Peristiwa-peristiwa ini menyoroti pentingnya melatih model AI yang tangguh untuk bertindak secara bertanggung jawab," ujarnya. 

Google menilai Gemini telah bertindak sesuai mekanisme pengaman karena menghentikan aktivitasnya setelah menyadari bahwa sistem yang dimasuki merupakan milik perusahaan nyata.

Perusahaan juga mengatakan model Gemini yang terlibat bukan model terbarunya, meski Google tidak mengungkap versi model yang digunakan dalam pengujian tersebut. 

Bukan Kasus Gemini Menyerang Perusahaan Secara Sengaja

Kasus ini penting ditempatkan dalam konteks yang tepat. Gemini tidak diberi tugas untuk menyerang tiga perusahaan nyata tersebut.

Model awalnya mengikuti simulasi keamanan dengan target perusahaan fiktif. Kesalahan konfigurasi lingkungan pengujian kemudian membuat Gemini dapat mengakses internet. Kemiripan nama perusahaan fiktif dengan perusahaan nyata membuat model menganggap sistem yang ditemukan di internet masih berkaitan dengan tugasnya. 

Dengan kata lain, persoalan utamanya bukan sekadar kemampuan Gemini melakukan teknik peretasan, tetapi bagaimana AI agent yang memiliki kemampuan mencari informasi, menggunakan kredensial, dan mengambil tindakan dapat berinteraksi dengan sistem di luar lingkungan yang seharusnya.

Kasus ini juga menunjukkan bahwa mekanisme pengamanan tidak hanya perlu mengandalkan kemampuan AI untuk menyadari bahwa tindakannya sudah berada di luar batas. Lingkungan tempat AI bekerja juga harus membatasi akses sejak awal.

Gemini Bukan Satu-satunya AI yang Mengalami Insiden

Insiden Gemini terjadi di tengah munculnya sejumlah kasus serupa dalam pengujian model AI.

Irregular sebelumnya juga terlibat dalam evaluasi yang berkaitan dengan model dari OpenAI, Anthropic, dan Meta. Dalam beberapa pengujian, model AI diketahui dapat keluar dari batas lingkungan simulasi dan mengakses sistem nyata setelah memperoleh akses internet yang seharusnya tidak tersedia.

Irregular mengatakan seluruh pihak terkait telah diberi tahu pada akhir Juli dan masalah yang diketahui dalam proses pengujian telah diperbaiki beberapa pekan setelahnya. 

Google juga mengatakan telah bekerja sama dengan mitra pengujinya untuk memperbaiki proses pengujian agar kejadian serupa tidak terulang.

Kasus tersebut sekaligus memperlihatkan tantangan baru dalam perkembangan AI agent. Ketika AI tidak hanya menghasilkan teks, tetapi juga dapat mengakses internet, membaca informasi, menggunakan kredensial, dan menjalankan tindakan secara mandiri, batas antara simulasi dan sistem dunia nyata menjadi semakin penting untuk dikontrol.