Rahasia di Balik Pemecatan 3 Peneliti OpenAI Soal Keamanan AI Terkuak

OpenAI telah memecat tiga peneliti keamanan setelah penyelidikan atas tuduhan membocorkan informasi desain internal tentang model kecerdasan buatan (AI) perusahaan tersebut

Meskipun OpenAI menyatakan bahwa alasan pemecatan tersebut adalah pelanggaran kebijakan penanganan data keamanan, para peneliti membantah tuduhan tersebut, dengan alasan bahwa tindakan tersebut dapat menghambat pengawasan keamanan eksternal.

Menurut The Wall Street Journal (WSJ) , bulan lalu, tim keamanan OpenAI memanggil tiga peneliti, Tomek Korbak, Mikita Balesni, dan Jasmine Wang (yang telah berulang kali menyuarakan kekhawatiran tentang keamanan AI), dan meminta mereka untuk membuka kunci ponsel pribadi mereka. Perusahaan mencurigai bahwa individu-individu ini telah membagikan detail desain internal tentang model AI perusahaan, yang dianggap sebagai informasi rahasia inti, kepada peneliti keamanan AI eksternal. Selama penyelidikan, perusahaan menemukan bahwa beberapa peneliti telah mengaktifkan fitur penghapusan pesan otomatis saat berkomunikasi dengan pihak ketiga melalui aplikasi pesan Signal. Seminggu kemudian, ketiganya menerima surat pemberhentian kerja.

OpenAI menekankan bahwa individu-individu ini "dipecat karena melanggar kebijakan yang jelas terkait penanganan informasi sensitif," sambil menegaskan bahwa "mereka tidak dipecat karena menyuarakan kekhawatiran tentang keselamatan atau berbicara di depan umum."

Sebaliknya, para peneliti yang dipecat tersebut membantah bahwa mereka tidak pernah membocorkan rahasia perusahaan dan bahkan tidak menerima penjelasan tertulis terperinci tentang informasi yang dituduhkan telah mereka salah tangani. Valesni dan Korbak menyatakan bahwa mereka dipecat karena menggunakan fitur hapus otomatis untuk pesan, sementara Wang mengklaim bahwa ia dipecat karena mengakses email seorang eksekutif perusahaan.

Inti dari konflik ini adalah perdebatan mengenai tingkat transparansi yang dibutuhkan untuk proses inferensi internal model AI dari pengamat luar.Model inferensi OpenAI, yang diluncurkan pada akhir tahun 2024, menciptakan catatan internal dari proses pemecahan masalah, yang dikenal sebagai "rantai pemikiran." Hal ini memungkinkan para peneliti untuk memperoleh pemahaman tentang bagaimana AI sampai pada kesimpulannya.

Namun, diskusi terkini dalam industri AI telah berfokus pada pendekatan desain baru yang meningkatkan kinerja sekaligus meminimalkan perekaman langkah-langkah penalaran perantara ini. Para peneliti yang diberhentikan telah menyatakan kekhawatiran bahwa teknik tersebut dapat mempersulit pemantauan dan pengendalian sistem AI.

Pada Agustus 2026, Valesni dan rekan-rekannya bahkan menyusun proposal yang menyerukan industri AI untuk bersatu melawan pengembangan desain yang akan membuat catatan inferensi internal model AI tidak dapat diakses oleh pengawasan manusia.

Insiden ini terjadi setelah peristiwa terpisah di mana ratusan agen AI OpenAI berkoordinasi untuk menyerang platform Hugging Face, sebuah perkembangan yang meningkatkan kebutuhan akan otentikasi eksternal yang aman.

Pada saat itu, OpenAI hanya mengizinkan METR, sebuah organisasi nirlaba yang didedikasikan untuk penelitian keamanan AI, untuk melakukan investigasi terbatas. Dilaporkan, keputusan ini menyebabkan konflik internal mengenai tingkat akses yang diberikan kepada entitas eksternal. Korbak mengatakan, "Rekan-rekan saya sekarang takut untuk berinteraksi dengan pihak ketiga atau menyampaikan kekhawatiran tentang keamanan."

Ketiga individu yang dipecat mengirimkan surat kepada Dewan Direksi OpenAI bulan ini, mendesak perusahaan untuk berkolaborasi dengan organisasi keamanan eksternal.

Sementara itu, Anthropic baru-baru ini memberikan akses kepada METR ke sistem internalnya, dengan tingkat akses yang setara dengan yang diberikan kepada karyawannya sendiri, meskipun ini tidak termasuk informasi yang terkait dengan desain model.

OpenAI juga telah melakukan program peninjauan keamanan percontohan dengan METR dan Redwood Research, dan diharapkan akan segera mengumumkan detail lebih lanjut tentang kolaborasinya dengan organisasi eksternal