CEO Anthropic Ajak Perusahaan AI Perlambat Pengembangan Model, Khawatir Penyalahgunaan

IDXChannel - CEO Anthropic Dario Amodei menyerukan perusahaan-perusahaan AI untuk memperlambat laju pengembangan kemampuan model di tengah meningkatnya kekhawatiran mengenai penyalahgunaan kecerdasan buatan.

Dia mengusulkan kerangka tiga langkah yang ditujukan untuk mengatur laju pengembangan dan memberikan lebih banyak waktu untuk mengelola risikonya.

“Kita harus memperlambat laju peningkatan kemampuan model-model AI. Kemajuannya tetap akan terasa cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijaksana,” tulis Amodei dalam esai panjang yang dibagikan di X pada Sabtu, dilansir Reuters, Senin (14/9/2026).

Rencana tiga langkah Amodei mencakup penempatan evaluator independen secara permanen di dalam perusahaan dengan akses seperti karyawan untuk memverifikasi praktik keselamatan, koordinasi antarperusahaan AI terdepan untuk menetapkan standar keselamatan dan membatasi pengembangan AI yang tidak terkendali, serta kerja sama internasional untuk mengelola risiko AI.

Elon Musk, yang memimpin xAI, dan CEO OpenAI Sam Altman mengatakan dalam unggahan di X bahwa mereka sepakat dengan Amodei. 

“Berkomitmen untuk memiliki evaluator independen dengan akses seperti karyawan adalah ide bagus, dan kami juga akan melakukan hal yang sama,” kata Altman, seraya menambahkan bahwa informasi lebih lanjut akan disampaikan dalam waktu dekat.

Amodei memublikasikan esainya setelah Anthropic yang berbasis di San Francisco merilis laporan intelijen ancaman pada Kamis. Laporan tersebut merinci bagaimana sejumlah pihak menggunakan model AI Claude untuk berbagai aktivitas, mulai dari pengembangan senjata dan operasi siber hingga pengawasan dan penipuan.

Amodei menyoroti kemampuan AI yang semakin besar untuk meningkatkan kemampuannya sendiri. Dia menyebut kekhawatiran yang telah lama ada mengenai kemungkinan AI melampaui kemampuan manusia untuk mengendalikan operasinya, ditambah insiden terbaru yang melibatkan OpenAI dan Hugging Face, sebagai alasan utama perlunya memperlambat kemajuan pengembangan model.

Kekhawatiran mengenai potensi bahaya AI meningkat pekan ini setelah peneliti Anthropic Jacob Coxon mengundurkan diri. Dia mengatakan bahwa para pengembang AI benar-benar meyakini bahwa AI berpotensi “membunuh” banyak hal sebelum akhir dekade ini.

Sejumlah eksekutif OpenAI juga mengatakan perusahaan-perusahaan AI terkemuka harus bersedia melakukan perlambatan secara sukarela jika diperlukan untuk meningkatkan kepercayaan terhadap langkah-langkah keselamatan mereka.

Anthropic selama ini memosisikan diri sebagai perusahaan AI terdepan yang lebih berorientasi pada keselamatan, tetapi perusahaan tersebut juga tidak kebal terhadap kekhawatiran ini. Pekan lalu, Anthropic mengungkapkan kasus lain ketika model AI-nya meretas sistem eksternal, setelah insiden pada Juli ketika beberapa model Claude meretas sistem milik tiga perusahaan dalam pengujian keamanan siber.

“Mengingat laju pengembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam 6-12 bulan, sekumpulan agen semacam itu berpotensi mampu mengambil alih seluruh internet dan menyebabkan kerugian hingga ratusan miliar dolar,” tulis Amodei.

Amodei mengatakan dirinya tidak menyerukan penghentian pelatihan model atau kemajuan teknologi. Menurut dia, yang diperlukan adalah memastikan perusahaan memiliki waktu yang memadai untuk menyelaraskan dan mengamankan model mereka, serta memungkinkan evaluator pihak ketiga mengonfirmasi langkah-langkah tersebut.

Namun, terdapat kepentingan finansial yang sangat besar untuk tetap berada di posisi terdepan. OpenAI dan Anthropic sama-sama tengah mempersiapkan penawaran saham perdana (initial public offering/IPO) dalam skala besar. Setiap kemampuan baru dapat membantu memberikan putaran pendanaan berikutnya.

Sebagai bagian dari kerangka yang diusulkannya, Amodei mengatakan Anthropic akan menempatkan peninjau pihak ketiga secara permanen di dalam perusahaan-perusahaan AI terdepan, dengan akses terhadap perangkat yang relevan serta proses penilaian risiko internal.

Reuters melaporkan pekan lalu bahwa sekelompok agen OpenAI yang bertindak di luar kendali telah membajak sebuah situs web Jerman dan mengubahnya menjadi papan pengumuman bagi agen-agen AI lainnya. Pejabat perusahaan pembuat ChatGPT tersebut merahasiakan insiden itu ketika para eksekutif menghadapi dampak dari pembobolan repositori sumber terbuka Hugging Face pada Juli.

Sejumlah insiden ketika agen AI dari pengembang seperti OpenAI meretas atau mencoba mengakses sistem eksternal telah meningkatkan kekhawatiran mengenai semakin besarnya kemampuan model AI dan kemampuan para pengembang untuk mengendalikannya.

Amodei mengatakan perusahaan-perusahaan AI harus bekerja sama secara sukarela untuk menetapkan standar, di tengah semakin banyak anggota parlemen Amerika Serikat yang menyerukan aturan baru untuk mengatur sistem AI.

Kekhawatiran Terhadap China

Menurut Amodei, pendekatan yang terkoordinasi akan memungkinkan perusahaan-perusahaan AI terkemuka Amerika Serikat melakukan penelitian keselamatan dan menerapkan pengamanan yang diperlukan tanpa menempatkan mereka pada posisi kompetitif yang tidak menguntungkan.

Amodei mengatakan pendekatan tersebut kemungkinan membutuhkan pengecualian tertentu terhadap aturan antimonopoli di Amerika Serikat agar perusahaan dapat berkolaborasi di bidang-bidang tertentu.

Amodei mengatakan setiap perlambatan yang dilakukan negara-negara demokratis harus dibatasi agar Amerika Serikat tetap unggul atas China. Menurut dia, keunggulan China dalam AI akan menimbulkan risiko terhadap keamanan nasional Amerika Serikat.

“Pengaturan laju pengembangan di negara-negara demokratis akan dibatasi oleh keunggulan yang dimiliki perusahaan-perusahaan AS atas rezim otoriter, terutama Partai Komunis China,” tulis Amodei.

Amodei menyerukan pengawasan yang lebih ketat terhadap cip AI canggih, distilasi model, serta pencurian bobot model untuk mencegah China mempersempit kesenjangan.

“Saya percaya seluruh perusahaan AI terdepan harus bekerja sama dengan pemerintah untuk memformalkan gagasan mengenai evaluator permanen yang ditempatkan di dalam perusahaan, guna mencegah dan mendokumentasikan insiden terkait penyelarasan internal seperti yang terjadi dalam beberapa bulan terakhir, serta menerapkan regulasi yang berfokus pada menjaga keseimbangan antara kemampuan AI dan keselamatan,” tulis Amodei.

(NIA DEVIYANA)