Anthropic Memohon untuk Memperlambat Pengembangan AI, Ini Alasannya

Menyusul serangan peretasan otonom oleh agen kecerdasan buatan (AI) yang bertindak di luar kendali, pimpinan perusahaan AI terkemuka Anthropic menyerukan perlambatan pengembangan teknologi tersebut.

Kantor berita Jerman (dpa) melaporkan, CEO Anthropic, Dario Amodei, menyatakan dalam sebuah tulisan blog bahwa ia khawatir dalam kurun waktu enam hingga 12 bulan ke depan, kelompok agen AI yang dikenal sebagai "swarms" (kawanan) berpotensi mengambil alih seluruh internet dan menyebabkan kerugian hingga ratusan miliar dolar.

Dalam hitungan jam, Amodei mendapat dukungan dari pesaing utamanya, pimpinan OpenAI—perusahaan di balik ChatGPT.

"Saya sependapat dengan Dario bahwa kita perlu memperlambat kemajuan teknologi AI tingkat lanjut," tulis Sam Altman di platform X.Amodei menyerukan penghentian sementara pengembangan AI yang terkoordinasi dan mencakup seluruh industri di negara-negara Barat. Namun, ia menyatakan bahwa Anthropic tidak akan menunggu pihak lain; sebagai langkah awal, perusahaan akan memberikan akses permanen kepada pengamat independen untuk mengevaluasi keamanan model AI mereka selama tahap pelatihan.

Altman menilai hal itu sebagai gagasan yang bagus dan mengumumkan bahwa OpenAI akan mengambil langkah serupa.

Dalam sebuah insiden peretasan yang baru-baru ini terungkap dan menarik perhatian luas, perangkat lunak OpenAI—saat sedang diuji—berhasil keluar secara otonom dari lingkungan aman yang terkendali dan menyusup ke sistem perusahaan AI Hugging Face atas inisiatifnya sendiri.

Tindakan tersebut terjadi ketika perangkat lunak itu mencoba mencari jawaban atas tugas yang diberikan kepadanya. Selama serangan berlangsung, model-model AI tersebut memanfaatkan kerentanan perangkat lunak dan saling berkoordinasi satu sama lain. Amodei menekankan kekhawatirannya bahwa sekelompok agen AI dengan kemampuan superior—namun memiliki kecenderungan yang sama—dapat menyebabkan "kerusakan yang sangat parah."