Seorang peneliti keselamatan senior di Anthropic Evan Hubinger memperingatkan bahwa kemajuan AI begitu pesat hingga ia meyakini ada peluang lebih dari 10 bahwa teknologi ini "bisa membunuh seluruh umat manusia" dalam satu dekade mendatang.

Peneliti Anthropic Yakin Ada Peluang Lebih dari 10 AI Bisa Membunuh Seluruh Umat Manusia, Ini 5 Faktanya

1. Eksistensi Manusia dalam Bahaya

Dalam sebuah unggahan di X, Evan Hubinger menyatakan bahwa risiko dari model-model yang ada saat ini tergolong "rendah", namun ia "khawatir" teknologi tersebut dapat berkembang dan meningkatkan kemampuannya sendiri dalam waktu dekat hingga mencapai titik yang menimbulkan risiko eksistensial bagi umat manusia.

Ia tidak merinci bagaimana menurutnya sistem AI di masa depan dapat menyebabkan kepunahan manusia.

Namun, komentarnya merupakan bagian dari serangkaian peringatan yang semakin tegas mengenai AI, di mana perdebatan telah bergeser dari pertanyaan apakah AI benar-benar menimbulkan risiko menjadi seberapa besar risiko tersebut.

2. AI Bisa Melampui Kemampuan Manusia

Pernyataan Hubinger ini muncul sebagai tanggapan atas unggahan lain di X dari Jacob Coxon, seorang peneliti AI yang baru saja keluar dari Anthropic dan sebelumnya pernah bekerja di OpenAI.

"Tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab," tulisnya."Sistem-sistem ini akan segera menjadi sistem yang melampaui kemampuan manusia (superhuman), yang mampu meretas apa saja, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata."

Pihak OpenAI telah dimintai tanggapan.

Dame Wendy Hall, seorang ilmuwan komputer yang menjadi penasihat PBB terkait AI, mengatakan kepada BBC bahwa ia "terkejut" dengan unggahan media sosial Hubinger dan Coxon.

Ia mengatakan kepada program World at One di BBC Radio Four bahwa sebagian dari hal tersebut mungkin saja merupakan strategi "humas dan pemasaran", mengingat Anthropic dan OpenAI sedang bersaing menuju debut pasar saham yang sangat dinanti-nantikan.

Namun, ia menambahkan: "Mengapa ada orang yang ingin mengatakan hal seperti itu? Saya akan mendesak para investor untuk tidak menanamkan modal di perusahaan ini jika sistem nilai mereka seperti itu."Secara terpisah, Financial Times melaporkan bahwa Anthropic tidak menyerahkan model terbarunya kepada Institut Keselamatan AI Inggris (AISI), salah satu badan terkemuka di dunia dalam penilaian risiko AI.

Anthropic menolak berkomentar mengenai unggahan karyawannya maupun situasi terkait AISI tersebut. Juru bicara Kantor Kabinet tidak berkomentar mengenai apakah model terbaru tersebut sengaja tidak diberikan kepada AISI; sebaliknya, mereka menyatakan bahwa pihaknya "terus bekerja sama erat dengan mitra industri, termasuk Anthropic, untuk membuat model-model tersebut lebih aman".

3. Biangnya Adalah Superinteligensi

Dalam unggahannya yang telah dilihat lebih dari 10 juta kali, Hubinger mengatakan bahwa "kami benar-benar sangat yakin" bahwa AI menimbulkan risiko kepunahan bagi umat manusia.

"Saya yakin Anthropic sedang berupaya sebaik mungkin, namun kami belum memiliki rencana untuk mengatasi masalah penyelarasan bagi superinteligensi dan belum berada di jalur yang jelas untuk mencapainya," tambahnya.

Hubinger bekerja di bidang penyelarasan AI, yang bertujuan untuk menanamkan gagasan dan prinsip etika manusia ke dalam teknologi tersebut. Dengan kata lain, tujuannya adalah memastikan teknologi itu tetap sejalan dengan nilai-nilai yang dianut manusia.

Banyak peneliti terkemuka mengatakan bahwa upaya-upaya tersebut tampaknya gagal, sebagaimana ditunjukkan oleh serangkaian insiden pada musim panas ini di mana agen AI—sistem AI yang diizinkan beroperasi secara otonom—melakukan serangan siber.OpenAI, Anthropic, dan Meta semuanya mengungkapkan adanya peretasan yang dilakukan oleh perangkat AI mereka.

Dalam laporan keselamatan Anthropic bulan Agustus, perusahaan tersebut menulis bahwa terdapat risiko rendah model mereka menjadi tidak selaras dengan keinginan organisasi hipotetis yang kuat, yang dapat menyebabkan model tersebut mengeksploitasi atau memanipulasi sistemnya sendiri.

4. AI Bisa Melakukan Peneliytian dan Pengembangan Otomatis

Laporan itu juga menyebutkan adanya risiko rendah serupa di mana AI yang sangat kapabel mampu "melakukan penelitian dan pengembangan otomatis" yang dapat menyebabkan "bahaya katastropik yang dipicu oleh AI". Namun, mereka menyatakan "kurang yakin dengan penilaian ini" dibandingkan sebelumnya.

"Kami melihat tanda-tanda awal adanya potensi percepatan," tulis mereka.

Tokoh-tokoh terkemuka di bidang AI telah lama memperingatkan tentang ancaman keselamatan yang ditimbulkan oleh teknologi ini, termasuk pernyataan dari para pimpinan OpenAI, Google Deepmind, dan Anthropic pada tahun 2023.

Namun, peringatan-peringatan tersebut menjadi jauh lebih mendesak dalam beberapa minggu terakhir, seiring munculnya bukti bahwa perusahaan-perusahaan mungkin kesulitan mengendalikan AI.

5. Manusia Harus Pegang Kendali

Awal bulan ini, kepala ilmuwan OpenAI, Jakub Pachocki, menyerukan "kehati-hatian tingkat tinggi" terhadap kemajuan AI, seraya memperingatkan bahwa intervensi lebih lanjut mungkin diperlukan untuk memastikan "manusia tetap memegang kendali atas masa depan".

Tokoh-tokoh penting di bidang ini telah menyerukan agar pengembangan AI diperlambat dalam beberapa bulan terakhir, termasuk para petinggi Anthropic, Dario Amodei dan Jared Kaplan. Dalam sebuah surat terbuka yang ditandatangani oleh 1.300 staf perusahaan AI, mereka mendesak pemerintah AS untuk "mendukung upaya internasional guna mengembangkan perangkat teknis dan tata kelola yang diperlukan untuk secara sengaja mengatur laju pengembangan AI terdepan yang bersifat otomatis".