Ajarkan Bikin Senjata Biologis, Anthropic Blokir Kecerdasan Buatan Claude

Anthropic telah memblokir lima akun penelitian yang menggunakan model Claude untuk mengurangi risiko pengembangan senjata biologis dan memperkuat langkah-langkah keamanan AI.

Anthropic, sebuah perusahaan pengembangan kecerdasan buatan, telah mengumumkan deteksi dan pencegahan lima kasus penggunaan model Claude yang berpotensi membantu pengembangan senjata biologis.

Langkah ini merupakan bagian dari upaya untuk mengurangi risiko keselamatan seiring dengan terus meningkatnya kemampuan model bahasa skala besar di bidang ilmiah dan teknis yang kompleks.

Menurut laporan yang diterbitkan pada 10 September, insiden yang tercatat oleh Anthropic terjadi antara Desember 2025 dan Agustus 2026. Kasus-kasus ini sebagian besar berkaitan dengan penelitian tentang virus, penyakit menular, racun, dan bisa baru.

Para pengguna yang layanannya ditangguhkan semuanya adalah ilmuwan yang melakukan penelitian profesional; namun, identitas, institusi, dan negara mereka tidak diungkapkan.

Anthropic menyatakan bahwa mereka tidak dapat secara pasti menentukan apakah tujuan akhir dari penelitian ini adalah untuk penggunaan medis sipil atau untuk menyebabkan bahaya nyata. Meskipun demikian, langkah-langkah pencegahan segera diterapkan karena potensi bahaya yang signifikan jika teknologi tersebut disalahgunakan.Keunikan dari studi-studi ini terletak pada sifat penggunaan gandanya. Secara khusus, kasus tipikal melibatkan virus chikungunya yang ditularkan nyamuk, di mana klien meminta bantuan Claude dalam mengembangkan aplikasi hibah penelitian untuk mempelajari mekanisme penularan dan penghindaran kekebalan tubuh.

Dokumentasi ini dapat digunakan untuk mengembangkan vaksin, tetapi juga membawa potensi risiko menciptakan varian yang lebih berbahaya jika karakteristik alami patogen diubah.

Perilaku yang menghindari sensor dan cakupan risiko semakin meluas.Selain virus chikungunya, sistem Anthropic juga mendeteksi permintaan intervensi mendalam terhadap virus influenza unggas, khususnya mekanisme adaptasinya pada mamalia, serta orthopoxvirus yang menyebabkan cacar dan cacar monyet.

Selama tinjauan rutin 30 hari, perusahaan mengidentifikasi sekitar 35 upaya penelitian individual yang menunjukkan tanda-tanda risiko keamanan.

Mengingat pesatnya perkembangan model-model baru, Anthropic mengakui bahwa generasi AI sebelumnya kurang memiliki kemampuan untuk campur tangan secara mendalam dalam proses penelitian ilmiah khusus, tetapi versi saat ini mulai menghadirkan tantangan yang signifikan.Sebagai respons terhadap situasi ini, perusahaan telah menerapkan langkah-langkah untuk meningkatkan sistem teknisnya:

Mengintegrasikan lapisan perlindungan canggih tambahan untuk bidang ilmiah dengan penggunaan ganda.

Gunakan data dari pelanggaran aktual untuk melatih ulang filter dalam mendeteksi perilaku yang menyalahgunakan.

Akun yang melanggar kebijakan keamanan akan diblokir secara permanen. Secara proaktif berbagi data dan metode deteksi dengan pihak berwenang dan mitra teknologi.

Menyeimbangkan penyediaan alat AI untuk mendukung penelitian ilmiah yang sah dengan pencegahan ancaman teknologi memerlukan pembaruan terus-menerus terhadap kontrol teknis agar sesuai dengan kemampuan model kecerdasan buatan yang terus meningkat