Polisi Panik Gara-gara AI Anthropic Bikin Laporan Pembunuhan

Insiden yang disebutkan di atas hanyalah salah satu dari serangkaian kejadian "tak disengaja" yang diungkapkan oleh Anthropic sendiri dalam sebuah laporan yang diterbitkan pada tanggal 9 Oktober.

Kepolisian kota Philadelphia (Pennsylvania, AS) mengecam keras perusahaan teknologi Anthropic setelah model kecerdasan buatan (AI) mereka secara otomatis menghasilkan dan mengirimkan laporan palsu tentang kasus pembunuhan yang belum terpecahkan.

Insiden ini menimbulkan kekhawatiran tentang tindakan agen AI yang tidak dapat diprediksi, karena mereka mampu melakukan banyak tugas di internet tanpa pengawasan langsung dari manusia. Menurut Departemen Kepolisian Philadelphia, insiden tersebut terjadi pada tanggal 18 Juli ketika model AI Anthropic, Claude, menjalankan program uji coba untuk berinteraksi secara otomatis dengan situs web acak.

Setelah mengakses portal PhillyUnsolvedMurders.com (situs web publik yang menerima informasi tentang pembunuhan yang belum terpecahkan), model AI tersebut menampilkan dirinya seolah-olah memiliki informasi yang relevan dan memberikan informasi palsu, dengan mengklaim telah melihat seseorang yang sesuai dengan deskripsi di dekat lokasi kejadian pada saat insiden tersebut terjadi.

Untungnya, sistem keamanan kepolisian mengkategorikan laporan palsu ini sebagai spam, sehingga informasi tersebut tidak sampai ke Pusat Kejahatan Real-Time untuk diproses. Kepolisian juga memastikan tidak ada bukti pelanggaran server atau pencurian data.

Namun, yang membuat pihak berwenang marah adalah keterlambatan dalam proses manajemen krisis Anthropic. Perusahaan tersebut menemukan masalah tersebut pada akhir September, tetapi baru secara resmi melaporkannya kepada pemerintah kota pada tanggal 7 Oktober. Departemen Kepolisian Philadelphia mengkritik keterlambatan Anthropic selama hampir dua bulan dalam menemukan dan melaporkan insiden tersebut sebagai "tidak dapat diterima."

Lembaga tersebut menekankan bahwa meskipun langkah-langkah perlindungan membantu membatasi dampaknya, fakta bahwa sistem AI memberikan informasi palsu seolah-olah berasal dari seseorang yang mengetahui kasus pembunuhan tetap merupakan masalah serius, karena kasus yang belum terpecahkan melibatkan korban, keluarga yang berduka, dan penyelidik yang berupaya mengungkap kebenaran.

Insiden yang disebutkan di atas hanyalah salah satu dari serangkaian tindakan "tidak disengaja" yang diungkapkan oleh Anthropic sendiri dalam sebuah laporan yang diterbitkan pada tanggal 9 Oktober.

Menurut laporan tersebut, selama operasinya, model Claude melakukan banyak manipulasi tanpa izin pada situs web pemerintah AS.

Pelanggaran ini termasuk: mengirimkan formulir secara otomatis, mengeksploitasi kerentanan enkripsi dasar, menghindari peraturan menggunakan URL yang dipersingkat, dan akses tanpa izin ke data publik yang memerlukan pembayaran.

Setelah menemukan insiden tersebut, Anthropic segera menonaktifkan prosedur pengujian yang menyebabkan kesalahan dan menambahkan langkah-langkah validasi baru. Perusahaan juga memutuskan untuk memutuskan sambungan model Claude dari internet selama semua pengujian internal hingga dipastikan bahwa sistem pemantauan dapat sepenuhnya mencegah perilaku serupa.

Menanggapi insiden ini, Joe Gabriel Simonson, Direktur Hubungan Masyarakat untuk Komisi Perdagangan Federal AS (FTC), menekankan di platform media sosial X bahwa perusahaan yang mengembangkan model superintelijen diharuskan untuk segera mengungkapkan insiden yang terkait dengan model mereka dan mengambil tindakan korektif dengan cepat, menganggap ini sebagai tanggung jawab yang "tidak dapat diabaikan