Serangan AS dan israel ke iran Bukti Keterlibatan AI dalam Militer

Anthropic menjelaskan mengapa mereka menolak mengizinkan teknologi AI mereka digunakan untuk tujuan militer.

Perusahaan pengembangan kecerdasan buatan (AI) Anthropic telah menjelaskan mengapa mereka menolak memberikan akses tak terbatas kepada militer AS terhadap model AI mereka, Claude, setelah hubungan antara kedua pihak berakhir pekan lalu.

Sebelumnya, Pentagon, melalui Departemen Perang, memerintahkan Anthropic untuk mengizinkan penggunaan Claude untuk semua tujuan yang "sah".

Namun, perusahaan tersebut menolak permintaan tersebut, khususnya pada dua poin: penggunaan AI untuk pengawasan massal warga AS dan senjata otonom.

Akibat penolakan tersebut, Anthropic dicantumkan sebagai risiko rantai pasokan pertahanan, label yang biasanya diterapkan pada pihak asing.

CEO-nya, Dario Amodei, dalam sebuah wawancara dengan jaringan berita CBS, mengatakan bahwa jangka waktu tiga hari yang diberikan kepada pemerintah AS untuk mengambil keputusan terlalu singkat.Ia juga mengklaim bahwa ada amandemen pada teks perjanjian yang memungkinkan alasan "keamanan nasional" digunakan untuk memperluas penggunaan Claude di luar konteks militer.

Amodei menekankan bahwa saat ini belum ada model kecerdasan buatan yang cukup matang untuk memastikan bahwa sistem senjata yang sedang dikembangkan tidak akan melakukan kesalahan.

Ia mengatakan bahwa jika kesalahan terjadi, masalah pertanggungjawaban masih belum jelas dan ini membutuhkan diskusi yang lebih luas yang melibatkan Kongres dan masyarakat Amerika.

Anthropic sebelumnya memiliki kontrak senilai hingga USD200 juta dengan Pentagon, tetapi kontrak tersebut dihentikan setelah mereka menolak untuk melonggarkan persyaratan keamanan yang ditetapkan.

Keputusan tersebut mengakibatkan perusahaan lain yang berurusan dengan Pentagon juga dilarang menggunakan teknologi Claude.

Setelah penghentian kontrak, OpenAI dilaporkan mengambil alih peran tersebut dan mencapai kesepakatan baru untuk mengizinkan penggunaan model mereka di jaringan rahasia Pentagon, dengan kondisi keamanan tertentu.

Namun, laporan media AS mengungkapkan bahwa Komando Pusat AS (CENTCOM) masih menggunakan Claude dalam operasi militer, termasuk serangan udara terhadap Iran, hanya beberapa jam setelah Presiden Donald Trump memerintahkan semua lembaga federal untuk menghentikan penggunaannya