Gunakan AI Jadi Laporan Intelijen, Militer AS Nyaris Perang Besar Melawan China

Militer AS segera bertindak dengan rencana untuk mencegat kapal tersebut. Menurut dua sumber, anggota militer AS bersenjata sedang bersiap untuk menaiki kapal tersebut. Pesawat militer berada di udara.

Tepat sebelum operasi yang direncanakan, para pejabat menyelidiki lebih dalam laporan yang disusun oleh seorang analis komando operasi khusus dan menemukan bahwa laporan tersebut dihasilkan dengan bantuan kecerdasan buatan (AI) — dan bahwa chatbot yang digunakan analis tersebut secara tidak akurat mengidentifikasi material yang dibawa kapal tersebut. CNN tidak dapat mengetahui apa muatan yang salah diidentifikasi tersebut.

Menurut salah satu sumber, laporan tersebut "sepenuhnya salah." Tetapi laporan itu juga "hampir memicu perang," kata sumber tersebut. Operasi AS apa pun terhadap kapal China dapat berisiko berubah menjadi konflik bersenjata antara kedua negara.

Di seluruh militer AS dan komunitas intelijen, para pejabat mendorong untuk mengintegrasikan AI ke hampir setiap aspek pekerjaan mereka, mulai dari menganalisis sejumlah besar intelijen mentah yang dikumpulkan AS dan memilih target untuk serangan, hingga aplikasi yang lebih sederhana seperti mengelola anggaran, logistik, dan rantai pasokan.

Namun, kejadian ini menggarisbawahi risiko besar penggunaan teknologi baru yang ampuh dan relatif kurang dipahami ini untuk penargetan di tengah perang. Para analis telah lama khawatir bahwa AI dapat menyebabkan kesalahan perhitungan yang fatal jika negara-negara bergantung pada data yang buruk atau rusak — jenis kesalahan perhitungan yang dapat menyebabkan Amerika Serikat menembaki kapal Tiongkok berdasarkan informasi yang tidak akurat.

Melansir CNN, dalam kasus khusus ini, analis tersebut menanyakan kepada chatbot tentang beberapa laporan intelijen mengenai manifes kapal yang berasal dari Komando Operasi Khusus AS Pasifik, yang berbasis di Hawaii. Tidak jelas apakah chatbot tersebut merupakan produk komersial atau produk pemerintah AS.

“Alat internal sebagian besar hanyalah salinan dari produk komersial yang diberi sentuhan berbeda,” kata seorang mantan pejabat senior AS yang familiar dengan sistem AI yang digunakan oleh analis militer dan intelijen.

Bot tersebut menggabungkan intelijen sumber terbuka dengan intelijen sinyal rahasia yang dimiliki pemerintah dan mencapai kesimpulan yang menentukan tentang material yang dibawa kapal tersebut.

Analis tersebut kemudian menggunakan AI lagi untuk mengemas temuan tersebut ke dalam laporan intelijen standar — jenis laporan yang dipercaya oleh pejabat militer — dan menyebarluaskannya.Komando Operasi Khusus AS Pasifik dan Pentagon tidak menanggapi permintaan komentar.

Alasan di balik adopsi AI yang cepat adalah karena AI dapat membantu militer dalam mengambil keputusan di medan perang, seperti target mana yang akan diserang atau aset militer mana yang akan dipindahkan ke mana, dengan lebih cepat. Para pejabat mengatakan AS tidak boleh tertinggal dalam mengintegrasikan AI jika suatu hari nanti harus melawan Tiongkok atau musuh lain yang berpotensi mampu selangkah lebih maju dari AS.

Pada bulan Januari, Menteri Pertahanan Pete Hegseth merilis "Strategi Percepatan Kecerdasan Buatan" dari lembaganya dalam upaya untuk mempercepat penggunaan AI oleh militer.

"Kita akan melakukan eksperimen, menghilangkan hambatan birokrasi, memfokuskan investasi kita, dan menunjukkan pendekatan eksekusi yang dibutuhkan untuk memastikan kita memimpin dalam AI militer," kata Hegseth dalam pidato yang mengumumkan strategi tersebut.

Menteri Perang Pete Hegseth memberikan kesaksian selama sidang Komite Alokasi Senat di Gedung Kantor Senat Dirksen di Capitol Hill pada 21 Juli 2026 di Washington, DC.Strategi ini juga mendorong penggunaan AI secara luas di seluruh militer, memerintahkan departemen untuk menyediakan AI melalui beberapa program dengan tujuan “mendemokratisasi eksperimen dan transformasi AI di seluruh Departemen dengan menempatkan model AI terkemuka dunia Amerika langsung di tangan tiga juta personel sipil dan militer kita, di semua tingkat klasifikasi,” sebuah memo yang mengumumkan strategi tersebut mengatakan.

Namun, upaya ini bersifat terdesentralisasi, kata beberapa pejabat AS yang mengetahui dinamika tersebut, dengan berbagai bagian pemerintah menggunakan alat yang berbeda di bawah perintah dan standar keamanan yang berbeda. Tidak ada satu set standar pun tentang bagaimana AS memverifikasi informasi tersebut yang dihasilkan oleh perangkat-perangkat ini. Beragam sistem AI yang diterapkan oleh berbagai unit di lingkungan militer dan komunitas intelijen memiliki tingkat keandalan dan fungsionalitas yang sangat bervariasi.

Selama berminggu-minggu, para pembuat kebijakan di Washington telah memperdebatkan isu AI secara intensif menyusul serangkaian peringatan keras dari para insinyur Silicon Valley dan CEO perusahaan teknologi mengenai kemungkinan AI lepas dari kendali manusia, yang berpotensi menimbulkan dampak yang dapat mengakhiri peradaban.

Namun, insiden yang melibatkan kapal China tersebut menyoroti risiko lain yang lebih mendesak: manusia mengambil keputusan fatal berdasarkan informasi yang tidak akurat atau menyesatkan yang dihasilkan oleh AI atau sistem otomatis lainnya. Menurut sejumlah sumber, pihak militer kini semakin gencar beralih ke AI untuk membantu penentuan target—sebuah bidang yang jelas-jelas menyimpan risiko terjadinya kesalahan fatal.

"Penggunaan AI dalam penentuan target jelas sedang meningkat, namun belum ada pedoman yang memadai mengenai bagaimana pelibatan manusia dalam proses tersebut dapat mencegah jatuhnya korban sipil atau insiden salah sasaran terhadap rekan sendiri," ujar sumber lain yang memahami kebijakan militer saat ini.Menurut salah satu sumber, fenomena "halusinasi" seperti yang muncul pada perangkat yang digunakan analis dalam kasus ini bukanlah kejadian tunggal di lingkungan komunitas intelijen sejak perangkat-perangkat tersebut mulai banyak digunakan di instansi pemerintah.

Bagi sebagian pejabat intelijen senior—termasuk mereka yang pada dasarnya mendukung penggunaan AI di militer—kehadiran AI telah memberikan tekanan pada analis untuk menghasilkan dan menyebarluaskan informasi intelijen dengan lebih cepat, sehingga membuka peluang terjadinya kesalahan. Beberapa sumber menyebutkan bahwa para analis muda, khususnya, merupakan generasi yang sangat akrab dengan perangkat-perangkat ini dan cenderung lebih mudah memercayainya tanpa sikap kritis.

"AI memungkinkan Anda sampai pada gagasan yang keliru dengan lebih cepat," ungkap salah satu sumber tersebut.