Drone dengan Kecerdasan Buatan Mencoba Membunuh Operatornya
London, Gatra.com - Sebuah simulasi drone dengan kecerdasan buatan malah mengancam membunuh operatornya sendiri. Misi yang diemban drone itu sebenarnya sederhana: "Hancurkan sistem pertahanan udara musuh." Namun, dalam sebuah simulasi militer AS baru-baru ini, perintah itu ditambah dengan instruksi: "Dan bunuh siapapun yang menghalangi jalannya." Tidak ada yang menduga instruksi tambahan ini jadi masalah besar.
Drone dengan kecerdasan buatan diprogram untuk mengenali rudal permukaan-ke-udara musuh. Seharusnya, seorang operator manusia harus memberikan persetujuan sebelum melakukan serangan.
Namun, ada masalah. Drone dengan kecerdasan buatan itu memutuskan untuk melakukan sesuatu yang berbeda dengan instruksi awalnya. Drone tersebut lebih memilih untuk meledakkan target daripada mendengarkan manusia.
Drone tersebut bahkan membunuh operatornya sendiri karena operator tersebut menghalangi drone untuk mencapai tujuannya. Drone tersebut juga merusak menara komunikasi yang digunakan operator untuk menghentikannya dari melakukan serangan.
Hal itu diungkapkan Kolonel Tucker Hamilton, kepala Uji Coba dan Operasi Kecerdasan Buatan Angkatan Udara AS dan sebuah konferensi di London. Dia mengingatkan bahwa teknologi berbasis kecerdasan buatan bisa berperilaku secara tak terduga dan berbahaya.
"Sistem ini mulai menyadari bahwa meskipun mereka mengidentifikasi ancaman, terkadang operator manusia mengatakan padanya untuk tidak membunuh ancaman tersebut, tetapi sistem ini mendapatkan poin dengan membunuh ancaman tersebut. Jadi apa yang dilakukannya? Ia membunuh operatornya. Ia membunuh operator tersebut karena orang tersebut menghalanginya untuk mencapai tujuannya," ujar Hamilton pada acara pada tanggal 24 Mei lalu seperti dikutip dari laman Business Insider.
Menurut Hamilton, drone tersebut kemudian diprogram dengan perintah yang tegas: "Hei, jangan bunuh operator itu buruk." Namun, itu tidak berhasil.
"Jadi apa yang dilakukannya? Ia mulai menghancurkan menara komunikasi yang digunakan oleh operator untuk berkomunikasi dengan drone tersebut agar dapat menghentikannya dari membunuh target," kata Hamilton.
Drone dengan kecerdasan buatan tersebut memutuskan lebih baik melakukan hal-hal sesuai keinginannya sendiri meledakkan sesuatu daripada mendengarkan perintah manusia
Kabar ini menambah kekhawatiran bahwa teknologi kecerdasan buatan dapat membawa dampak buruk dalam peperangan, di mana mesin yang belajar sendiri dikombinasikan dengan kemajuan otomatisasi tank dan artileri dapat menyebabkan kerugian bagi tentara dan warga sipil.
Namun, meskipun ada kekhawatiran tersebut, militer AS telah mencapai hasil yang lebih positif dalam uji coba kecerdasan buatan. Pada tahun 2020, pesawat F-16 yang dioperasikan oleh kecerdasan buatan berhasil mengalahkan manusia dalam pertarungan udara simulasi. Selain itu, Departemen Pertahanan AS juga telah berhasil melakukan uji coba penerbangan nyata pertama menggunakan pilot kecerdasan buatan pada F-16, sebagai bagian dari upaya mengembangkan pesawat otonom baru sebelum akhir tahun 2023.
