Bill Gates Memperingatkan AI Dapat Memicu Serangan Siber
Pada tanggal 11 Oktober, salah satu pendiri Microsoft, Bill Gates, memperingatkan bahwa serangan siber menggunakan kecerdasan buatan (AI) dapat meningkat tajam di tahun mendatang, karena pelaku jahat mengeksploitasi model canggih yang tidak memiliki mekanisme pertahanan yang efektif.
Dalam sebuah wawancara dengan ABC News, Gates menyatakan bahwa risiko meluasnya penggunaan AI yang tidak terkendali mungkin tidak akan menjadi masalah mendesak selama bertahun-tahun mendatang. Ancaman yang lebih besar dan mendesak datang dari pihak-pihak jahat yang mengeksploitasi AI untuk melakukan aktivitas berbahaya."Area yang berpotensi mengalami perubahan paling signifikan di tahun mendatang adalah serangan siber," kata Gates, seraya juga menyerukan kontrol yang lebih ketat untuk mencegah penggunaan AI untuk serangan siber dan bioterorisme.
Pada hari yang sama, Presiden dan CEO Microsoft, Satya Nadella, menyerukan pengembangan sistem AI canggih dengan mekanisme pemantauan independen, kemampuan isolasi, dan "rem darurat" sehingga personel yang berwenang dapat menghentikan sementara atau mematikan model selama pengoperasian.
Dalam unggahan media sosial pada tanggal 10 Oktober, Nadella menekankan perlunya menggabungkan model AI yang tidak dapat diprediksi dengan sistem kontrol yang kuat, proses operasional yang andal, dan pengawasan manusia.
Ia berpendapat bahwa model AI tingkat lanjut harus dipandang sebagai potensi risiko internal, sehingga perlu dibentuk mekanisme untuk menguji, melacak, dan mencegah insiden yang independen dari model itu sendiri.Peringatan ini muncul di tengah meningkatnya kekhawatiran dalam industri teknologi tentang kesenjangan antara laju pengembangan AI dan kemampuan untuk memastikan keamanannya.
Dalam sebuah artikel dari bulan Agustus, miliarder teknologi Gates memperingatkan bahwa dunia belum sepenuhnya siap menghadapi gangguan yang disebabkan oleh AI, khususnya terhadap pasar tenaga kerja.
Insiden baru-baru ini yang melibatkan model AI Anthropic dan OpenAI juga telah menimbulkan kekhawatiran tentang risiko sistem-sistem ini memberikan informasi yang menyesatkan atau melakukan tindakan di luar kendali mereka.
Baru-baru ini, sebuah model Anthropic mengirimkan petunjuk palsu kepada polisi, dan sebuah model OpenAI melakukan serangan siber terhadap situs web pihak ketiga.
Oleh karena itu, para ahli dan pemimpin teknologi semakin menekankan perlunya memperkuat mekanisme untuk memantau, mengendalikan, dan menanggapi insiden, daripada hanya mengandalkan komitmen keselamatan dari para pengembang
