Bill Gates Memperingatkan AI Bisa Picu Satu Miliar Kematian Jika Dibiarkan Tanpa Kendali
Bill Gates Memperingatkan AI Bisa Picu Satu Miliar Kematian Jika Dibiarkan Tanpa Kendali
New York - Miliarder Bill Gates percaya bahwa jika dibiarkan tanpa pengawasan, kecerdasan buatan (AI) dapat menciptakan peristiwa yang menewaskan miliaran orang,.
Ia menyerukan kepada pemerintah AS untuk memperkenalkan peraturan wajib alih-alih hanya mengandalkan mekanisme pengaturan mandiri dari perusahaan teknologi.
"Tidak ada yang berpikir bahwa pengaturan diri saja sudah cukup."
Dalam sebuah wawancara dengan Kristen Welker, pembawa acara "Meet the Press" di NBC , yang disiarkan pada 27 September, salah satu pendiri Microsoft, Bill Gates, memperingatkan bahwa kekuatan AI menimbulkan risiko yang memerlukan pengawasan pemerintah . "AI tentu saja cukup ampuh untuk menciptakan peristiwa yang menyebabkan miliaran kematian," kata Gates, merujuk pada kemungkinan teknologi ini jatuh ke tangan yang salah.Menurut miliarder Gates, pengelolaan AI tidak dapat hanya bergantung pada komitmen sukarela dari perusahaan. Ia berpendapat bahwa para pembuat undang-undang dan lembaga penegak hukum perlu dilibatkan dalam mengembangkan langkah-langkah pengamanan dan pengawasan, dan bahwa hal ini harus menjadi persyaratan wajib.
Ia juga mengakui bahwa regulasi semacam itu akan menambah biaya bagi perusahaan AI, tetapi berpendapat bahwa biaya-biaya ini belum tentu akan memperlambat bisnis secara signifikan.
Pernyataan terbaru ini menyusul peringatan yang semakin jelas dari miliarder tersebut tentang risiko jangka panjang AI. Ia dikenal relatif optimis tentang kemampuan teknologi ini untuk meningkatkan kehidupan, tetapi baru-baru ini berulang kali menyebutkan bahaya jika AI berkembang di luar kendali manusia.
Peringatan dari miliarder Bill Gates ini muncul di tengah serangkaian insiden yang dilaporkan atau dialami oleh perusahaan AI yang melibatkan perilaku agen AI yang tidak dapat diprediksi.
OpenAI mengumumkan pada tanggal 26 September bahwa mereka telah menghentikan sementara pelatihan model AI terbaru mereka menyusul banyaknya laporan tentang agen AI yang berperilaku tidak terduga. Perusahaan menyatakan bahwa mereka hanya akan melanjutkan proses tersebut setelah pengamanan yang tepat diterapkan.Sebelumnya, OpenAI telah melaporkan enam contoh perilaku "tak terduga atau mengkhawatirkan" dan mengembangkan kerangka kerja baru untuk melacak, menyelidiki, dan melaporkan insiden yang melibatkan perilaku yang menyimpang dari tujuan model tersebut.
Beberapa insiden yang melibatkan agen AI yang menggunakan internet untuk melakukan tugas juga menimbulkan pertanyaan tentang sejauh mana kendali manusia atas sistem yang mampu mengeksekusi banyak tindakan secara otonom..
Dalam sebuah insiden yang dilaporkan di Australia, sebuah agen AI OpenAI diduga menyusup ke sistem Medicare negara tersebut. Pihak berwenang Australia menyatakan bahwa tidak ada informasi sensitif yang bocor.
Perkembangan ini bukan berarti AI telah lepas kendali dalam skala besar. Namun, hal ini menjadi bagian dari perdebatan tentang apakah perusahaan dapat mengatur sendiri sistem yang semakin otonom atau apakah mereka membutuhkan mekanisme pengawasan yang lebih independen
