Donald Trump Bicara Soal Risiko Kepunahan Umat Manusia Akibat AI

Presiden AS Donald Trump telah menyuarakan penentangannya terhadap prospek AI yang akan menghancurkan umat manusia di tengah gelombang peringatan risiko dari para peneliti di OpenAI dan Anthropic.

Pada tanggal 10 September, Presiden AS Donald Trump menepis kekhawatiran bahwa kecerdasan buatan (AI) dapat mengancam kelangsungan hidup umat manusia.

Pernyataan ini muncul tak lama setelah sejumlah peneliti terkemuka di dua laboratorium AI perintis, OpenAI dan Anthropic, secara terbuka memperingatkan tentang laju perkembangan teknologi ini yang tak terkendali.

Ketika ditanya oleh wartawan apakah ia khawatir bahwa AI akan menyebabkan kepunahan umat manusia, Donald Trump dengan jujur menjawab: "Tidak, saya tidak memiliki kekhawatiran seperti itu."

Sebaliknya, pemimpin Gedung Putih menekankan risikogeopolitik: "Saya hanya khawatir jika kita tidak memenangkan perlombaan AI, Amerika akan berada dalam posisi yang sangat tidak menguntungkan. Saat ini, kita unggul dariChinadengan selisih yang cukup aman, saya perkirakan sekitar satu tahun, dan itu adalah keunggulan yang sangat signifikan."

Persaingan untuk dominasi AI antara AS dan Tiongkok semakin intensif seiring dengan semakin canggihnya model AI Tiongkok dan meluasnya jangkauan globalnya.Gelombang peringatan yang semakin meningkat dari para peneliti.Pernyataan Presiden Donald Trump bertentangan dengan kekhawatiran mendalam di antara perusahaan-perusahaan AI terkemuka. Pada tanggal 8 September, peneliti Jacob Coxon mengumumkan pengunduran dirinya dari Anthropic, karena khawatir perusahaan tersebut dan pesaingnya, OpenAI, "bertaruh dengan nyawa manusia."

Ia menyatakan bahwa banyak insinyur yang membangun sistem tersebut percaya bahwa AI berisiko "menghancurkan kita semua pada akhir dekade ini." Pandangan ini kemudian digaungkan oleh banyak karyawan lain di industri tersebut.

Inti dari kekhawatiran terkait keamanan AI berpusat pada peningkatan diri rekursif (RSI), sebuah mekanisme yang memungkinkan model untuk meningkatkan kemampuannya sendiri tanpa campur tangan manusia.

"Sulit untuk melebih-lebihkan bahayanya karena kita dengan cepat mendekati RSI,"peringatkan Jasmine Wang, seorang peneliti tentang keselarasan keselamatan AI di OpenAI. Sebelumnya, kepalailmuwanOpenAI, Jakub Pachocki, juga menyatakan kekhawatiran bahwa laju perkembangan saat ini dapat memicu mekanisme peningkatan diri yang berulang:

"Saya khawatir tidak ada yang siap menerima konsekuensi dari peningkatan pesat kecerdasan mesin."Pandangan Presiden Trump juga memicu perdebatan di Washington, di mana para anggota parlemen dari partai Republik dan Demokrat berupaya memperketat regulasi.

Pada bulan Juli, Perwakilan Jay Obernolte (Partai Republik) dan Lori Trahan (Partai Demokrat) mengumumkan rencana untuk memperkenalkan RUU FRONTIER, sebuah rancangan undang-undang yang bertujuan untuk menetapkan kerangka hukum untuk mengatur penerapan model AI canggih."Para peneliti keselamatan mengundurkan diri, model AI yang canggih lepas kendali di laboratorium, dan perusahaan masih terus maju. Sudah saatnyaKongresturun tangan,"kata Trahan di media sosial.

Awal September lalu, Senator Bernie Sanders dan Perwakilan Greg Casar juga memperkenalkan Rancangan Undang-Undang Larangan Kecerdasan Buatan Super, yang mengusulkan penghentian sementara pengembangan sistem kecerdasan buatan (ASI) hinggapemerintah federalmengeluarkan peraturan keselamatan yang komprehensif.