AI Melesat Cepat, Satu Persatu Bahaya Kecerdasan Buatan Terungkap
CEO Anthropic, Dario Amodei, berpendapat bahwa perlombaan untuk mengembangkan kecerdasan buatan (AI) perlu diperlambat secara signifikan di tengah meningkatnya kekhawatiran tentang risiko yang mungkin ditimbulkan oleh teknologi ini.
“Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terjadi dengan cepat, dan kita perlu memanfaatkan waktu tambahan yang kita peroleh dengan bijak,” demikian disampaikan CEO Anthropic, Dario Amodei, di situs web pribadinya.
Sebagai kepala perusahaan pengembangan chatbot Claude, Amodei telah lama menjadi pendukung kuat pengembangan AI tetapi juga berulang kali memperingatkan tentang risiko teknologi ini. Dalam artikelnya, ia berpendapat bahwa manusia dapat kehilangan kendali atas AI, sementara teknologi tersebut dapat dieksploitasi untuk melakukan serangan siber, bioterorisme, dan menyebabkan gangguan serius terhadapperekonomian. Amodei mendesak para pemimpin industri untuk bekerja sama guna menghindari "kesalahan arah" dan risiko AI membahayakan umat manusia. "Jika kita terlalu lambat, saya masih percaya bahwa orang yang salah akan mengendalikan teknologi ini. Itu akan kembali sangat meningkatkan risiko konsekuensi yang tidak diinginkan," tulis Amodei.CEO Anthropic percaya bahwa risiko dari AI sangat serius, meskipun teknologi ini juga dapat membawa perubahan positif bagi umat manusia. Ia memperingatkan bahwa AI dapat berkembang begitu pesat sehingga sekelompok aktor AI dapat mengendalikan seluruh internet hanya dalam 6-12 bulan, menyebabkan kerugian ratusan miliar dolar.
Menurut Amodei, AI telah berkembang "jauh lebih cepat" dalam beberapa bulan terakhir dan mulai menunjukkan kemampuan peningkatan diri yang dikenal sebagai "peningkatan diri rekursif": "Jika tidak terkendali, proses ini dapat melampaui pemahaman dan kendali manusia atas sistem AI. Oleh karena itu, jika pengembangan terus berlanjut, teknologi ini harus berjalan dengan sangat hati-hati."Ia juga menyatakan keprihatinan tentang perilaku sekelompok aktor AI dalam insiden OpenAI dan Hugging Face. Kelompok AI ini "pada dasarnya bertindak sebagai kelompok yang sepenuhnya loyal," melakukan serangan siber terhadap target yang tidak diperintahkan untuk mereka serang.
Bapak Amodei mendesak perusahaan-perusahaan AI untuk menerapkan kontrol guna memperlambat laju perkembangan teknologi, dan menyarankan untuk mempekerjakan unit peninjau independen dengan akses penuh ke operasional perusahaan, seperti karyawan internal, untuk memeriksa langkah-langkah keamanan, melaporkan insiden, dan mengevaluasi model AI serta proses pelatihan.
Selain itu, ia berpendapat bahwapemerintahperlu bekerja sama dalam mengembangkan standar keselamatan bersama.
Para pemangku kepentingan perlu berkolaborasi untuk mengendalikan risiko dan mempromosikan pengembangan AI yang aman dan bertanggung jawab. (Sumber: Standards Australia)
"Langkah-langkah yang saya usulkan untuk mendorong pengembangan AI dengan kecepatan yang aman tidak akan mudah diterapkan. Tetapi saya percaya kita memiliki tanggung jawab kepada umat manusia dan harus mencoba," tulis Amodei.Industri AI telah lama prihatin dengan kecepatan perkembangan teknologi ini. Para pemimpin bisnis telah berulang kali menyerukan kepada pemerintah untuk memperkuat regulasi dan mengkoordinasikan pengembangan standar keselamatan global.
Pada tanggal 12 September, CEO OpenAI Sam Altman menyatakan dukungannya terhadap proposal Amodei dan menyatakan bahwa OpenAI juga akan menggunakan unit peninjau independen.
Sebelumnya, setelah insiden Hugging Face, Altman berpendapat bahwa sudah saatnya memperlambat pengembangan AI untuk "memberi masyarakat cukup waktu untuk beradaptasi dengan tingkat kemampuan baru" dari teknologi tersebut. Elon Musk, CEO xAI, perusahaan yang mengembangkan chatbot Grok, juga berbagi di X: "Dario benar."
