Mundur dari Anthropic, Jacob Coxon Peringatkan AI Bisa Lepas dari Kendali Manusia

Jacob Coxon menilai Anthropic dan OpenAI sama-sama berlomba menuju superintelijen yang mampu memperbaiki dirinya sendiri.

Seorang peneliti kecerdasan buatan (AI) mengundurkan diri dari Anthropic, perusahaan pengembang chatbot Claude, pada Selasa (8/9/2026). Jacob Coxon menuding Anthropic dan pesaing utamanya, OpenAI, tidak bertindak secara bertanggung jawab dalam perlombaan membangun AI yang mampu memperbaiki dirinya sendiri.

"Tidak ada satu pun dari kedua perusahaan itu yang bertindak secara bertanggung jawab. Mereka berlomba lurus menuju superintelijen yang dapat memperbaiki dirinya sendiri dan mempertaruhkan nyawa kita," tulis Coxon melalui akun X miliknya.

Unggahan itu menyebar dengan cepat. Majalah TIME mencatat unggahan tersebut dilihat lebih dari 90 juta kali dalam waktu kurang dari 24 jam, sedangkan WIRED melaporkan jumlah tayangannya telah melampaui 100 juta kali.

Coxon adalah warga Inggris berusia 27 tahun dan lulusan matematika Universitas Cambridge. Selama sekitar tiga tahun, ia menangani riset pretraining, yakni tahap pelatihan awal model AI menggunakan data dalam jumlah sangat besar, di OpenAI dan Anthropic. Ia pindah ke Anthropic pada awal tahun ini. Menurut Slate, salah satu pertimbangannya adalah reputasi Anthropic sebagai perusahaan yang lebih peduli pada keselamatan AI.Kepada TIME, Coxon menjelaskan bahwa keputusannya tidak dipicu oleh satu terobosan tertentu. "Pertama, jelas bahwa segala sesuatunya bergerak makin cepat. Kedua, semua itu tidak berada di bawah kendali," ujarnya.

Dalam rangkaian unggahannya, Coxon meminta publik tidak meremehkan kekuatan teknologi ini. Ia memperkirakan AI akan segera menjadi sistem berkemampuan melampaui manusia yang dapat meretas apa pun, mengubah bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata. Menurut dia, banyak pembangun AI sungguh-sungguh meyakini teknologi ini dapat memusnahkan manusia sebelum dekade ini berakhir.

Coxon juga membedakan kedua bekas tempatnya bekerja. Di OpenAI, menurut dia, banyak pihak belum sepenuhnya memahami taruhan peradaban dari teknologi tersebut. Di Anthropic, risiko itu dipahami dengan baik, tetapi perusahaan terjebak dalam perlombaan karena meyakini tidak ada pihak lain yang akan bertindak bertanggung jawab.

Pernyataan Coxon mendapat dukungan dari dalam Anthropic. Evan Hubinger, salah satu pemimpin riset penyelarasan (alignment) di perusahaan itu, menulis bahwa ia secara pribadi memperkirakan peluang AI membunuh seluruh manusia lebih dari 10 persen dalam satu dekade ke depan.

"Saya yakin Anthropic sedang berusaha sebaik mungkin, tetapi kami belum memiliki rencana untuk menyelesaikan alignment bagi superintelijen dan belum jelas berada di jalur menuju ke sana," tulis Hubinger. Ia menambahkan, risiko dari model AI yang ada saat ini masih rendah.Anthropic menanggapi melalui pernyataan kepada CBS News, Kamis (10/9/2026). Perusahaan itu menyatakan selalu terbuka bahwa AI akan membawa manfaat sangat besar sekaligus risiko yang belum pernah terjadi sebelumnya. "Untuk mengatasi risiko tersebut, kami terus membangun model dengan sejumlah pengaman terkuat di industri," kata juru bicara Anthropic. Anthropic juga menyebut dirinya pelopor mechanistic interpretability, ilmu untuk menelaah bagian dalam model AI guna memahami cara kerjanya.

Dalam wawancara dengan CBS News, Coxon menegaskan platform AI saat ini tidak menimbulkan ancaman langsung bagi umat manusia dan aman digunakan sehari-hari. Kekhawatirannya tertuju pada sistem masa depan. Menurut dia, AI yang berperilaku jahat tidak dapat dimatikan begitu saja. "Anda tidak bisa sekadar mencabut stekernya, karena ia bisa menyalin dirinya ke komputer lain," ujarnya.

Coxon tidak meminta bekas rekan kerjanya ikut mundur. Ia menilai mereka setidaknya perlu melihat situasi dengan jernih dan lebih terbuka menyuarakan apa yang terjadi. Ia juga mendorong regulasi pemerintah serta kesepakatan antarperusahaan untuk tidak memasuki wilayah berbahaya tanpa audit transparan dari pihak ketiga.

Peringatan senada datang dari luar laboratorium AI. Greg Jensen, Chief Investment Officer Bridgewater Associates yang juga termasuk penyokong awal OpenAI dan Anthropic, menyamakan situasi saat ini dengan Februari 2020, menjelang pandemi Covid-19 meluas.

"Sampai AI mulai membunuh orang, sejarah menunjukkan kita tidak akan melakukan apa-apa," ujar Jensen dalam siniar Odd Lots milik Bloomberg, Jumat (11/9/2026).