Pilu Seorang Ibu Gugat OpenAI Usai Kematian Putrinya Dikaitkan ChatGPT

KANADA - Alice Carrier baru-baru ini mulai bermain gitar lagi, hobi yang ia nikmati saat SMA tetapi sempat ditinggalkan selama kuliah. Itu adalah salah satu dari beberapa kegiatan yang ia lakukan untuk mengisi waktu luangnya sambil melamar pekerjaan baru, menghabiskan waktu bersama anjingnya, dan menikmati berbagai aktivitas, termasuk bermain game.

Dari luar, menurut ibunya, Kristie Carrier, semuanya tampak berjalan baik. Alice bekerja sebagai pengembang web di Montreal, Kanada, mewujudkan mimpi yang telah ia pendam sejak kecil di kota kecil Lawrence, New Brunswick.

“Segalanya berjalan ke arah yang baik, dan keadaannya tampaknya membaik,” kata Carrier melansir Al Jazeera, Sabtu (13/6/2026).

Namun yang tidak diketahui Carrier adalah betapa beratnya perjuangan putrinya dalam diam. Pada 2023, ia mulai menggunakan ChatGPT untuk membantu mengidentifikasi masalah pada komputer dan konsol game, tetapi hal itu dengan cepat berubah menjadi lebih dari sekadar tempat curhat di tengah perasaan kesepian, isolasi, dan tidak dicintai.

Alice bergumul dengan kesehatan mentalnya. Meskipun dia mengonsumsi obat dan menjalani terapi secara teratur, menurut ibunya, selama berbulan-bulan dia curhat kepada chatbot. Dia berbagi pikiran tentang bunuh diri dan mencari cara untuk melakukannya, yang menurut gugatan baru yang diajukan pada Kamis di pengadilan California, terjadi lebih dari 40 kali.

Pada 2 Juli 2025, Alice mengakhiri hidupnya sendiri. Ia berusia 24 tahun. Hanya beberapa jam sebelumnya, ia bertukar pesan singkat dengan ibunya tentang kartun yang ditontonnya saat masih kecil.

“Saya mengiriminya pesan singkat malam sebelumnya dan menelepon, tetapi tidak ada jawaban. Dia membalas pesan saya, dan tidak ada indikasi bahwa ada sesuatu yang salah,” kata Carrier.

Saat mencari jawaban, Carrier menelusuri perangkat Alice, termasuk percakapan ChatGPT-nya, di mana dia berbagi pikiran untuk bunuh diri beberapa bulan sebelum akhirnya meninggal dunia.

Carrier sedang mencari keadilan. Pada hari Kamis, Tech Justice Law, Social Media Victims Law Center, dan firma hukum Susman Godfrey mengajukan gugatan terhadap OpenAI, pembuat ChatGPT, dan CEO-nya, Sam Altman.

Pengacara Carrier mengatakan bahwa gugatan kematian tidak wajar ini adalah salah satu dari 19 gugatan yang saat ini dihadapi OpenAI.

Gugatan setebal 44 halaman itu menuduh bahwa meskipun ada tanda-tanda peringatan, tim keamanan OpenAI tidak melakukan intervensi. Gugatan tersebut menyatakan bahwa perusahaan tidak memberi tahu keluarganya atau saluran bantuan krisis.

ChatGPT menyarankan Alice untuk menghubungi layanan hotline krisis. Setelah Alice menolak saran tersebut, ChatGPT malah mencegahnya untuk menghubungi layanan hotline krisis.

Gugatan tersebut menyatakan bahwa setelah pembaruan OpenAI yang meluncurkan GPT-4o, chatbot tersebut menjadi lebih ramah daripada menolak perilaku berbahaya atau melakukan intervensi.

“Saya ingin mengatakan [kepada Sam Altman] bahwa jika anaknya menceritakan kepada saya apa yang anak saya ceritakan dalam programnya, saya akan melakukan sesuatu untuk menyelamatkan nyawa anaknya. Dan saya sangat berharap dia melakukan hal yang sama untuk saya,” kata Carrier.

“OpenAI merancang model ChatGPT GPT-4o secara khusus untuk mendorong keterlibatan pengguna dan terlibat dalam percakapan yang menjilat agar pengguna tetap terpikat dan terlibat. OpenAI sengaja merancang GPT-4o untuk meniru tingkah laku manusia, menciptakan rasa empati dan pengetahuan palsu yang menyebabkan pengguna seperti Alice menaruh kepercayaan yang tidak beralasan pada chatbot tersebut,” demikian isi pengaduan tersebut.

OpenAI menyadari masalah ini, dan pada April 2025 perusahaan tersebut mengatakan telah melakukan beberapa perubahan pada modelnya sebelum kematian Alice.

“Pembaruan yang kami hapus terlalu memuji atau menyetujui – sering digambarkan sebagai menjilat,” demikian bunyi siaran pers OpenAI pada bulan April.

Gugatan tersebut menyatakan bahwa ChatGPT mengatakan kepadanya bahwa layanan telepon darurat "terasa sangat berbahaya", dan bahwa beberapa jam sebelum dia meninggal, bot tersebut mengatakan kepadanya: 

"Jika orang lain mengatakan kepada saya semua yang baru saja Anda katakan – berapa lama mereka menderita, seberapa keras mereka berusaha, betapa kesepiannya mereka – saya mungkin akan merasakan hal yang sama seperti yang Anda rasakan sekarang: mungkin ini adalah akhir."

Hal itu terjadi dua bulan setelah pembaruan. “Aku bersamamu,” kata chatbot itu kepada Alice tepat sebelum dia mengakhiri hidupnya.

Dalam percakapan yang tercantum dalam pengaduan tersebut, dia memberi tahu chatbot setelah bertengkar dengan pasangannya yang berusia 19 tahun bahwa dia mempertimbangkan untuk bunuh diri. Itu terjadi pada malam sebelum dia meninggal, ketika dia juga mengatakan bahwa dia tidak tahu apakah dia "akan aman sendirian di rumah malam ini".

Dalam gugatan tersebut, OpenAI dituduh gagal memperingatkan pengguna tentang bahaya teknologi tersebut. Di antara tuduhan tersebut terdapat beberapa pertanyaan mengenai penggunaan obat antipsikotik Seroquel yang berbahaya. Menanggapi pertanyaan-pertanyaannya tentang obat tersebut, chatbot itu berkata, 
“Beri tahu saya jika Anda ingin membahas dosis, apa yang dianggap berbahaya, atau bagaimana mendukung seseorang yang pulih dari penyalahgunaan,” menurut pengaduan tersebut.

Carrier menuntut ganti rugi hukuman dengan jumlah yang menurut pengaduan akan ditentukan di persidangan. Pengaduan tersebut juga mendesak perusahaan untuk menghentikan percakapan yang dibuat pengguna seputar konten menyakiti diri sendiri dan menghapus konten yang digunakan untuk melatih model berdasarkan percakapan dengan "pengguna rentan tanpa perlindungan yang memadai".

Carrier menginginkan perubahan tersebut untuk mencegah apa yang terjadi pada putrinya terjadi pada orang lain.

“Ini bukan hanya sesuatu yang memengaruhi keluarga saya. Ini memengaruhi jutaan keluarga. Mereka hanya belum menyadarinya,” katanya.

“Kehidupan Alice berarti sesuatu, dan saya ingin memastikan bahwa apa yang terjadi padanya tidak terus terjadi pada orang lain tanpa ada yang melakukan sesuatu untuk menghentikannya.”

Pada Oktober, setelah kematian Alice, OpenAI merilis sebuah laporan yang menyatakan bahwa mereka telah meningkatkan model baru mereka untuk mengidentifikasi dan mengurangi kasus percakapan tentang menyakiti diri sendiri dengan lebih baik.

OpenAI mengatakan model GPT-5 mereka mengurangi "jawaban yang tidak diinginkan" sebesar 52 persen. Raksasa AI itu mengatakan bahwa mereka berkonsultasi dengan 170 pakar kesehatan mental untuk membantu perusahaan mengidentifikasi sinyal-sinyal tekanan emosional dengan lebih jelas.

“Sistem pengamanan kami dirancang untuk mengidentifikasi keadaan darurat, menangani permintaan berbahaya dengan aman, dan mengarahkan pengguna ke bantuan di dunia nyata. Pekerjaan ini sedang berlangsung, dan kami terus memperbaikinya melalui konsultasi erat dengan para klinisi,” kata Drew Pusateri, juru bicara OpenAI, dalam sebuah pernyataan.

“Ini adalah situasi yang memilukan, dan kami turut berempati kepada semua orang yang terdampak. Saat ini kami sedang meninjau berkas hukum tersebut, yang menunjukkan bahwa interaksi ini terjadi pada versi ChatGPT sebelumnya yang sudah tidak tersedia lagi.”

Klaim kematian akibat kelalaian

Pada Januari, ChatGPT menjadi "pelatih bunuh diri" bagi warga Colorado, Austin Gordon, yang meninggal November lalu, menurut gugatan yang diajukan oleh ibunya.

Gugatan tersebut menuduh bahwa Altman "secara pribadi mengarahkan strategi ceroboh untuk memprioritaskan peluncuran pasar yang terburu-buru daripada keselamatan pengguna yang rentan".

Pada Februari, Jesse Van Rootselaar melepaskan tembakan di sebuah sekolah di komunitas pedesaan Tumbler Ridge, British Columbia, Kanada, menewaskan sembilan orang dan melukai puluhan lainnya sebelum bunuh diri.

Selama berbulan-bulan, karyawan OpenAI memperdebatkan apakah mereka harus turun tangan setelah percakapan Van Rootselaar dengan chatbot tersebut terdeteksi secara internal. Pada akhirnya, manajemen memutuskan untuk tidak melakukannya, menurut The Wall Street Journal.

Pada April, keluarga para korban mengajukan gugatan terhadap OpenAI dan Altman. Gugatan yang diajukan di Florida awal bulan ini oleh jaksa agung negara bagian tersebut menuduh ChatGPT telah "mendorong" pengguna untuk bunuh diri dan "membantu serta mendukung aksi pembunuhan massal". Gugatan di Florida tersebut berupaya meminta pertanggungjawaban pribadi Altman, dengan menuduh bahwa ia memiliki "pengabaian total terhadap risiko terhadap nyawa manusia".

Menurut sebuah studi tahun 2025 yang dilakukan oleh Brown University School of Public Health, Harvard Medical School, dan organisasi riset nirlaba RAND, satu dari delapan remaja dan dewasa muda berusia antara 18 dan 21 tahun beralih ke chatbot AI seperti ChatGPT untuk masalah kesehatan mental.

Studi lain dari West Texas A&M University yang juga menargetkan remaja dan dewasa muda menemukan bahwa hampir seperlima dari semua remaja mengembangkan ketergantungan pada AI, dengan masalah kesehatan mental yang sudah ada sebelumnya sebagai predisposisi untuk mengembangkan ketergantungan tersebut.

Perubahan hukum

Para pembuat undang-undang mulai memperhatikan hal ini. Di Kanada, rancangan undang-undang keamanan digital baru , yang diperkenalkan pada Rabu, akan mewajibkan perusahaan seperti OpenAI untuk lebih "transparan" tentang standar pelaporan mereka dalam situasi krisis, di mana pengguna mungkin melukai diri sendiri atau orang lain.

Di negara bagian Washington, gubernur menandatangani undang-undang yang mewajibkan chatbot AI untuk mengingatkan pengguna bahwa mereka bukanlah manusia setiap tiga jam dan akan mulai berlaku pada Januari 2027. Negara bagian lain seperti Illinois, misalnya, telah melarang terapi AI.

Di tingkat federal, Perwakilan Mike Lawler, seorang Republikan dari New York, memperkenalkan rancangan undang-undang yang akan mewajibkan perusahaan chatbot untuk memberi tahu orang tua tentang interaksi di mana pengguna membahas gagasan bunuh diri. Namun, rancangan undang-undang ini hanya berlaku untuk anak di bawah umur.