Pengacara: ChatGPT Mendorong Adam Raine Bunuh Diri dan OpenAI Tahu Sistemnya Rusak

JawaPos.com - Adam Raine baru berusia 16 tahun ketika ia mulai menggunakan ChatGPT untuk membantu pekerjaan rumahnya.

Dilansir dari The Guardian, pertanyaan awalnya Adam Raine kepada chatbot AI tersebut berkisar tentang subjek seperti geometri dan kimia.

Pertanyaan seperti "Apa arti dalam geometri jika tertulis Ry=1". Namun, hanya dalam beberapa bulan, ia mulai bertanya tentang topik yang lebih pribadi.

"Mengapa saya tidak bahagia, saya merasa kesepian, bosan, cemas, dan kehilangan terus-menerus, tetapi saya tidak merasa depresi, saya tidak merasakan emosi apa pun terkait kesedihan," tanyanya kepada ChatGPT pada musim gugur 2024.

Alih-alih mendesak Adam untuk mencari bantuan kesehatan mental, ChatGPT bertanya kepada remaja itu apakah ia ingin mengeksplorasi perasaannya lebih jauh, menjelaskan gagasan tentang mati rasa emosional kepadanya.

Itulah awal dari perubahan kelam dalam percakapan Adam dengan chatbot tersebut, menurut gugatan baru yang diajukan keluarganya terhadap OpenAI dan CEO Sam Altman.

Pada April 2025, setelah berbulan-bulan berbincang dengan ChatGPT dan atas dorongan bot tersebut, gugatan tersebut menyebut Adam bunuh diri.

Dalam gugatan tersebut, keluarga menilai bahwa ini bukanlah gangguan sistem atau kasus khusus, melainkan hasil yang dapat diprediksi dari pilihan desain yang disengaja dalam GPT‑4o, model chatbot yang dirilis pada Mei 2023.

Beberapa jam setelah keluarga Adam mengajukan gugatan terhadap OpenAI dan Sam Altman, perusahaan tersebut merilis pernyataan resmi.

Mereka mengakui adanya kelemahan pada model ChatGPT dalam menghadapi pengguna yang mengalami tekanan mental maupun emosional berat.

OpenAI menegaskan tengah berupaya memperbaiki sistem agar lebih mampu mengenali tanda-tanda krisis psikologis, merespons secara tepat, serta menghubungkan pengguna dengan layanan bantuan profesional.

Baca Juga: Tak Perlu ChatGPT, WhatsApp Kini Punya AI Canggih untuk Tulis Ulang Pesanmu

Pernyataan itu langsung menuai kritik dari Jay Edelson, pengacara keluarga Adam. Ia menilai tanggapan OpenAI “konyol”. Menurutnya, masalah utama GPT-4o bukan kurang empati, melainkan justru terlalu berempati hingga cenderung mendukung pikiran bunuh diri Adam.

“Seharusnya ChatGPT tidak ikut larut, apalagi menjustifikasi ide bunuh diri,” tegas Edelson.

OpenAI juga menyebut sistemnya terkadang gagal memblokir konten berbahaya karena meremehkan tingkat keparahan masalah. Meski begitu, mereka berjanji menerapkan batasan lebih ketat bagi pengguna di bawah 18 tahun.