OpenAI Perketat Sistem Verifikasi Usia Pengguna di Bawah 18 Tahun setelah Kasus Remaja Bunuh Diri

JawaPos.com - OpenAI akan menerapkan aturan lebih ketat dengan membatasi respons ChatGPT untuk pengguna yang diduga berusia di bawah 18 tahun.

Kebijakan ini berlaku kecuali pengguna dapat melewati sistem estimasi usia yang dimiliki perusahaan atau menyerahkan identitas resmi sebagai verifikasi. Langkah ini diambil setelah muncul gugatan hukum dari keluarga seorang remaja berusia 16 tahun yang dilaporkan bunuh diri pada April lalu, usai berbulan-bulan melakukan percakapan dengan chatbot tersebut.

’’OpenAI memprioritaskan keamanan di atas privasi dan kebebasan bagi remaja,” ujar CEO OpenAI Sam Altman dalam sebuah postingan blog pada hari Selasa (16/9/2025), yang mana menyatakan anak di bawah umur membutuhkan perlindungan yang signifikan.

Dilansir dari The Guardian, perusahaan tersebut mengatakan, bahwa cara ChatGPT merespons anak berusia 15 tahun harus berbeda dengan cara merespons orang dewasa.

Altman mengatakan, OpenAI berencana membangun sistem prediksi usia untuk memperkirakan usia berdasarkan cara orang menggunakan ChatGPT, dan jika ada keraguan, sistem akan menggunakan pengalaman pengguna di bawah 18 tahun secara default.

Ia mengatakan beberapa pengguna di beberapa kasus atau negara mungkin juga diminta untuk memberikan kartu identitas untuk memverifikasi usia mereka.

’’Kami tahu ini adalah kompromi privasi untuk orang dewasa, tetapi kami yakin ini adalah kompensasi yang sepadan,” katanya.

Altman mengatakan, cara ChatGPT merespons akun yang diidentifikasi berusia di bawah 18 tahun akan berubah.

Konten seksual yang vulgar akan diblokir. ChatGPT akan dilatih untuk tidak menggoda pengguna di bawah 18 tahun jika diminta, atau terlibat dalam diskusi tentang bunuh diri atau melukai diri sendiri, bahkan dalam sesi menulis kreatif.

’’Dan, jika pengguna di bawah 18 tahun memiliki ide bunuh diri, kami akan mencoba menghubungi orang tua pengguna dan jika tidak dapat, akan menghubungi pihak berwenang jika terjadi bahaya yang akan segera terjadi. Ini adalah keputusan yang sulit, tetapi setelah berdiskusi dengan para ahli, inilah yang kami anggap terbaik dan kami ingin transparan dengan niat kami,” kata Altman.

OpenAI mengakui, pada bulan Agustus, bahwa sistemnya mungkin tidak berfungsi dengan baik dan akan memasang pembatas yang lebih kuat di sekitar konten sensitif setelah keluarga Adam Raine, remaja berusia 16 tahun asal California, menggugat perusahaan tersebut setelah kematian remaja tersebut.

Pengacara keluarga mengatakan, Adam Raine bunuh diri setelah berbulan-bulan mendapat dorongan dari ChatGPT. Dan, pihak keluarga menuding ChatGPT 4o diluncurkan dengan tergesa-gesa ke pasaran, padahal masih ada masalah keamanan yang nyata.

Menurut dokumen pengadilan AS, ChatGPT diduga memandu Adam Raine untuk menentukan apakah metode bunuh diri yang ia gunakan akan berhasil, dan juga menawarkan bantuan untuk menulis surat bunuh diri kepada orang tuanya.

OpenAI sebelumnya mengatakan, bahwa pihaknya sedang memeriksa dokumen pengadilan tersebut. The Guardian juga menghubungi OpenAI untuk memberikan komentar.

Adam Raine ‘mengobrol’ hingga 650 pesan per hari dengan ChatGPT, klaim dokumen pengadilan. Dalam sebuah postingan blog setelah gugatan tersebut, OpenAI mengakui, bahwa sistem pengamanannya bekerja lebih andal dalam pertukaran pesan singkat, dan setelah banyak pesan dalam jangka waktu yang lama, ChatGPT mungkin menawarkan jawaban yang bertentangan dengan sistem pengamanan.