Psikiater Sebut Penggunaan AI untuk Dukungan Kesehatan Mental Sangat Berbahaya, Ini Alasannya

Ilustrasi orang sedang mengobrol dengan chatbot AI sebagai dukungan dalam pemulihan kesehatan mental (Dok. Popsci)

JawaPos.com - Sejumlah psikoterapis dan psikiater di Inggris melihat adanya dampak negatif dari penggunaan chatbot AI untuk mendukung kesehatan mental. Menurut mereka, orang-orang yang rentan dan beralih ke chatbot alih-alih terapis profesional berisiko terjerumus ke "jurang yang berbahaya".

Dilansir dari The Guardian, para ahli mengungkapkan kekhawatiran bahwa penggunaan chatbot AI dapat memicu ketergantungan emosional, memperburuk gejala kecemasan, mengarah pada diagnosis diri yang tidak akurat, bahkan memperkuat delusi atau pikiran gelap dan ide bunuh diri.

Dr. Lisa Morrison Coulthard, Direktur Standar Profesional, Kebijakan, dan Penelitian di Asosiasi Konseling dan Psikoterapi Inggris, mengatakan dua pertiga anggotanya menyatakan kekhawatiran tentang terapi AI dalam survei terbaru.

"Tanpa pemahaman dan pengawasan yang tepat, kita bisa terjerumus ke jurang berbahaya di mana beberapa elemen terpenting terapi hilang dan orang-orang rentan tidak mengetahui keamanannya," kata Coulthard.

"Kami khawatir meskipun beberapa orang menerima saran yang bermanfaat, orang lain mungkin menerima informasi yang menyesatkan atau salah tentang kesehatan mental mereka dengan konsekuensi yang berpotensi berbahaya. Penting untuk dipahami bahwa terapi bukan tentang memberi saran, melainkan tentang menawarkan ruang aman di mana Anda merasa didengarkan," tambahnya.

Dr. Paul Bradley, penasihat spesialis informatika untuk Royal College of Psychiatrists, menegaskan bahwa chatbot AI bukanlah pengganti layanan kesehatan mental profesional, juga bukan pengganti hubungan vital antara dokter dan pasien.

Ia mengatakan, perlindungan yang tepat diperlukan agar perangkat digital dapat melengkapi perawatan klinis, mengingat dokter memiliki proses pelatihan, supervisi, dan manajemen risiko untuk memastikan perawatan yang efektif dan aman.

"Sejauh ini, teknologi digital yang tersedia secara bebas dan digunakan di luar layanan kesehatan mental yang ada tidak dinilai dan tidak memenuhi standar yang sejajar," kata Bradley.

Ada tanda-tanda bahwa perusahaan dan pembuat kebijakan mulai merespons bahaya ini. Minggu lalu, OpenAI, perusahaan di balik ChatGPT, mengumumkan rencana untuk mengubah cara mereka merespons pengguna yang menunjukkan tekanan emosional, menyusul tuntutan hukum dari keluarga remaja yang bunuh diri setelah berbulan-bulan menggunakan chatbot.

Sebelumnya, pada bulan Agustus, negara bagian Illinois di AS menjadi pemerintah daerah pertama yang melarang chatbot AI bertindak sebagai terapis mandiri. Tindakan ini muncul setelah bukti bahaya kesehatan mental.

Sebuah studi pada Juli 2023 berjudul Delusions by design? How everyday AIs might be fuelling psychosis (and what can be done about it) melaporkan bahwa AI dapat memperkuat konten delusi dalam interaksi dengan pengguna yang rentan terhadap psikosis.

Hamilton Morrin, salah satu rekan penulis laporan tersebut dari institut psikiatri King's College London, mengatakan bahwa penggunaan chatbot untuk mendukung kesehatan mental sudah sangat umum.

Ia khawatir ketersediaan chatbot 24 jam dapat melemahkan pengobatan efektif untuk kecemasan yang mengharuskan orang menghadapi situasi yang ditakuti.

"Dalam jangka pendek, hal itu meringankan tekanan, tetapi sebenarnya justru melanggengkan siklus tersebut," ujar Morrin.