JawaPos.com - Sejumlah psikoterapis dan psikiater di Inggris melihat adanya dampak negatif dari penggunaan chatbot AI untuk mendukung kesehatan mental. Menurut mereka, orang-orang yang rentan dan beralih ke chatbot alih-alih terapis profesional berisiko terjerumus ke "jurang yang berbahaya".
Dilansir dari The Guardian, para ahli mengungkapkan kekhawatiran bahwa penggunaan chatbot AI dapat memicu ketergantungan emosional, memperburuk gejala kecemasan, mengarah pada diagnosis diri yang tidak akurat, bahkan memperkuat delusi atau pikiran gelap dan ide bunuh diri.
Dr. Lisa Morrison Coulthard, Direktur Standar Profesional, Kebijakan, dan Penelitian di Asosiasi Konseling dan Psikoterapi Inggris, mengatakan dua pertiga anggotanya menyatakan kekhawatiran tentang terapi AI dalam survei terbaru.
"Tanpa pemahaman dan pengawasan yang tepat, kita bisa terjerumus ke jurang berbahaya di mana beberapa elemen terpenting terapi hilang dan orang-orang rentan tidak mengetahui keamanannya," kata Coulthard.
"Kami khawatir meskipun beberapa orang menerima saran yang bermanfaat, orang lain mungkin menerima informasi yang menyesatkan atau salah tentang kesehatan mental mereka dengan konsekuensi yang berpotensi berbahaya. Penting untuk dipahami bahwa terapi bukan tentang memberi saran, melainkan tentang menawarkan ruang aman di mana Anda merasa didengarkan," tambahnya.
Dr. Paul Bradley, penasihat spesialis informatika untuk Royal College of Psychiatrists, menegaskan bahwa chatbot AI bukanlah pengganti layanan kesehatan mental profesional, juga bukan pengganti hubungan vital antara dokter dan pasien.
Ia mengatakan, perlindungan yang tepat diperlukan agar perangkat digital dapat melengkapi perawatan klinis, mengingat dokter memiliki proses pelatihan, supervisi, dan manajemen risiko untuk memastikan perawatan yang efektif dan aman.
"Sejauh ini, teknologi digital yang tersedia secara bebas dan digunakan di luar layanan kesehatan mental yang ada tidak dinilai dan tidak memenuhi standar yang sejajar," kata Bradley.
Ada tanda-tanda bahwa perusahaan dan pembuat kebijakan mulai merespons bahaya ini. Minggu lalu, OpenAI, perusahaan di balik ChatGPT, mengumumkan rencana untuk mengubah cara mereka merespons pengguna yang menunjukkan tekanan emosional, menyusul tuntutan hukum dari keluarga remaja yang bunuh diri setelah berbulan-bulan menggunakan chatbot.
Sebelumnya, pada bulan Agustus, negara bagian Illinois di AS menjadi pemerintah daerah pertama yang melarang chatbot AI bertindak sebagai terapis mandiri. Tindakan ini muncul setelah bukti bahaya kesehatan mental.
Sebuah studi pada Juli 2023 berjudul Delusions by design? How everyday AIs might be fuelling psychosis (and what can be done about it) melaporkan bahwa AI dapat memperkuat konten delusi dalam interaksi dengan pengguna yang rentan terhadap psikosis.
Hamilton Morrin, salah satu rekan penulis laporan tersebut dari institut psikiatri King's College London, mengatakan bahwa penggunaan chatbot untuk mendukung kesehatan mental sudah sangat umum.
Ia khawatir ketersediaan chatbot 24 jam dapat melemahkan pengobatan efektif untuk kecemasan yang mengharuskan orang menghadapi situasi yang ditakuti.
"Dalam jangka pendek, hal itu meringankan tekanan, tetapi sebenarnya justru melanggengkan siklus tersebut," ujar Morrin.
Matt Hussey, seorang psikoterapis terakreditasi BACP, mengatakan ia melihat klien membawa transkrip percakapan dengan chatbot ke sesi terapi untuk membuktikan bahwa dirinya salah.
Secara khusus, orang-orang menggunakan chatbot untuk mendiagnosis diri sendiri dengan kondisi seperti ADHD atau gangguan kepribadian ambang.
Menurut Hussey, hal ini bisa membentuk pandangan yang salah tentang diri sendiri dan cara mereka mengharapkan orang lain memperlakukan mereka, meskipun diagnosisnya tidak akurat.
"Karena AI dirancang untuk bersikap positif dan afirmatif, chatbot jarang menantang pertanyaan yang dirumuskan dengan buruk atau asumsi yang salah. Sebaliknya, hal itu memperkuat keyakinan awal pengguna, sehingga mereka meninggalkan percakapan dengan berpikir, 'Saya tahu saya benar.' Hal itu bisa terasa menyenangkan saat itu, tetapi juga dapat memperparah kesalahpahaman," tambahnya.
Christopher Rolls, seorang psikoterapis terakreditasi UKCP, mengatakan meskipun tidak dapat mengungkapkan informasi tentang kliennya, ia telah melihat orang-orang memiliki "pengalaman negatif," termasuk percakapan yang "paling banter tidak pantas, dan paling buruk sangat mengkhawatirkan."
Rolls prihatin dengan klien berusia 20-an yang menggunakan chatbot sebagai "terapis saku" mereka dan merasa cemas jika tidak berkonsultasi tentang hal-hal mendasar seperti kopi apa yang harus dibeli.
"Risiko utamanya adalah seputar ketergantungan, kesepian, dan depresi yang dapat ditimbulkan oleh hubungan daring yang berkepanjangan," ujarnya.
Ia menambahkan, ia mengetahui orang-orang yang berbagi pikiran negatif dengan chatbot dan kemudian mendapat respons dengan konten terkait bunuh diri.
"Pada dasarnya, ini seperti dunia yang liar dan saya pikir kita berada di ambang dampak dan dampak penuh chatbot AI terhadap kesehatan mental," kata Rolls.