GPT-5 Mulai Beri Saran Medis, Siapa yang Bertanggung Jawab jika Salah?

JawaPos.com – Peluncuran GPT 5 oleh OpenAI pada Kamis lalu sempat digadang-gadang sebagai lompatan besar menuju kecerdasan buatan umum (artificial general intelligence).

CEO OpenAI, Sam Altman, bahkan sempat mengatakan kemampuan model ini membuat dirinya merasa "tidak berguna dibandingkan AI". Ia membandingkan beban moral pengembangan GPT-5 dengan para ilmuwan pencipta bom atom.

Namun, menurut laporan MIT Technology Review, euforia itu ternyata cepat terbentur realita. Alih-alih menjadi terobosan yang mengubah wajah teknologi, GPT-5 justru dinilai lebih sebagai pembaruan produk dengan tampilan interaksi yang lebih mulus, bukan lompatan besar dalam kecerdasan mesin.

Beberapa pengguna awal melaporkan kesalahan mencolok dalam jawaban GPT-5, membantah klaim Altman bahwa AI ini bisa bekerja layaknya "ahli setara PhD di bidang apa pun".

Fitur andalannya yang otomatis memilih jenis model sesuai kebutuhan pertanyaan, juga dinilai belum matang, bahkan mengurangi kendali pengguna.

Sisi positifnya, GPT-5 disebut lebih jarang memberikan pujian berlebihan kepada pengguna, masalah yang kerap ditemui di versi sebelumnya.

Menariknya, OpenAI kini mulai menyoroti penggunaan GPT-5 di bidang Kesehatan, salah satu ranah paling sensitif.

Pada masa awal ChatGPT cenderung menghindari menjawab pertanyaan medis, lengkap dengan sederet disclaimer. Namun, kebijakan itu mulai longgar, GPT-5 kini tak hanya menerjemahkan istilah medis dari hasil pemeriksaan, tapi juga memberi saran hingga mengarahkan pada diagnosis awal.

OpenAI bahkan meluncurkan HealthBench untuk mengukur kemampuan AI dalam topik kesehatan, serta mempublikasikan studi yang menunjukkan dokter di Kenya membuat lebih sedikit kesalahan diagnosis ketika dibantu AI.

Dalam acara peluncuran, Altman menghadirkan kisah nyata karyawan OpenAI, Felipe Millon, dan istrinya, Carolina, yang mengandalkan ChatGPT untuk memahami hasil biopsi dan mempertimbangkan opsi perawatan kanker.

Meski kisah itu terdengar inspiratif, para ahli memperingatkan risiko besar di baliknya. Salah satunya adalah potensi masyarakat mengandalkan saran medis AI tanpa memverifikasinya ke dokter.

Dua hari sebelum peluncuran GPT-5, Annals of Internal Medicine mempublikasikan kasus seorang pria yang mengalami keracunan bromida setelah mengikuti saran ChatGPT. Ia hampir meninggal dan harus dirawat berminggu-minggu di rumah sakit.

Menurut Damien Williams, asisten profesor ilmu data dan filsafat di University of North Carolina Charlotte, masalah terbesar ada pada akuntabilitas.

"Jika dokter memberi saran medis yang keliru, pasien bisa menuntut melalui jalur malpraktik. Tapi jika ChatGPT yang memberi saran berbahaya, apa jalur hukumnya?” ujarnya.

Dengan kata lain, GPT-5 memang membuka peluang baru dalam pemanfaatan AI di bidang kesehatan, namun sekaligus membawa pertanyaan besar, siapa yang bertanggung jawab ketika AI salah langkah? (*)