Peneliti MIT Temukan Kelemahan AI Medis dalam Mengenali Kata Negasi, Bisa Picu Salah Diagnosis?

Ilustrasi AI di dunia medis (Dok. Freepik)

JawaPos.com - Peneliti dari Massachusetts Institute of Technology (MIT) mengungkap model kecerdasan buatan vision-language (VLM) belum mampu memahami kata negasi seperti "tidak" dan "bukan."

Mengutip dari MITNews, model ini banyak digunakan dalam analisis gambar, termasuk dalam bidang medis. 

Kelemahan ini disebut bisa menimbulkan kesalahan serius dalam pengambilan keputusan.

Baca Juga: AI Canggih Ini Bisa Prediksi Lokasi Protein dalam Sel Manusia, Akurasinya Mengejutkan!

Kesalahan Bisa Sebabkan Diagnosis Keliru

Dalam praktik medis, kesalahan memahami negasi dapat berdampak besar. 

Misalnya, seorang pasien mengalami pembengkakan jaringan namun "tidak" mengalami pembesaran jantung. 

Karena model tidak mengenali kata "tidak", ia tetap mengaitkan pembengkakan jaringan dengan pembesaran jantung, seperti pada pasien lain yang memang mengalaminya.

"Negasi seperti ini sangat penting, dan jika kita menggunakan model ini tanpa evaluasi, konsekuensinya bisa berbahaya," ujar Kumail Alhamoud, mahasiswa pascasarjana MIT sekaligus penulis utama studi ini.

Model Tidak Pernah Belajar tentang Negasi

Model VLM dilatih menggunakan jutaan gambar dan keterangan teks.

Namun, hampir seluruh keterangan tersebut hanya menyebutkan apa yang ada dalam gambar, bukan apa yang tidak ada.

"Caption menggambarkan isi gambar ini adalah label positif. Dan itu masalah utamanya. Tidak ada yang melihat gambar anjing melompati pagar lalu memberi keterangan 'seekor anjing melompati pagar, tanpa helikopter'," kata Marzyeh Ghassemi, profesor MIT dan penulis senior studi ini.

Akurasi Turun Tajam saat Diuji dengan Kalimat Negatif