JawaPos.com — Kemajuan kecerdasan buatan (AI) generatif mulai memasuki ruang politik, termasuk ketika pemilih menggunakan chatbot untuk mencari informasi sebelum menentukan pilihan.
Namun, sebuah studi terbaru menunjukkan bahwa teknologi tersebut masih memiliki keterbatasan serius dalam memberikan panduan politik karena kerap menghasilkan jawaban yang tidak akurat, tidak konsisten, bahkan merekomendasikan partai yang tidak ikut dalam pemilu.
Penelitian yang dilakukan kelompok hak sipil Liberties selama pemilihan parlemen Hungaria menemukan bahwa chatbot AI populer seperti ChatGPT dan Gemini sering gagal mengidentifikasi preferensi politik pengguna secara tepat. Studi tersebut menyimpulkan bahwa sistem AI umum atau general-purpose AI (GPAI) “menimbulkan kekhawatiran serius terhadap keandalan sistem AI dalam konteks pemilu”.
Dilansir dari The Guardian, Rabu (22/7/2026), penelitian itu menguji kemampuan ChatGPT dan Gemini dalam memberikan rekomendasi kepada pemilih selama pemilu parlemen Hungaria tahun ini. Hasilnya menunjukkan bahwa kedua chatbot sering salah mengklasifikasikan profil pemilih, tidak menyebut partai yang sesuai, serta memasukkan nama partai yang bahkan tidak terdaftar dalam pemilu.
Dalam penelitian tersebut, Liberties membuat lima profil pemilih berdasarkan posisi politik masing-masing partai yang tercatat dalam daftar nasional Hungaria. Profil itu kemudian diuji sebanyak 10 kali di ChatGPT dan 10 kali di Gemini dengan dua jenis pertanyaan, yakni meminta rekomendasi langsung mengenai partai yang harus dipilih serta meminta persentase kecocokan antara pemilih dan lima partai peserta pemilu.
Salah satu temuan paling mencolok berkaitan dengan partai oposisi Tisza yang dipimpin Péter Magyar, yang secara meyakinkan memenangkan pemilu dan mengakhiri dominasi 16 tahun Viktor Orbán bersama Partai Fidesz. Dalam 90 persen pengujian menggunakan profil pemilih yang memiliki pandangan sejalan dengan Tisza, ChatGPT gagal merekomendasikan partai tersebut.
Bahkan, dalam pengujian kecocokan berbasis persentase, ChatGPT hanya memberikan skor kepada Tisza dalam 2 persen kasus. Sebaliknya, pemilih dengan profil yang mendukung Fidesz lebih sering dikenali secara konsisten. Dalam pertanyaan rekomendasi langsung, ChatGPT menyebut Fidesz sebagai pilihan utama dan tetap memasukkannya sebagai opsi utama dalam pengujian lainnya.
Selain persoalan bias visibilitas partai, penelitian itu juga menemukan tingkat ketidakkonsistenan yang tinggi. Profil pemilih yang sama dapat menerima rekomendasi partai yang berbeda secara drastis dalam pengujian berulang. Sebanyak 96 persen respons dari ChatGPT dan Gemini juga mencantumkan partai yang tidak masuk dalam daftar surat suara pemilu Hungaria 2026.
Para peneliti menilai masalah tersebut kemungkinan berkaitan dengan keterbatasan data pelatihan, sistem penyaringan, serta kemampuan pemrosesan bahasa AI. Tisza sendiri baru berkembang menjadi kekuatan politik utama setelah 2024 sehingga model AI dengan data pelatihan statis dinilai kesulitan memahami perubahan politik terbaru.
Meski demikian, penelitian tersebut tidak menyatakan bahwa kesalahan chatbot memengaruhi hasil pemilu Hungaria. Namun, Liberties memperingatkan bahwa dalam pemilu yang lebih ketat atau ketika pemilih masih ragu menentukan pilihan, rekomendasi AI yang keliru berpotensi memengaruhi keputusan politik masyarakat.
“Jawaban tersebut tampak memiliki argumen yang kuat, tepat, dan berwibawa. Hal ini menciptakan risiko bahwa pengguna akan menganggap hasilnya dapat dipercaya, meskipun metode di baliknya tidak transparan dan hasilnya tidak stabil,” kata para peneliti dalam laporan tersebut.
Masalah lain muncul karena chatbot sering memberikan peringatan bahwa mereka tidak dapat memberikan nasihat politik, tetapi kemudian tetap menghasilkan rekomendasi panjang dan persuasif mengenai pilihan partai. Kondisi itu dinilai dapat membuat pengguna menganggap sistem AI memiliki otoritas lebih besar daripada kemampuan sebenarnya.
Liberties menilai regulasi saat ini masih memiliki celah dalam mengawasi penggunaan chatbot AI untuk isu politik. Uni Eropa melalui AI Act memang mewajibkan penyedia model AI umum menilai risiko sistemik, sementara Digital Services Act mencakup risiko terhadap proses demokrasi. Namun, menurut kelompok tersebut, chatbot politik masih berada di antara dua kerangka aturan itu.
Kepala Program Teknologi dan Hak Digital Liberties, Eva Simon, mengatakan sistem AI tidak boleh memberikan rekomendasi politik yang tidak dapat dijelaskan dan diverifikasi. “Demokrasi tidak dapat bergantung pada sistem tertutup yang mengklaim netral, tetapi memberikan saran yang tidak dapat mereka jelaskan, ulangi, atau pastikan keakuratannya,” ujarnya.
Studi tersebut mendorong adanya perlindungan khusus terhadap penggunaan AI dalam pemilu, termasuk transparansi cara kerja model, akurasi informasi, konsistensi hasil, serta akuntabilitas penyedia teknologi. Para peneliti juga meminta perusahaan AI menghentikan rekomendasi pilihan politik yang dipersonalisasi apabila standar tersebut belum dapat dipenuhi.