AI Berpotensi Memperburuk Risiko Pemilu di Asia Tenggara Lewat Disinformasi dan Manipulasi Informasi

JawaPos.com – Kecerdasan buatan (AI) dinilai dapat memperburuk risiko pemilu di Asia Tenggara dengan mempercepat produksi disinformasi, akun palsu, dan konten politik yang ditargetkan kepada pemilih.

Dilansir dari laman The Guardian pada Jum'at (2/10), Kekhawatiran tersebut menguat setelah Anthropic mengungkap penggunaan model Claude dalam operasi manipulasi pemilu di Malaysia yang melibatkan sekitar 1.000 akun palsu di X, situs berita palsu bernama Malaysia Pulse, serta dokumen yang direkayasa.

Operasi tersebut menggunakan data sensus dan pemilu untuk membuat profil pemilih di 222 daerah pemilihan parlemen Malaysia serta menargetkan isu sensitif seperti ras, agama, dan institusi kerajaan.

Para ahli menilai kemampuan AI memungkinkan pembuatan konten dalam jumlah besar secara lebih cepat, murah, dan personal sehingga berpotensi memperkuat polarisasi politik di kawasan yang memiliki populasi muda dan sangat terhubung secara digital.

Di Filipina, AI sebelumnya digunakan untuk menghasilkan komentar politik dalam jumlah besar di media sosial, sementara di Indonesia gambar yang dibuat dengan AI turut digunakan dalam kampanye Pemilu 2024.

Risiko tersebut semakin besar karena AI dapat memperkuat prasangka yang sudah ada di masyarakat melalui penyebaran narasi yang menargetkan perbedaan politik, etnis, dan agama.

Anthropic menyatakan telah mengidentifikasi dan menghentikan akun yang digunakan dalam operasi tersebut serta memperkuat sistem pengamanannya, sementara otoritas komunikasi Malaysia juga menyatakan sedang menelaah laporan tersebut.

Para ahli memperingatkan bahwa pada pemilu mendatang di Malaysia, Filipina, Kamboja, dan Indonesia, ruang informasi dapat dibanjiri konten buatan AI yang menyulitkan masyarakat membedakan informasi autentik dari manipulasi.