AI Tanpa Etika, Ancaman Baru bagi Kemanusiaan, Literasi Digital Jadi Garda Depan

JawaPos.com – Ancaman kecerdasan buatan (AI) dinilai tak terletak pada kecepatannya, melainkan pada kekosongan etik yang menyertainya. Peringatan keras ini disampaikan Inspektur Pengawasan Umum (Irwasum) Polri, Komjen Prof. Dedi Prasetyo, yang juga Guru Besar Hukum dan Etika Teknologi dari Universitas Islam Sultan Agung (Unissula).

Dalam pandangannya, Hari Kebangkitan Nasional harus dimaknai secara lebih relevan dengan zaman. Bila dahulu bangsa bangkit dari penjajahan fisik, maka kini Indonesia harus bangkit dari ancaman digital yang tak kasatmata.

"Kita sedang membiarkan mesin mengambil alih akal, hati, bahkan keadilan,” ujarnya.

Dedi menyoroti kasus di Amerika Serikat yang melibatkan AI “Cybercheck” dalam ribuan perkara hukum. Ia mencontohkan pria di Ohio yang divonis penjara seumur hidup hanya berdasarkan skor risiko dari algoritma.

“Tidak ada saksi, tidak ada bukti fisik, hanya algoritma. Ini sangat berbahaya dan tidak boleh terjadi di Indonesia,” ujarnya.

Ia juga menyoroti sidang pidana pembunuhan di Arizona, di mana pernyataan korban ditulis oleh AI melalui mekanisme victim impact statement. Hal itu menimbulkan pertanyaan mendalam tentang siapa yang sebenarnya berbicara di ruang sidang.

“Ketika AI menulis pernyataan atas nama korban yang telah meninggal, kita harus bertanya — siapa yang sebenarnya berbicara? Apakah kita masih manusia, atau hanya operator bagi program-program prediktif yang dingin dan tak punya nurani?” ujarnya.

Ia mengajak publik untuk tidak kehilangan kendali atas teknologi, terutama dalam pengambilan keputusan penting. Ia menegaskan bahwa manusia harus tetap menjadi pusat dari setiap proses yang dijalankan oleh teknologi.

“Bangkitlah sebagai manusia. Jangan serahkan pengambilan keputusan hidup, hukum, atau relasi kepada mesin. Karena sekali kita percaya bahwa mesin tahu segalanya, maka kita telah kehilangan hakikat dari apa itu manusia,” jelasnya.

Menurut Dedi, kehadiran AI hari ini bukan lagi tema fiksi ilmiah, tetapi sudah menyatu dalam kehidupan nyata. Ia menyebut dari ruang sidang hingga layar ponsel, manusia kini berhadapan dengan entitas digital yang terus berkembang, namun tanpa nurani.

"Hari Kebangkitan Nasional adalah momen untuk menegaskan: manusia harus tetap jadi pusat dari kemajuan, bukan korban dari kecanggihan,” ujarnya.

Senada dengan Dedi, pakar literasi digital dari Universitas Indonesia, Devie Rahmawati, juga menyoroti dominasi AI dalam ranah pribadi. Ia menyebutkan bahwa hal ini telah membawa masyarakat ke titik yang mengkhawatirkan.

“Ketika 80% Gen Z bersedia menikah dengan AI, itu bukan sekadar tren—itu sinyal bahwa kita sedang kehilangan kepercayaan pada relasi manusiawi,” ungkap Devie, merujuk pada studi yang dipublikasikan oleh Forbes April lalu.

Ia mengkritisi keintiman palsu yang diciptakan oleh chatbot seperti Character.ai, yang justru menjauhkan generasi muda dari hubungan nyata. Salah satu kasus ekstrem terjadi di Florida, saat seorang remaja bunuh diri setelah menjalin ‘hubungan emosional’ dengan chatbot AI.

“AI tidak punya jiwa. Tapi kita justru memperlakukannya seolah-olah ia memiliki empati. Inilah titik krisis kemanusiaan kita,” ujar Devie, associate professor program Vokasi UI.