JawaPos.com - Kemajuan teknologi kecerdasan artifisial (AI) membawa manfaat besar bagi berbagai sektor, namun di sisi lain juga memunculkan tantangan baru dalam keamanan digital. Salah satu yang menjadi sorotan adalah meningkatnya penggunaan teknologi AI untuk memproduksi konten palsu yang semakin sulit dikenali masyarakat.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan AI, khususnya melalui teknologi deepfake, berpotensi memperparah maraknya kasus penipuan digital.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6).
Baca Juga: Resmi Berseragam Persebaya, Ramadhan Sananta Bidik Prestasi dan Target Tinggi Musim Depan
Nezar menjelaskan perkembangan AI saat ini bergerak sangat cepat. Teknologi tersebut tidak lagi berhenti pada generative AI, tetapi telah berkembang menuju agentic AI yang memiliki kemampuan lebih kompleks, termasuk melakukan penalaran dan menjalankan berbagai tugas secara mandiri.
Menurutnya, lompatan inovasi tersebut memang membuka peluang besar bagi peningkatan produktivitas dan efisiensi. Namun, kemajuan itu juga menghadirkan berbagai risiko yang harus diantisipasi sejak dini.
Dalam konteks keamanan siber, ia menyoroti semakin canggihnya modus penipuan yang memanfaatkan AI. Teknologi deepfake, kata Nezar, kini mampu menciptakan bentuk manipulasi yang dikenal sebagai synthetic reality atau realitas sintetik, sehingga batas antara konten asli dan hasil rekayasa semakin kabur.
"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tegasnya.
Ia menambahkan bahwa pengembangan agentic AI perlu dibarengi dengan pengawasan manusia agar keputusan yang dihasilkan sistem tetap dapat dikendalikan dan dipertanggungjawabkan.
Menurut Nezar, sejumlah pakar telah mendorong penerapan mekanisme pengamanan yang lebih ketat, termasuk memastikan manusia tetap memiliki peran dalam proses pengambilan keputusan.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Lebih jauh, Nezar berpandangan bahwa penerapan etika AI tidak cukup hanya mengandalkan komitmen sukarela dari para pengembang. Prinsip-prinsip dasar seperti keterbukaan, akuntabilitas, dan keamanan harus menjadi bagian yang melekat dalam proses perancangan teknologi sejak awal.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.
Baca Juga: Polisi Bongkar Siasat 500 Massa yang Duduki Eks Hotel Sultan Saat Eksekusi: 69 Orang Diamankan
Karena itu, ia mengajak seluruh pemangku kepentingan, mulai dari pengembang teknologi, pelaku industri, akademisi, hingga komunitas pengguna, untuk memperkuat tata kelola AI sekaligus menyiapkan langkah mitigasi risiko secara komprehensif.