Waspada Data Poisoning yang Bisa Bikin Kacau AI, Wamenkomdigi Nezar Patria Ingatkan Jaga Dataset

JawaPos.com - Teknologi kecerdasan buatan alias Artificial Intelligence (AI) masih punya potensi memberi informasi keliru, bias, bahkan potensi terpapar manipulasi data.

Menurut Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria, mutu dan keamanan data yang baik merupakan kunci untuk melindungi masyarakat dari risiko AI tersebut.

Saat ini, yang perlu diwaspadai adalah data poisoning alias menyuntikkan data berbahaya pada AI. Praktik data poisoning berpotensi merusak sistem AI dan berdampak langsung pada publik.

Mulai dari kesalahan dalam pengambilan keputusan otomatis hingga penyalahgunaan data pribadi.

“Jika kita ingin inovasi AI yang berkelanjutan dan berdaulat, maka manajemen data yang kita bicarakan pada hari ini menjadi sangat penting. Kita butuh manajemen data yang kuat dan harus menjadi pijakan penting,” terang Nezar dalam Data and AI Conference 2026 di Jakarta Pusat, Rabu (11/2).

Dia mengajak publik untuk fokus pada tiga aspek. pertama adalah kualitas dataset yang digunakan. Data yang tidak bersih, tidak terstandar, atau tidak terverifikasi berisiko menghasilkan keputusan yang menyimpang dan merugikan masyarakat luas.

“AI sangat rawan untuk menjadi kacau kalau terjadi data poisoning, misalnya (akibat) data yang tidak bersih,” tegasnya.

berikutnya adalah regulasi yang adaptif, yakni aturan yang mampu menjaga privasi dan etika sekaligus tetap memberi ruang bagi inovasi untuk berkembang.

“Regulasi kita harus adaptif, harus cukup kokoh untuk melindungi privasi dan etika, namun juga cukup lincah untuk mendorong eksperimen dan inovasi. Kita mencoba memberikan proteksi tapi kita tidak menghambat inovasi-inovasi,” jelasnya.

Prinsipnya, antara antara perlindungan dan pertumbuhan harus seimbang serta mencegah konsentrasi data yang melemahkan kedaulatan digital.

Aspek terakhir adalah penyusunan standar manajemen data yang melibatkan kolaborasi antara sektor publik dan swasta.

Standar tersebut diperlukan agar dataset yang dipakai dalam pengembangan AI benar-benar bersih, relevan, serta representatif.

“Di sini penting sekali pertemuan kita pagi ini untuk bisa membahas lebih dalam tentang bagaimana standar manajemen data. DAMA saya kira bisa membantu di sini, yang bisa melibatkan sektor publik dan juga privat,” katanya.

Nezar menegaskan bahwa tantangan terbesar dalam pemanfaatan teknologi mutakhir bukan terletak pada teknologinya, melainkan pada kesiapan sumber daya manusia dan tata kelola prosesnya.

“Problem dalam pemanfaatan teknologi terbaru ini bukan di teknologi yang terbesar, tapi pada people dan juga process. Tanpa talenta yang kompeten di bidang data dan AI, saya kira kedaulatan yang kita bicarakan hanya menjadi retorika saja,” tegasnya.