Agentic AI Bisa Ambil Keputusan Sendiri, Wamen Komdigi Nezar Ingatkan Kendali Manusia

Nezar juga menyoroti kemungkinan munculnya silent autonomy. Kondisi ini menggambarkan sistem yang dapat mengembangkan penalaran dan menentukan tindakan tanpa sepenuhnya diketahui manusia.

Perkembangan Agentic AI tidak cukup hanya dinilai dari kemampuannya menyelesaikan pekerjaan. Penting juga memastikan keputusan yang dibuat tetap dalam kendali manusia.

“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah mengambil pendekatan berbasis risiko untuk menjaga keseimbangan inovasi dan perlindungan manusia,” tegasnya.

Nezar mengatakan prinsip human centric dan human in the loop adalah elemen penting dalam merancang tata kelola AI.

Teknologi bisa mengambil alih pekerjaan untuk efisiensi, tapi kewenangannya perlu dibatasi dan keputusan tertentu tetap melibatkan manusia.

Pengamanan AI tak lepas dari pengelolaan data dan proses pengembangan teknologi. Menurut Nezar, risiko muncul sejak tahap data hingga sistem menghasilkan keputusan.

Ia mencontohkan prompt injection dan data poisoning yang dapat memengaruhi cara AI bekerja dan hasil keputusannya. Maka keamanan siber harus berjalan bersama tata kelola AI.

“Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.

Untuk hadapi risiko tersebut, Indonesia menyiapkan instrumen tata kelola AI.

Ini mencakup Surat Edaran tentang Etika Kecerdasan Artifisial, UU Informasi dan Transaksi Elektronik (UU ITE), UU Pelindungan Data Pribadi (UU PDP), serta peta jalan nasional AI dan regulasi etika AI.