JawaPos.com - Perkembangan teknologi kecerdasan buatan kini mengarah pada sistem yang mampu menjalankan tugas secara lebih independen. Salah satunya Agentic Artificial Intelligence (Agentic AI) yang dapat melakukan rangkaian tindakan berdasarkan keputusan yang dibuatnya, bukan sekadar memberikan jawaban atas perintah pengguna.
Kemampuan tersebut dinilai menawarkan efisiensi, tetapi juga menghadirkan tantangan baru dalam memastikan manusia tetap memegang kendali. Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan bahwa pemberian kewenangan kepada AI perlu disertai batas yang jelas.
“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?" ujar Wamen Nezar di Jakarta Barat, Kamis (10/9).
Menurut Nezar, gambaran tersebut dapat dilihat melalui pemanfaatan Agentic AI untuk membantu kebutuhan perjalanan. Dalam skenario tertentu, AI bukan hanya memberikan rekomendasi destinasi, tetapi juga dapat menentukan tiket, memesan tempat menginap, berkomunikasi dengan penyedia jasa, bahkan menyelesaikan transaksi pembayaran.
Semakin luas akses yang diberikan, semakin besar pula tanggung jawab yang harus diperhitungkan. Sebab, AI dapat menjalankan keputusan berdasarkan otoritas yang sebelumnya diberikan oleh manusia.
Baca Juga: Agentic AI Mulai Bisa Transaksi Sendiri, Wamen Nezar: Regulasi Harus Disiapkan
“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.
Tantangan tersebut menjadi lebih rumit ketika satu sistem AI dapat berinteraksi dengan sistem AI lainnya. Dalam situasi seperti itu, koordinasi hingga pengambilan keputusan berpotensi terjadi secara langsung antarsistem tanpa campur tangan manusia di setiap tahap.
Nezar juga menyoroti kemungkinan munculnya silent autonomy. Kondisi tersebut menggambarkan sistem yang dapat mengembangkan proses penalaran dan menentukan tindakan tanpa sepenuhnya diketahui oleh manusia.
Oleh sebab itu, perkembangan Agentic AI tidak cukup dinilai dari kemampuannya menyelesaikan berbagai pekerjaan. Aspek yang tak kalah penting adalah bagaimana memastikan keputusan yang dibuat sistem tetap berada dalam ruang kendali manusia.
“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan antara ruang inovasi dan perlindungan terhadap manusia,” tegasnya.
Nezar mengatakan prinsip human centric dan human in the loop menjadi elemen penting dalam merancang tata kelola AI. Dengan prinsip tersebut, teknologi tetap dapat digunakan untuk mengambil alih pekerjaan tertentu demi efisiensi, tetapi kewenangannya perlu dibatasi dan keputusan tertentu tetap membutuhkan keterlibatan manusia.
Di sisi lain, pengamanan AI juga tidak dapat dilepaskan dari pengelolaan data dan proses pengembangan teknologi. Menurut Nezar, berbagai risiko dapat muncul sejak tahap data hingga ketika sistem menghasilkan keputusan.
Ia mencontohkan prompt injection dan data poisoning yang dapat memengaruhi cara AI bekerja maupun hasil keputusan yang dihasilkan. Kondisi tersebut membuat aspek keamanan siber perlu berjalan beriringan dengan tata kelola AI.
“Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.
Untuk mengantisipasi berbagai risiko tersebut, Indonesia tengah menyiapkan sejumlah instrumen tata kelola AI. Langkah itu mencakup Surat Edaran tentang Etika Kecerdasan Artifisial, UU Informasi dan Transaksi Elektronik (UU ITE), UU Pelindungan Data Pribadi (UU PDP), serta penyusunan peta jalan nasional AI dan regulasi terkait etika AI.
Nezar menegaskan bahwa kehadiran regulasi bukan ditujukan untuk membatasi inovasi. Menurutnya, aturan dibutuhkan untuk memastikan perkembangan teknologi tetap memberikan manfaat sekaligus memiliki mekanisme untuk mengendalikan risiko yang muncul.
“Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” pungkas Wamen Nezar.