JawaPos.com - Perkembangan teknologi kecerdasan buatan kini mengarah ke sistem yang mampu menjalankan tugas lebih independen.

Salah satunya Agentic Artificial Intelligence (Agentic AI) yang dapat melakukan tindakan berdasarkan keputusan sendiri, bukan hanya memberikan jawaban atas perintah pengguna.

Kemampuan ini menawarkan efisiensi, tapi juga menimbulkan tantangan menjaga manusia tetap mengendalikan.

Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan pemberian kewenangan pada AI harus disertai batas yang jelas.

“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?” ujar Wamen Nezar di Jakarta Barat, Kamis (10/9).

Menurut Nezar, hal ini terlihat dari pemanfaatan Agentic AI untuk kebutuhan perjalanan.

Dalam skenario tertentu, AI tidak hanya memberi rekomendasi destinasi, tapi juga menentukan tiket, memesan tempat menginap, dan berkomunikasi dengan penyedia jasa.

AI bahkan dapat menyelesaikan transaksi pembayaran secara mandiri. Semakin luas akses tersebut, tanggung jawab manusia makin besar.

“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.

Tantangan makin rumit saat satu sistem AI berinteraksi dengan sistem AI lain. Dalam situasi ini, koordinasi dan pengambilan keputusan dapat terjadi langsung antar sistem tanpa campur tangan manusia di tiap tahap.

Nezar juga menyoroti kemungkinan munculnya silent autonomy. Kondisi ini menggambarkan sistem yang dapat mengembangkan penalaran dan menentukan tindakan tanpa sepenuhnya diketahui manusia.

Perkembangan Agentic AI tidak cukup hanya dinilai dari kemampuannya menyelesaikan pekerjaan. Penting juga memastikan keputusan yang dibuat tetap dalam kendali manusia.

“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah mengambil pendekatan berbasis risiko untuk menjaga keseimbangan inovasi dan perlindungan manusia,” tegasnya.

Nezar mengatakan prinsip human centric dan human in the loop adalah elemen penting dalam merancang tata kelola AI.

Teknologi bisa mengambil alih pekerjaan untuk efisiensi, tapi kewenangannya perlu dibatasi dan keputusan tertentu tetap melibatkan manusia.

Pengamanan AI tak lepas dari pengelolaan data dan proses pengembangan teknologi. Menurut Nezar, risiko muncul sejak tahap data hingga sistem menghasilkan keputusan.

Ia mencontohkan prompt injection dan data poisoning yang dapat memengaruhi cara AI bekerja dan hasil keputusannya. Maka keamanan siber harus berjalan bersama tata kelola AI.

“Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.

Untuk hadapi risiko tersebut, Indonesia menyiapkan instrumen tata kelola AI.

Ini mencakup Surat Edaran tentang Etika Kecerdasan Artifisial, UU Informasi dan Transaksi Elektronik (UU ITE), UU Pelindungan Data Pribadi (UU PDP), serta peta jalan nasional AI dan regulasi etika AI.

Nezar menegaskan regulasi bukan untuk batasi inovasi. Aturan dibuat untuk memastikan teknologi berkembang bermanfaat dan ada mekanisme kendali risiko.

“Jangan takut regulasi yang dibuat, tidak ada kehendak mencekik perkembangan. Ini agar teknologi bermanfaat bagi semua, risiko bisa dimitigasi, dan manfaat lebih besar didapat,” pungkas Wamen Nezar.