Agentic AI Bisa Ambil Keputusan Sendiri, Wamen Nezar Ingatkan Kendali Manusia

JawaPos.com - Perkembangan teknologi kecerdasan buatan kini mengarah pada sistem yang mampu menjalankan tugas secara lebih independen. Salah satunya Agentic Artificial Intelligence (Agentic AI) yang dapat melakukan rangkaian tindakan berdasarkan keputusan yang dibuatnya, bukan sekadar memberikan jawaban atas perintah pengguna.

Kemampuan tersebut dinilai menawarkan efisiensi, tetapi juga menghadirkan tantangan baru dalam memastikan manusia tetap memegang kendali. Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan bahwa pemberian kewenangan kepada AI perlu disertai batas yang jelas.

“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?" ujar Wamen Nezar di Jakarta Barat, Kamis (10/9).

Menurut Nezar, gambaran tersebut dapat dilihat melalui pemanfaatan Agentic AI untuk membantu kebutuhan perjalanan. Dalam skenario tertentu, AI bukan hanya memberikan rekomendasi destinasi, tetapi juga dapat menentukan tiket, memesan tempat menginap, berkomunikasi dengan penyedia jasa, bahkan menyelesaikan transaksi pembayaran.

Semakin luas akses yang diberikan, semakin besar pula tanggung jawab yang harus diperhitungkan. Sebab, AI dapat menjalankan keputusan berdasarkan otoritas yang sebelumnya diberikan oleh manusia.

Baca Juga:Agentic AI Mulai Bisa Transaksi Sendiri, Wamen Nezar: Regulasi Harus Disiapkan

“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.

Tantangan tersebut menjadi lebih rumit ketika satu sistem AI dapat berinteraksi dengan sistem AI lainnya. Dalam situasi seperti itu, koordinasi hingga pengambilan keputusan berpotensi terjadi secara langsung antarsistem tanpa campur tangan manusia di setiap tahap.

Nezar juga menyoroti kemungkinan munculnya silent autonomy. Kondisi tersebut menggambarkan sistem yang dapat mengembangkan proses penalaran dan menentukan tindakan tanpa sepenuhnya diketahui oleh manusia.

Oleh sebab itu, perkembangan Agentic AI tidak cukup dinilai dari kemampuannya menyelesaikan berbagai pekerjaan. Aspek yang tak kalah penting adalah bagaimana memastikan keputusan yang dibuat sistem tetap berada dalam ruang kendali manusia.

“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan antara ruang inovasi dan perlindungan terhadap manusia,” tegasnya.