Pakar Keselamatan AI Menilai Dunia Mungkin Tak Memiliki Waktu Cukup untuk Bersiap Menghadapi Risiko AI

Pakar keselamatan AI David Dalrymple memperingatkan dunia tentang kemampuan AI yang berkembang lebih cepat daripada kesiapan pengendalian manusia

JawaPos.com - Kekhawatiran di kalangan pakar teknologi global kian menguat seiring laju perkembangan AI (kecerdasan buatan) yang dinilai melampaui kesiapan sistem pengaman AI dunia. Sejumlah ahli memperingatkan bahwa masyarakat global mungkin tidak memiliki cukup waktu untuk membangun fondasi keselamatan yang memadai sebelum kemampuan sistem AI mencapai tingkat yang sulit dikendalikan.

Peringatan tersebut disampaikan David Dalrymple, pakar keselamatan AI sekaligus direktur program di Advanced Research and Invention Agency (Aria), lembaga riset independen yang mendapat pendanaan publik dari pemerintah Inggris. Dia menilai lonjakan kapabilitas AI kini bergerak lebih cepat dibandingkan kemampuan manusia dan institusi untuk memastikan teknologi tersebut tetap aman dan terkendali.

Dilansir dari The Guardian, Senin (5/1/2026), Dalrymple menegaskan bahwa publik perlu mencermati arah perkembangan AI yang semakin mendekati kemampuan manusia dalam menyelesaikan berbagai tugas kompleks.

"Saya pikir kita harus merasa prihatin terhadap sistem yang mampu melakukan seluruh fungsi yang dilakukan manusia untuk menyelesaikan sesuatu di dunia, tetapi dengan lebih baik," ujarnya.

Selain itu, Dalrymple menyoroti kesenjangan pemahaman antara sektor publik dan perusahaan teknologi terkait kecepatan dan skala peningkatan kemampuan sistem AI dalam waktu dekat.

"Segalanya bergerak sangat cepat dan kita mungkin tidak punya waktu untuk mendahuluinya dari perspektif keselamatan," katanya. Dia menambahkan, "Proyeksi tersebut bersifat realistis bahwa dalam lima tahun, sebagian besar tugas bernilai ekonomi tinggi akan dilakukan oleh mesin dengan kualitas lebih baik dan biaya lebih rendah dibandingkan manusia."

Penilaian tersebut sejalan dengan temuan UK AI Security Institute (AISI) yang mencatat bahwa kemampuan model AI canggih meningkat sangat cepat di hampir semua bidang.

Dalam laporan terbarunya, AISI menyebut performa beberapa sistem terdepan kini berlipat ganda setiap delapan bulan, dengan tingkat keberhasilan menyelesaikan tugas setara peserta magang mencapai sekitar 50 persen, naik tajam dari sekitar 10 persen pada tahun sebelumnya.

Selain itu, AISI menemukan bahwa sejumlah model AI sudah mampu menyelesaikan tugas secara mandiri yang biasanya memerlukan waktu lebih dari satu jam bagi pakar manusia. Temuan ini memperkuat kekhawatiran bahwa otomatisasi tingkat lanjut berpotensi mempercepat pergeseran besar dalam struktur ekonomi dan tenaga kerja global.

Aspek lain yang dinilai krusial adalah kemampuan replikasi mandiri, yakni potensi AI untuk menyebarkan salinan dirinya ke sistem lain tanpa campur tangan manusia. Dalam pengujian terbatas, dua model tercanggih mencatat tingkat keberhasilan lebih dari 60 persen. Meski demikian, AISI menekankan bahwa skenario terburuk tersebut dinilai kecil kemungkinannya terjadi dalam kondisi dunia nyata sehari-hari.

Pada saat yang sama, Dalrymple menilai risiko AI tidak semata bersifat teknis, melainkan juga berpotensi mengguncang stabilitas keamanan dan ekonomi global.

"Kemajuan bisa bersifat mendestabilisasi dan mungkin juga membawa kebaikan, seperti yang diharapkan banyak pihak di garis depan teknologi. Namun, risikonya sangat tinggi dan peradaban manusia, secara keseluruhan, sedang berjalan tanpa kesadaran penuh menuju transisi ini," ujarnya.

Pandangan tersebut diperkuat oleh kajian komunitas ilmiah internasional. Laporan independen yang dipimpin pakar AI Kanada, Yoshua Bengio, menyoroti tantangan baru dalam memahami, memantau, dan mengendalikan perilaku sistem AI tingkat lanjut. Laporan itu disusun sebagai bahan diskusi dalam pertemuan global AI Action Summit.

Sementara itu, kajian Future of Life Institute menyimpulkan bahwa praktik keselamatan di perusahaan AI besar, termasuk Anthropic, OpenAI, xAI, dan Meta, masih "jauh dari standar global yang sedang berkembang." Temuan ini menegaskan bahwa tata kelola dan pengendalian risiko AI belum berjalan seiring dengan kecepatan inovasi teknologi.