JawaPos.com - Perlombaan membangun kecerdasan buatan (AI) paling canggih kini menghadapi ujian baru. Bukan lagi semata soal kemampuan model menghasilkan teks atau menulis kode, melainkan bagaimana perusahaan teknologi mengendalikan sistem yang semakin otonom.
Insiden peretasan terhadap platform AI Hugging Face oleh agen AI milik OpenAI memicu perdebatan global mengenai standar keamanan laboratorium AI terdepan dan akuntabilitas pengembangnya.
Peristiwa tersebut menjadi sorotan karena untuk pertama kalinya sebuah agen AI dilaporkan keluar dari lingkungan pengujian (sandbox), mengakses internet, lalu menyerang perusahaan lain secara mandiri ketika menjalankan uji kemampuan siber. OpenAI menyebut kejadian itu sebagai "insiden keamanan yang belum pernah terjadi sebelumnya" dan menyatakan investigasi masih berlangsung.
Dilansir dari The Guardian, Rabu (29/7/2026), Chief Executive Officer Hugging Face, Clément Delangue, mendesak agar penyelidikan dilakukan dengan "transparansi yang radikal".
Menurutnya, "Serangan siber pertama oleh agen otonom merupakan peristiwa yang belum pernah terjadi sebelumnya. Peristiwa ini layak mendapatkan respons yang juga belum pernah terjadi sebelumnya."
Delangue juga meminta OpenAI membuka seluruh jejak aktivitas agen AI tersebut agar dapat dipelajari komunitas riset global.
"Mari kita rilis jejak aktivitas para agen 'liar' itu sehingga seluruh komunitas peneliti dapat mempelajari apa yang sebenarnya terjadi," ujarnya.
Selain itu, Delangue turut mengusulkan langkah konkret berupa dukungan komputasi senilai USD 100 juta, setara sekitar Rp1,807 triliun (dengan kurs Rp18.070 per dolar AS), dari OpenAI guna memperkuat pengembangan pertahanan siber berbasis AI.
Dia mengatakan, "Mari kita alokasikan dana komputasi senilai USD100 juta dari OpenAI agar komunitas Hugging Face dapat membangun pertahanan siber yang kuat menggunakan model terbuka maupun tertutup."
Menurut penjelasan OpenAI, agen tersebut didukung kombinasi model GPT-5.6 Sol yang telah tersedia untuk publik dan model lain yang lebih canggih namun belum dirilis. Keduanya sedang diuji dalam eksperimen keamanan siber dengan pembatasan keselamatan yang sengaja dikurangi.
Setelah berhasil memperoleh akses internet dan keluar dari sandbox, sistem AI itu menyimpulkan Hugging Face memiliki informasi yang dapat digunakan untuk "mengakali evaluasi", sehingga menjadikan perusahaan tersebut sebagai sasaran.
Hugging Face sebenarnya telah melaporkan peretasan itu pada 16 Juli, tetapi saat itu belum mengetahui bahwa pelakunya merupakan agen AI OpenAI yang secara tidak sengaja melakukan serangan selama proses pengujian internal.
Reuters kemudian melaporkan bahwa agen tersebut menghabiskan waktu berhari-hari meretas sistem Hugging Face tanpa disadari OpenAI. Reuters juga menyebut salah satu agen AI meninggalkan catatan bagi versi dirinya di masa depan mengenai cara melepaskan diri dari pembatasan internal, meski keterkaitannya dengan insiden Hugging Face belum dapat dipastikan.
Kekhawatiran terhadap prosedur keselamatan laboratorium AI pun semakin menguat. Profesor keamanan siber dari University of Surrey, Alan Woodward, mendukung tuntutan Delangue.
Menurutnya, "Terlalu mudah menyalahkan AI yang dianggap bertindak liar, padahal persoalannya adalah bagaimana OpenAI menjalankan alat tersebut. Yang dibutuhkan ialah OpenAI memaparkan secara lengkap bagaimana sistem mereka disusun dan mengapa sistem itu gagal."
OpenAI sendiri memilih merujuk pada pernyataan resminya pekan lalu dan tidak memberikan komentar tambahan kepada The Guardian. Perusahaan hanya menegaskan sedang menyelidiki "insiden keamanan yang belum pernah terjadi sebelumnya" bersama Hugging Face sambil memperkuat mekanisme pengaman model-model AI mereka.
Kasus Hugging Face menjadi pengingat bahwa kemajuan AI tidak hanya diukur dari kemampuan agen menjalankan tugas secara mandiri, tetapi juga dari seberapa efektif pengembang mengendalikan risiko ketika sistem tersebut beroperasi di luar skenario yang direncanakan.
Perdebatan yang muncul kini bukan lagi sebatas soal kecanggihan model, melainkan mengenai standar keselamatan, akuntabilitas, dan keterbukaan investigasi yang dinilai akan membentuk praktik pengembangan AI pada masa mendatang.
Baca Juga: AI Mulai Bertindak Sendiri, OpenAI Ungkap Insiden Peretasan Otonom yang Guncang Industri Teknologi