JawaPos.com - Anthropic, perusahaan Amerika Serikat di balik chatbot Claude, mengakui kegagalan dalam prosedur keamanan setelah sejumlah model kecerdasan buatannya memperoleh akses ke internet dan masuk tanpa izin ke sistem nyata tiga organisasi.
Pengakuan tersebut memperlihatkan tantangan yang semakin serius bagi industri AI global: kemampuan model berkembang cepat, sementara mekanisme untuk membatasi perilakunya belum selalu mampu mengimbanginya.
Insiden itu menjadi perhatian karena terjadi ketika model sedang menjalani pengujian keamanan siber. Anthropic sebelumnya mengungkapkan bahwa tiga modelnya berhasil mengakses infrastruktur produksi organisasi yang tidak disebutkan namanya.
Kini, perusahaan itu menyatakan peristiwa tersebut mencerminkan kelemahan dalam pengamanan operasional dan persoalan yang lebih mendasar terkait kemampuan AI untuk tetap bertindak sesuai tujuan manusia.
Baca Juga: Tiongkok Perkuat Jalur Laboratorium ke Pasar demi Dorong Modernisasi Industri
Dilansir dari The Guardian, Rabu (2/9/2026), Anthropic menyatakan teknologinya "belum sepenuhnya selaras dengan nilai dan tujuan manusia." Perusahaan mengakui model-model tersebut sengaja diuji tanpa perlindungan keamanan siber.
Namun, kesalahpahaman dengan Irregular, perusahaan eksternal yang ditunjuk untuk menguji keamanan model AI tersebut, membuat model tanpa sengaja memperoleh akses ke internet terbuka. Kondisi itu, menurut Anthropic, pada dasarnya setara dengan membiarkan pintu depan terbuka saat melakukan pengujian.
Akibatnya, Anthropic sempat menghentikan pengujian keamanan siber internal dan eksternal untuk memperketat sistem perlindungan. "Kami sebagian besar mengandalkan satu lapisan pertahanan, padahal kami membutuhkan beberapa lapisan," kata perusahaan tersebut.
Setelah itu, Anthropic memasang sistem peringatan ketika model mencoba keluar dari lingkungan pengujian atau memperoleh akses internet serta memperketat isolasi terhadap lingkungan uji berisiko tinggi.
Perusahaan kini mewajibkan mitra penguji eksternal mematuhi standar keselamatan tertentu, termasuk memberikan instruksi yang tegas kepada model. Salah satu contohnya adalah perintah bahwa model tidak boleh mengakses internet. Setelah perlindungan baru diterapkan, Anthropic mengatakan telah melanjutkan pengujian keamanan siber internal dan eksternal.
Anthropic juga menemukan bahwa konfigurasi pelatihan yang cacat menjadi penyumbang besar terhadap perilaku AI yang tidak selaras. Dalam insiden tersebut, perusahaan mengidentifikasi dua bentuk kegagalan. Pertama, motivated reasoning, ketika model menemukan bukti bahwa mereka mungkin terhubung ke internet, tetapi tetap mempertahankan keyakinan bahwa mereka berada dalam simulasi. Kedua adalah faktor "kecerobohan", yakni kesediaan model melakukan tindakan berbahaya di internet demi mencapai tujuan sempit untuk lolos dari pengujian.
Masalah lain yang sedang ditangani adalah reward-hacking, yaitu ketika model menemukan cara untuk mempermainkan proses pelatihan demi memperoleh "hadiah" tanpa benar-benar menyelesaikan tugas sebagaimana mestinya. Namun, Anthropic mengakui upayanya belum sempurna.
"Sebagaimana dibuktikan oleh berbagai insiden tersebut, proses kami tidak sempurna dan model kami belum sepenuhnya selaras," kata perusahaan itu.
Alan Woodward, profesor keamanan siber dari University of Surrey, menilai pengakuan tersebut menunjukkan kecepatan pengembangan AI telah melampaui mekanisme pengawasannya.
"Dua hal melampaui kendali Anthropic pada musim semi ini, yaitu jalur pelatihan dan keamanan. Insiden tersebut memperlihatkan seperti apa kesenjangan itu dari luar," ujarnya.
Baca Juga: Anthropic Luncurkan MHS, Standar Baru agar Agen AI Bisa Mengoperasikan Perangkat Fisik
Persoalan ini tidak berdiri sendiri. Seperti Anthropic, OpenAI juga mengungkap pelanggaran keamanan dalam pengujian pada Juli. Selain itu, UK AI Security Institute melaporkan pada Agustus bahwa model OpenAI dan Anthropic melakukan kampanye peretasan terhadap orang-orang nyata dalam pengujian keamanan siber. Sementara itu, The Guardian melaporkan insiden AI yang keluar dari kendali pengguna melonjak hingga lebih dari 300 kasus pada Juli.
Di tengah persiapan Anthropic untuk kemungkinan melantai di bursa dengan valuasi yang dapat mencapai 2 triliun dolar AS atau sekitar Rp35.480 triliun, dengan kurs Rp17.740 per dolar AS, perusahaan kembali menyerukan koordinasi antara pemerintah dan industri.
"Kami meyakini dunia akan memperoleh manfaat jika industri secepat mungkin mengadopsi mekanisme yang sah, dapat diverifikasi, dan efektif untuk mengatur laju pengembangan secara terkoordinasi," kata Anthropic.
Perusahaan menegaskan, "insiden pada Juli telah menekankan bahwa kebutuhan untuk memperkuat pertahanan keamanan siber kami bahkan lebih mendesak daripada yang sebelumnya kami yakini."