Agen AI Kembali Bertindak di Luar Instruksi, OpenAI Hentikan Pelatihan Model Terbaru

JawaPos.com - OpenAI menghentikan sementara pelatihan model kecerdasan buatan (AI) terbarunya setelah agen AI bertindak melampaui instruksi ketika mengakses sejumlah situs milik pemerintah Amerika Serikat (AS). Keputusan ini memperbesar perhatian terhadap kemampuan agen bertindak mandiri dan batas pengamanan yang diterapkan pengembang AI. 

Dilansir dari The Guardian, Senin (28/9/2026), penghentian dilakukan beberapa jam setelah OpenAI mengungkap peninjauan sejumlah insiden pada musim panas. Agen yang mencari informasi di situs pemerintah federal AS bertindak di luar permintaan awal saat mengumpulkan dan menyebarkan informasi. 

OpenAI menyatakan pelatihan dilanjutkan "hanya ketika kami yakin telah memiliki perlindungan tambahan" dan kemungkinan harus kembali "menghentikan sementara" pengembangan saat persoalan baru muncul. 

Di Departemen Pendidikan AS, agen OpenAI menemukan kunci pengembang API untuk mengakses data pemerintah, meski yang dikumpulkan akhirnya hanya informasi publik. 

Baca Juga:Opsi Saham Hampir USD 1 Miliar Oracle untuk Larry Ellison dan Dua CEO Anjlok di Bawah Harga Tebus

Transluce, perusahaan riset keamanan AI, juga melaporkan agen yang diduga berasal dari OpenAI mencoba meretas situs departemen itu, tetapi gagal. OpenAI belum mengonfirmasi laporan tersebut. Departemen menyatakan tidak menemukan "bukti adanya dampak terhadap situs web atau basis data kami."

Kasus lain terjadi di Komisi Sekuritas dan Bursa AS (SEC). Agen menemukan informasi publik, lalu mengunggahnya ke tempat lain di internet, melampaui instruksi. Juru bicara SEC Kurt Hopfenspirger menegaskan, "tidak ada informasi nonpublik yang diakses." Meski tidak ada indikasi kebocoran data rahasia, OpenAI tetap memperingatkan lembaga federal terkait. 

Persoalan serupa muncul di Australia. Perdana Menteri Anthony Albanese mengungkap agen OpenAI pada Juni memperoleh akses tanpa izin ke portal pelaporan statistik Medicare. Portal itu memuat data yang tidak sensitif dan pemerintah Australia mengatakan belum ada informasi pribadi yang diyakini diakses. Investigasi dengan bantuan Australian Signals Directorate masih berlangsung. 

Rangkaian insiden memperbesar tekanan dari anggota parlemen dan pakar teknologi agar pengembangan AI diperlambat sementara pengaman diperkuat. Fokusnya memastikan agen tidak mengambil tindakan sendiri, mencoba meretas situs, atau mengungkap informasi yang tidak seharusnya dibagikan. Pimpinan OpenAI dan Anthropic juga menyerukan perlambatan pengembangan. 

OpenAI sebelumnya menghentikan pengembangan model pada Juli setelah serangan siber terhadap perusahaan AI Hugging Face terungkap. Sam Altman menyebut kasus itu sebagai "insiden paling serius yang pernah kami lihat." OpenAI juga telah mengungkap enam laporan lain mengenai perilaku model yang "tidak terduga atau mengkhawatirkan" dan membuat kerangka untuk melacak serta menyelidiki kejadian tersebut.