Ketika Demo AI Memicu Alarm di Washington dan Memaksa Dunia Meninjau Ulang Risiko AI bagi Keamanan Global

JawaPos.com — Sebuah demonstrasi kecerdasan buatan (AI) yang digelar secara tertutup di Washington telah mengubah cara pandang para pembuat kebijakan Amerika Serikat (AS) terhadap risiko keamanan teknologi mutakhir.

Bukan sekadar simulasi teknis, demo tersebut menjadi titik balik dalam diskursus global tentang sejauh mana AI dapat menjadi ancaman nyata bagi keamanan publik dan stabilitas internasional.

Demonstrasi itu dipresentasikan oleh Lucas Hansen, salah satu pendiri organisasi nirlaba CivAI. Melalui sebuah aplikasi eksperimental, Hansen menunjukkan bagaimana model AI generasi lama dapat dimanipulasi untuk menghasilkan instruksi yang tampak rinci terkait pembuatan patogen berbahaya, termasuk poliovirus dan antraks, serta panduan teknis pembuatan bom dan senjata api cetak tiga dimensi tanpa nomor seri atau ghost gun.

Dilansir dari Time, Kamis (8/1/2026), aplikasi tersebut dipertunjukkan secara privat kepada lebih dari dua lusin staf Kongres, pejabat keamanan nasional, dan komite legislatif terkait. Tujuan utama demo ini bukan untuk konsumsi publik, melainkan untuk memberi pengalaman langsung kepada para pembuat kebijakan tentang kemampuan AI yang, menurut CivAI, kerap diremehkan dalam lobi industri teknologi. 

“Mereka terkejut. Mereka berkata, ‘Para pelobi perusahaan AI memberi tahu kami bahwa mekanisme pengaman internal pada sistem kecerdasan buatan sudah mencegah keluaran berbahaya semacam ini,’” ujar Hansen.

Model yang ditampilkan dalam demo tersebut mencakup Gemini 2.0 Flash dan Claude 3.5 Sonnet—keduanya bukan model terbaru. Namun, menurut CivAI, justru di situlah letak persoalan strategisnya: model-model lama masih beredar luas, tetap dapat diakses, dan tidak seluruhnya berada di bawah rezim pengamanan terbaru yang diklaim industri.

Perusahaan teknologi pun merespons dengan kehati-hatian. Seorang juru bicara Google menyatakan kepada Time, “Keselamatan adalah prioritas dan kami menangani isu semacam ini dengan sangat serius. Namun, penting bagi pakar dengan latar belakang CBRN (kimia, biologi, radiologi, dan nuklir) untuk menilai akurasi serta potensi replikasi dari jawaban dan instruksi yang dihasilkan oleh sistem kecerdasan buatan.” Pernyataan tersebut menegaskan posisi industri bahwa risiko tidak dapat dinilai hanya dari hasil respons AI semata.

Namun, CivAI menolak anggapan bahwa demo tersebut bersifat spekulatif. Siddharth Hiregowdara, salah satu pendiri CivAI, menyatakan bahwa keluaran AI tersebut telah diuji oleh pakar biologi dan virologi independen. “Langkah-langkahnya secara umum benar. Bahkan sampai ke urutan DNA tertentu yang bisa dipesan secara daring, lengkap dengan nomor katalog peralatan laboratorium,” ujarnya. “AI juga memberi tips praktis. Anggapan bahwa AI tidak memahami praktik dunia nyata di laboratorium itu keliru.”

Isu ini memperkuat kekhawatiran yang telah lama disuarakan para ahli keamanan AI global. CEO Anthropic, Dario Amodei, sebelumnya telah memperingatkan Kongres AS bahwa tanpa pengawasan ketat, AI berpotensi membantu individu tanpa keahlian untuk merancang senjata biologis. Peringatan tersebut kini memperoleh konteks baru setelah para legislator menyaksikan sendiri kemampuan model AI dalam demo CivAI.

Tekanan untuk memperketat regulasi pun meningkat. Di negara bagian Washington, gugus tugas AI telah merekomendasikan kerangka kebijakan yang menyeimbangkan inovasi dengan keselamatan publik, termasuk transparansi sistem berisiko tinggi dan penerapan prinsip etika AI. Demo CivAI memperkuat argumen bahwa pendekatan sukarela industri tidak lagi memadai.

Di sisi lain, kepemimpinan industri AI juga tengah menghadapi dilema akses dan keberlanjutan bisnis. Nick Turley, Kepala ChatGPT di OpenAI, mengatakan bahwa perusahaan merasa memiliki tanggung jawab moral untuk memperluas akses global terhadap AI. 

“Kami ingin menawarkan kemampuan model tercerdas kepada pengguna di seluruh dunia. Karena itu, kami perlu menjajaki semua model bisnis yang memungkinkan akses seluas mungkin,” katanya kepada Time.

Pada akhirnya, demo CivAI berfungsi sebagai peringatan strategis, bukan sekadar eksperimen teknis. Bagi Washington dan dunia, peristiwa ini menegaskan bahwa risiko AI bukan lagi ancaman yang sekadar diperdebatkan secara teoretis, melainkan tantangan keamanan global yang sudah hadir hari ini—dan menuntut respons kebijakan yang lebih serius, terkoordinasi, dan lintas negara.