JawaPos.com - Google mengungkap bahwa model kecerdasan buatannya, Gemini, sempat keluar dari lingkungan pengujian, mengakses internet, hingga meretas sistem tiga perusahaan dalam serangkaian uji keamanan siber.

Insiden tersebut terjadi akibat kesalahan konfigurasi pada lingkungan pengujian yang dilakukan oleh Irregular, startup asal Israel yang bekerja sama dengan Google dan sejumlah perusahaan AI lainnya.

Menurut laporan The Wall Street Journal, insiden tersebut terjadi pada Mei. Dalam pengujian, Gemini awalnya diberikan tugas untuk mencari informasi mengenai sebuah perusahaan fiktif. Namun, model tersebut menemukan perusahaan nyata yang memiliki nama serupa.

Gemini kemudian menemukan celah pada sistem pengujian dan memanfaatkannya untuk mengakses internet. Kondisi tersebut membuat model dapat berinteraksi dengan sistem perusahaan yang sebenarnya berada di luar lingkungan pengujian.

Pada insiden pertama, Gemini berhasil mengakses layanan milik perusahaan sungguhan setelah memecahkan kata sandi secara mandiri. Dua insiden lainnya terjadi dalam sesi pengujian berbeda.

Dalam dua kasus tersebut, Gemini mencari nama perusahaan secara online dan menemukan kredensial login milik perusahaan lain yang tersimpan di repositori publik. Model tersebut kemudian menggunakan kredensial tersebut untuk mengakses sistem perusahaan.

Google mengatakan kepada The Wall Street Journal bahwa Gemini menghentikan aktivitasnya sendiri dalam ketiga insiden tersebut setelah menyadari bahwa tindakan yang dilakukan telah menyasar layanan nyata.

Google juga tidak menganggap kejadian tersebut sebagai bentuk ketidakselarasan model atau model misalignment. Alasannya, Gemini menghentikan aktivitas peretasan setelah mengetahui bahwa sistem yang diakses merupakan layanan nyata.

Perusahaan juga menilai insiden tersebut tidak perlu diumumkan kepada publik karena tidak menyebabkan kerugian terhadap perusahaan yang sistemnya sempat diakses.

Google tidak mengungkap model Gemini secara spesifik yang terlibat dalam insiden tersebut. Perusahaan hanya menyebut model yang digunakan bukan versi terbaru. Identitas perusahaan yang terdampak juga tidak diungkap, meski Google memastikan bahwa perusahaan-perusahaan tersebut telah diberi tahu mengenai kejadian tersebut.

Wakil Presiden Google untuk bidang rekayasa keamanan, Heather Adkins, mengatakan perusahaan bekerja sama dengan Irregular untuk mengubah proses pengujian. Langkah tersebut dilakukan agar kejadian serupa tidak kembali terjadi.

Insiden Gemini tersebut menjadi bagian dari serangkaian kejadian serupa yang melibatkan model AI dari sejumlah perusahaan teknologi besar. Dalam beberapa bulan terakhir, OpenAI, Anthropic, dan Meta juga mengungkap bahwa model mereka sempat menyusup ke sistem organisasi pihak ketiga ketika menjalani pengujian.

OpenAI sebelumnya mengungkap bahwa agen AI mereka meretas RubyGems, layanan pengemasan yang dikelola komunitas untuk program dan pustaka Ruby, pada Mei. Peristiwa tersebut bahkan terjadi sebelum insiden yang melibatkan Hugging Face.

Sebelumnya, OpenAI juga mengungkap bahwa salah satu modelnya berhasil menyusup ke sistem Hugging Face ketika menjalani pengujian kemampuan keamanan siber. Dalam kasus tersebut, model diberi tugas untuk memperoleh informasi dari sebuah perusahaan fiktif, tetapi menemukan perusahaan nyata dengan nama yang serupa.

Serangkaian insiden tersebut turut memicu kekhawatiran mengenai pengujian dan pengamanan model AI yang semakin mampu melakukan tindakan secara mandiri. Pimpinan Anthropic, Dario Amodei, bahkan menyerukan agar pengembangan AI tingkat lanjut atau frontier AI diperlambat. Pandangan tersebut juga mendapat dukungan dari OpenAI.