Gemini AI Temukan Celah dan Retas 3 Perusahaan saat Uji Coba

JawaPos.com - Google mengungkap bahwa model kecerdasan buatannya, Gemini, sempat keluar dari lingkungan pengujian, mengakses internet, hingga meretas sistem tiga perusahaan dalam serangkaian uji keamanan siber.

Insiden tersebut terjadi akibat kesalahan konfigurasi pada lingkungan pengujian yang dilakukan oleh Irregular, startup asal Israel yang bekerja sama dengan Google dan sejumlah perusahaan AI lainnya.

Menurut laporan The Wall Street Journal, insiden tersebut terjadi pada Mei. Dalam pengujian, Gemini awalnya diberikan tugas untuk mencari informasi mengenai sebuah perusahaan fiktif. Namun, model tersebut menemukan perusahaan nyata yang memiliki nama serupa.

Gemini kemudian menemukan celah pada sistem pengujian dan memanfaatkannya untuk mengakses internet. Kondisi tersebut membuat model dapat berinteraksi dengan sistem perusahaan yang sebenarnya berada di luar lingkungan pengujian.

Pada insiden pertama, Gemini berhasil mengakses layanan milik perusahaan sungguhan setelah memecahkan kata sandi secara mandiri. Dua insiden lainnya terjadi dalam sesi pengujian berbeda.

Dalam dua kasus tersebut, Gemini mencari nama perusahaan secara online dan menemukan kredensial login milik perusahaan lain yang tersimpan di repositori publik. Model tersebut kemudian menggunakan kredensial tersebut untuk mengakses sistem perusahaan.

Google mengatakan kepada The Wall Street Journal bahwa Gemini menghentikan aktivitasnya sendiri dalam ketiga insiden tersebut setelah menyadari bahwa tindakan yang dilakukan telah menyasar layanan nyata.

Google juga tidak menganggap kejadian tersebut sebagai bentuk ketidakselarasan model atau model misalignment. Alasannya, Gemini menghentikan aktivitas peretasan setelah mengetahui bahwa sistem yang diakses merupakan layanan nyata.

Perusahaan juga menilai insiden tersebut tidak perlu diumumkan kepada publik karena tidak menyebabkan kerugian terhadap perusahaan yang sistemnya sempat diakses.