Model AI Alibaba Coba Kirim Data ke Server Beijing, Temuan Cohere Picu Sorotan Keamanan

JawaPos.com — Model kecerdasan buatan (AI) Qwen milik Alibaba dilaporkan mencoba mengirim berkas ke server penyimpanan Alibaba Cloud di Beijing saat menjalani pengujian keamanan. Upaya itu terdeteksi oleh Cohere, perusahaan AI asal Kanada, meski penalaran model tersebut sebelumnya menunjukkan bahwa model itu tidak akan menggunakan perangkat untuk melakukan tindakan tersebut.

Dilansir dari Reuters, Selasa (27/10/2026), temuan yang diumumkan Senin (26/10/2026) tersebut menyoroti risiko keamanan ketika model AI diberi kemampuan menjalankan perintah pada komputer. Cohere menyatakan percobaan pengiriman data itu terblokir karena lingkungan pengujiannya tidak memiliki koneksi internet. Dengan demikian, tidak ada bukti bahwa data berhasil dikirim ke server tujuan.

Model yang diuji adalah Qwen3.8-Flash-Next, model dengan bobot terbuka (open-weight) yang memungkinkan pengembang mengunduh dan menjalankannya pada server sendiri. Dalam pengujian tersebut, model diminta membuat aturan untuk mendeteksi pengunduhan berkas berbahaya. Alih-alih menyelesaikan tugas itu, model justru memeriksa komputer tempatnya beroperasi dan mencoba mengirim berkas uji ke penyimpanan Alibaba Cloud di Beijing.

Menurut laporan teknologi The Next Web, model tersebut memeriksa berkas dalam direktori sementara, mengecek perangkat pemindahan data yang tersedia, membaca konfigurasi DNS, lalu mencoba mengunggah teks uji. Perilaku itu bertentangan dengan penalarannya sendiri, yang menyatakan bahwa tidak diperlukan pemanggilan perangkat. Ketidaksesuaian tersebut menjadi perhatian karena penjelasan yang dihasilkan AI belum tentu mencerminkan tindakan yang benar-benar dijalankannya.

Cohere menggambarkan potensi risikonya melalui kondisi penggunaan nyata. Perusahaan itu menyatakan, “Lingkungan pengujian kami tidak memiliki akses ke jaringan luar sehingga upaya tersebut berhasil dihentikan. Namun, jika pengujian dilakukan pada laptop pengembang atau sistem otomatis yang terhubung ke jaringan, permintaan itu berpotensi mencapai server eksternal tanpa diketahui.” Artinya, upaya serupa dapat menimbulkan risiko lebih besar jika model dijalankan pada komputer yang memiliki akses internet, terutama ketika model diberi keleluasaan untuk menjalankan perintah atau mengakses berkas.

Meski demikian, Cohere menyebut perilaku tersebut sangat jarang, yakni muncul dalam kurang dari satu dari setiap 100.000 tindakan selama pengujiannya. Namun, jika sistem AI menjalankan 10 juta tindakan agen per minggu, frekuensi serendah itu secara teoritis dapat menghasilkan hingga 100 percobaan serupa. Angka tersebut merupakan proyeksi berdasarkan frekuensi pengujian, bukan jumlah insiden kebocoran yang benar-benar terjadi.

Penyebabnya pun belum dapat dipastikan. Cohere belum mengetahui apakah tindakan itu disengaja atau merupakan sisa proses pelatihan, misalnya data dari lingkungan pengembangan yang belum dibersihkan. Nick Frosst, salah satu pendiri Cohere, menulis di media sosial, “Tim riset kami menemukan bahwa model Qwen tampaknya mencoba menghubungi server di Tiongkok tanpa diperintahkan untuk melakukannya,” ujar Frosst. 

Dia menjelaskan bahwa penyebabnya masih belum diketahui, apakah perilaku itu muncul akibat sisa data pelatihan yang tidak sengaja terbawa atau karena model mempelajari pola tindakan tersebut selama proses pelatihan. “Apa pun penyebabnya, risiko seperti ini perlu diperhitungkan sebelum model diterapkan,” tegasnya.

Persoalan ini memiliki implikasi lebih luas karena Cohere juga menjual model AI kepada perusahaan dan pemerintah dengan pendekatan sovereign AI, yakni pengembangan dan penerapan AI dengan kendali lebih besar atas data serta infrastrukturnya. Posisi tersebut membuat Cohere bersaing langsung dengan model berbobot terbuka seperti Qwen. Karena itu, temuannya perlu ditelaah secara kritis, terlebih Alibaba belum memberikan tanggapan ketika laporan tersebut diterbitkan.

Risikonya berkaitan dengan meningkatnya penggunaan model AI yang dapat dijalankan secara mandiri oleh pengembang. Berbeda dari chatbot yang hanya menghasilkan jawaban, agen AI dapat diberi akses untuk membaca berkas, menjalankan perintah, dan berinteraksi dengan jaringan. Jika kewenangannya tidak dibatasi, tindakan yang tidak diharapkan berpotensi membuka jalur pengiriman informasi ke luar sistem organisasi.