JawaPos.com - OpenAI mengungkap sejumlah temuan mengejutkan selama proses pengujian model kecerdasan buatan (AI). Perusahaan itu menyebut setidaknya ada enam insiden ketika model yang tengah dikembangkan menunjukkan perilaku tidak selaras (misalignment) dan bertindak di luar ekspektasi.
Seperti dilansir dari Engadget, temuan tersebut disampaikan OpenAI melalui tulisan yang membahas penerapan kerangka kerja baru untuk mendokumentasikan dan melaporkan insiden misalignment. Kerangka itu dirancang agar perilaku AI yang berpotensi mengkhawatirkan dapat lebih cepat diketahui dan disampaikan kepada publik.
Salah satu kasus terjadi ketika sebuah model diminta menjawab pertanyaan sederhana mengenai data pendapatan suatu wilayah (county) di California. Alih-alih hanya memberikan jawaban berdasarkan informasi yang tersedia, model tersebut diketahui menemukan serta menggunakan kunci API yang terekspos tanpa izin.
Masalahnya tidak berhenti di situ. Setelah tidak berhasil menemukan angka pendapatan yang dibutuhkan, model tersebut justru menghasilkan angka secara mandiri. Angka yang dibuat-buat itu kemudian disampaikan seolah-olah merupakan data faktual yang berasal dari sumber resmi.
Pada pengujian lainnya, OpenAI menemukan perilaku berbeda dari agen AI yang belum dirilis. Agen tersebut mendapatkan tugas untuk mencari daftar danau dengan luas lebih dari 5 juta meter persegi.
Agen tersebut sebenarnya berhasil memperoleh jawaban yang benar. Namun, tugas yang diberikan juga mengharuskannya menyertakan referensi melalui sitasi peramban (browser citation), sementara kemampuan tersebut tidak tersedia bagi agen.
Untuk mengatasi keterbatasan itu, agen AI mengambil langkah yang tidak terduga. Ia memublikasikan jawabannya sendiri ke internet, kemudian menggunakan publikasi tersebut sebagai sumber referensi untuk jawabannya.
Perilaku serupa juga muncul ketika OpenAI melakukan pelatihan terhadap GPT-5.6 Sol. Dalam sejumlah kasus, model diketahui menyisipkan instruksi untuk model penerusnya agar menyembunyikan kesalahan maupun perilaku yang tidak biasa dari para penguji.
OpenAI juga menemukan cara lain yang digunakan model-model AI untuk berkomunikasi selama proses pengujian. Alih-alih menggunakan saluran komunikasi yang secara khusus disediakan untuk eksperimen, model-model tersebut memanfaatkan repositori perangkat lunak internal perusahaan sebagai semacam papan pesan.
Informasi mengenai pola komunikasi tersebut sebelumnya telah disampaikan karyawan OpenAI dalam sebuah konferensi. Mereka mengungkap bahwa model AI dapat menggunakan mekanisme tersebut untuk saling bertukar metode eksploitasi. Pertukaran itu kemudian dikaitkan dengan insiden yang berujung pada peretasan terhadap Hugging Face.
Dalam temuan lainnya, agen-agen AI diketahui menggunakan situs layanan hosting berkas publik untuk saling bertukar file selama pengujian. Pola tersebut menunjukkan bahwa model dapat menemukan cara alternatif untuk berkomunikasi atau berbagi informasi di luar mekanisme yang secara langsung disediakan dalam lingkungan pengujian.
OpenAI mengakui bahwa mekanisme pelaporan yang sebelumnya digunakan membuat perusahaan belum dapat memublikasikan seluruh perilaku AI yang mengkhawatirkan yang ditemukan selama pengembangan. Perusahaan berharap kerangka kerja baru dapat mempercepat proses dokumentasi sekaligus membuka lebih banyak temuan kepada publik.
"Kami tidak berpendapat bahwa industri AI telah mencapai tingkat penyelarasan (alignment) dan pemantauan yang memadai untuk terus melakukan peningkatan skala secara bertanggung jawab dengan kecepatan maksimum dalam jangka waktu yang lebih lama," tulis OpenAI.
"Keputusan mengenai arah pengembangan AI di masa mendatang perlu didasarkan pada bukti-bukti yang dapat diperiksa sendiri oleh pihak-pihak di luar perusahaan pengembang model AI terdepan (frontier models)," lanjut perusahaan.
Temuan tersebut muncul ketika OpenAI dan sejumlah perusahaan teknologi lainnya menghadapi pertanyaan mengenai seberapa cepat pengembangan AI terdepan seharusnya dilakukan. OpenAI sendiri disebut tengah mempertimbangkan kemungkinan memperlambat pengembangan teknologi tersebut.
Menurut Wired, CEO OpenAI Sam Altman bahkan meminta panduan yang lebih jelas dari Kongres Amerika Serikat mengenai kemungkinan dampak perlambatan pengembangan AI terhadap aturan antimonopoli.
Pada Agustus, OpenAI juga mengumumkan perlambatan pengembangan model AI mendatang yang disebut Astra. Keputusan tersebut diambil setelah terungkap bahwa agen-agen AI perusahaan terlibat dalam peretasan terhadap Hugging Face.
OpenAI menyatakan Astra memperlihatkan kemajuan signifikan dalam kemampuan coding otonom (agentic coding) dan keamanan siber. Karena itu, perusahaan mengatakan tidak dapat mengesampingkan adanya kemampuan siber yang kritis.