Oleh: ROKIB MOHAMMAD

---

Kasus pemalsuan menggunakan teknologi AI semakin marak. Baru-baru ini, beredar video syur artis Bulan Sutena yang ternyata hasil editan AI. Bahkan, video palsu yang menampilkan sosok Prabowo membagikan uang 50 juta rupiah juga telah menipu hingga 11 orang. Kejadian ini menunjukkan betapa seriusnya dampak penyalahgunaan teknologi AI.

Peristiwa sejenis diperkirakan akan muncul kembali melalui beragam bentuk. Masyarakat tampak masih belum siap menyerap informasi yang ilusif dan membedakannya dengan kenyataan. Kemampuan berpikir kritis dan membaca informasi secara teliti menjadi semakin mendesak. Sayangnya, justru di tengah maraknya kepalsuan digital, kebiasaan membaca sepintas lalu semakin berkembang.

Empat dekade lalu, jauh sebelum ada AI yang mudah diakses, sastrawan Budi Darma menemukan kebiasaan para penulis kita: melongok (membaca) sepintas lalu. Mereka membaca dan menulis karya hanya dari sketsa pengalaman sepintas lalu. Sulit menemukan karya yang muncul dari pemikiran dan pengalaman mendalam.

Kebiasaan itu terbentuk pada komunitas penulis dan pembaca sastra. Konon, orang-orang seperti ini dianggap suka belajar dan mampu mengolah informasi dengan bijak. Nyatanya, justru banyak dari mereka yang hanya membaca karya orang lain sepintas lalu. Hasilnya, cara berpikir dan bertindak juga cenderung sepintas lalu.

Bila para penulis saja masih compang-camping dalam mengolah informasi, publik awam tentu berpotensi sama, atau bahkan lebih parah. Dengan kebiasaan membaca dan memahami informasi apa pun secara sepintas lalu, orang cenderung menerima informasi tanpa meneliti keabsahannya. Akibatnya, informasi palsu yang dihasilkan AI akan semakin mudah diterima dan disebarkan tanpa verifikasi yang memadai.

Lebih parah lagi, lemahnya kemampuan menyerap dan bersikap kritis justru telah dimanfaatkan pihak tertentu. Dalam level yang lebih sederhana lainnya, kita mudah menemui berita palsu yang dipercaya begitu saja. Narasi dalam video tertentu nyaris tidak pernah diverifikasi oleh kebanyakan penonton, terutama yang viral di media sosial.

Gejala ini sejajar dengan video dengan narasi yang sepenuhnya diproduksi oleh AI generatif. Melalui ChatGPT dan aplikasi sejenisnya, para kreator konten dengan mudah memproduksi konten-konten sesuai kepentingan tren pada segmen tertentu.

Di media sosial (medsos) sejuta umat seperti YouTube, TikTok, dan Instagram, telah tercipta ribuan bahkan jutaan konten hasil AI generatif. Mulai konten legenda, cerita rakyat, dongeng, dan bahkan konten agama sangat mudah kita temui. Periksa saja, misalnya, akun TikTok @historiyin_ai, @islampopulerofficial, @lidahsastra, dan @mohfikrih99. Sang kreator tak lagi susah mengarang dan menulis cerita, atau merujuk sumber kitab tertentu dalam melukiskan narasi. Cukup dengan prompt atau perintah tertentu, terciptalah karya yang diinginkan.

Lantas, dapatkah konten tersebut dipercaya sebagaimana kita percaya pada penutur dongeng, apalagi pemuka agama? Di sinilah perbedaan tipis antara konten hasil pemikiran manusia dan AI generatif. Dalam kerjanya, AI menghasilkan probabilitas matematis yang disimpulkan dari pengolahan data dalam jumlah besar. AI tidak memiliki pengalaman, emosi, atau pemahaman mendalam seperti halnya manusia.

Fenomena ini menandai kemunculan semacam ”budaya sintetis (buatan)”, yaitu budaya yang dihasilkan bukan dari pengalaman manusia, tetapi dari kombinasi algoritma dan data dalam jumlah masif. Budaya sintetis tercipta ketika narasi-narasi yang biasanya disampaikan secara lisan atau ditulis dengan perenungan mendalam kini direkayasa oleh AI generatif yang bekerja berdasarkan probabilitas matematis. Ia tidak peduli dengan makna, nilai budaya, atau nuansa emosional dari karya yang diciptakannya.

Alhasil, konten di medsos yang diciptakan dari AI generatif menghasilkan simulasi yang tampak otentik, namun tidak memiliki kedalaman makna dan rujukan yang terverifikasi. Yang muncul adalah rujukan berdasar probabilitas dari data besar. Isinya kadang bisa benar dan sering kali juga keliru dan bias kebudayaan. Alih-alih menjadi jembatan pengetahuan dan pengalaman antargenerasi, budaya sintetis berpotensi menjadi ilusi informasi yang dangkal dan terlepas dari konteks historis serta makna aslinya.

Gagasan Roland Barthes dalam esainya, The Death of the Author (1967), dapat membantu kita memahami fenomena budaya sintetis. Barthes berpendapat bahwa teks adalah ”ruang multidimensi tempat berbagai tulisan, tidak ada satu pun yang asli, bercampur dan berbenturan.” Artinya, penulis tidak lebih dari peramu teks yang sudah ada sebelumnya dan orisinalitas hanyalah ilusi yang diciptakan oleh ideologi kapitalis.

Jika manusia saja, menurut Barthes, hanya ”meniru”, AI generatif bisa dikatakan meniru dalam level yang lebih ekstrem. AI tidak sekadar meniru, tetapi merekayasa kembali berbagai elemen yang diambil dari data dalam jumlah masif untuk menciptakan simulasi yang tampak otentik, namun tanpa kedalaman makna dan emosi.