JawaPos.com - TikTok memperkuat upaya menjaga integritas platform dengan meningkatkan pengawasan terhadap penyalahgunaan kecerdasan buatan (Artificial Intelligence/AI). Salah satu langkah yang ditempuh adalah menguji sistem deteksi baru untuk mengidentifikasi akun yang mengunggah konten spam berbasis AI, menyusul tingginya jumlah akun palsu yang telah ditindak sepanjang tahun ini.
Langkah tersebut dilakukan seiring semakin luasnya pemanfaatan AI dalam pembuatan konten. Di satu sisi, teknologi ini dinilai mampu mendorong kreativitas pengguna. Namun di sisi lain, AI juga berpotensi dimanfaatkan untuk memproduksi konten secara massal yang dapat menenggelamkan karya autentik para kreator.
TikTok menyatakan telah lama menerapkan kebijakan terhadap konten spam dan akun palsu dengan memanfaatkan teknologi pendeteksian otomatis. Sepanjang kuartal pertama tahun ini, perusahaan mengungkap telah menghapus lebih dari 86 juta akun palsu dari platformnya.
Meski demikian, TikTok menilai pola penyalahgunaan AI terus berkembang sehingga membutuhkan pendekatan yang lebih canggih. Dalam beberapa pekan ke depan, perusahaan akan mulai menguji peningkatan sistem deteksi untuk mengidentifikasi akun yang mengunggah konten spam berbasis AI, khususnya pada topik yang dinilai berisiko memengaruhi kepercayaan dan kesejahteraan masyarakat.
Baca Juga: TikTok Perkuat Literasi, Uji Deteksi Spam dan Perluas Pelabelan Konten Buatan AI
Kategori yang menjadi fokus pengawasan mencakup konten seputar politik dan peristiwa terkini, tips keuangan, hingga kesehatan.
Selain memperketat pengawasan terhadap spam, TikTok juga memperluas berbagai inisiatif untuk membantu pengguna memahami dan mengenali konten buatan AI.
Perusahaan mengumumkan akan memperluas program literasi AI melalui materi edukasi baru, melanjutkan investasi bersama para pakar tepercaya, serta memperkuat transparansi AI dengan bergabung sebagai Dewan Pembina Coalition for Content Provenance and Authenticity (C2PA).
TikTok bekerja sama dengan berbagai mitra, termasuk NAMLE dan Henry Ajder, untuk menyusun panduan penggunaan AI yang bertanggung jawab. Perusahaan juga menghadirkan hub edukasi baru di dalam aplikasi agar pengguna dapat mempelajari cara mengenali konten buatan AI ketika mencari topik terkait.
Di sisi lain, TikTok terus mendukung organisasi seperti NoFiltr dan Raspberry Pi Foundation dalam menghadirkan konten edukasi mengenai literasi AI kepada komunitasnya.
Sejak program tersebut diluncurkan pada November 2025, berbagai organisasi yang terlibat telah menghasilkan lebih dari 200 juta tayangan melalui konten yang membahas penggunaan AI secara bertanggung jawab. Hingga kini, TikTok telah mengalokasikan lebih dari USD 4 juta untuk mendukung program tersebut dan berkomitmen melanjutkan investasinya agar dampaknya semakin luas.
"Kami percaya bahwa setiap orang perlu memahami konteks, merasa percaya diri, dan memiliki kendali atas pengalaman mereka dengan AI di TikTok. Kami terus berinvestasi dalam teknologi, kemitraan, dan materi edukasi yang membantu masyarakat mengenali konten buatan AI, memahami bagaimana konten tersebut dibuat, serta menggunakan berbagai alat ini secara kreatif dan bertanggung jawab," terang Tom Varghese, AI Lead, Global Public Policy TikTok.
Baca Juga: Diusulkan PCNU se-Jatim, Gus Kikin Siap Maju Jadi Kandidat Ketum PBNU di Muktamar 2026
Seiring meningkatnya penggunaan AI oleh kreator, TikTok juga terus memperluas teknologi pelabelan AI Generated Content (AIGC) agar konten yang dibuat atau diedit menggunakan AI dapat dikenali dengan lebih mudah oleh pengguna.
Dua tahun lalu, TikTok menjadi platform video pertama yang mengadopsi teknologi Content Credentials dari C2PA untuk membantu pengguna mengetahui apakah sebuah konten dibuat atau mengalami penyuntingan signifikan menggunakan AI. Kini, perusahaan juga bergabung sebagai Dewan Pembina C2PA untuk mendorong penerapan standar transparansi AI di industri.
Hingga saat ini, TikTok telah memberikan label pada lebih dari 3 miliar video sebagai AIGC melalui kombinasi teknologi Content Credentials, fitur pelabelan kreator, serta teknologi invisible watermarking atau tanda air tak terlihat.
TikTok menyebut seluruh pembaruan tersebut merupakan bagian dari upaya jangka panjang dalam menciptakan pengalaman AI yang lebih aman sekaligus mendukung kreativitas pengguna. Perusahaan juga terus mengembangkan berbagai fitur berbasis AI, seperti Smart Split, AI Outline, serta menguji fitur Manage Topics yang memungkinkan pengguna mengatur seberapa banyak konten AIGC yang ingin mereka lihat di linimasa.