TikTok Hapus 86 Juta Akun Palsu, Kini Uji Sistem Deteksi Spam Berbasis AI

JawaPos.com - TikTok memperkuat upaya menjaga integritas platform dengan meningkatkan pengawasan terhadap penyalahgunaan kecerdasan buatan (Artificial Intelligence/AI). Salah satu langkah yang ditempuh adalah menguji sistem deteksi baru untuk mengidentifikasi akun yang mengunggah konten spam berbasis AI, menyusul tingginya jumlah akun palsu yang telah ditindak sepanjang tahun ini.

Langkah tersebut dilakukan seiring semakin luasnya pemanfaatan AI dalam pembuatan konten. Di satu sisi, teknologi ini dinilai mampu mendorong kreativitas pengguna. Namun di sisi lain, AI juga berpotensi dimanfaatkan untuk memproduksi konten secara massal yang dapat menenggelamkan karya autentik para kreator.

TikTok menyatakan telah lama menerapkan kebijakan terhadap konten spam dan akun palsu dengan memanfaatkan teknologi pendeteksian otomatis. Sepanjang kuartal pertama tahun ini, perusahaan mengungkap telah menghapus lebih dari 86 juta akun palsu dari platformnya.

Meski demikian, TikTok menilai pola penyalahgunaan AI terus berkembang sehingga membutuhkan pendekatan yang lebih canggih. Dalam beberapa pekan ke depan, perusahaan akan mulai menguji peningkatan sistem deteksi untuk mengidentifikasi akun yang mengunggah konten spam berbasis AI, khususnya pada topik yang dinilai berisiko memengaruhi kepercayaan dan kesejahteraan masyarakat.

Baca Juga:TikTok Perkuat Literasi, Uji Deteksi Spam dan Perluas Pelabelan Konten Buatan AI

Kategori yang menjadi fokus pengawasan mencakup konten seputar politik dan peristiwa terkini, tips keuangan, hingga kesehatan.

Selain memperketat pengawasan terhadap spam, TikTok juga memperluas berbagai inisiatif untuk membantu pengguna memahami dan mengenali konten buatan AI.

Perusahaan mengumumkan akan memperluas program literasi AI melalui materi edukasi baru, melanjutkan investasi bersama para pakar tepercaya, serta memperkuat transparansi AI dengan bergabung sebagai Dewan Pembina Coalition for Content Provenance and Authenticity (C2PA).

TikTok bekerja sama dengan berbagai mitra, termasuk NAMLE dan Henry Ajder, untuk menyusun panduan penggunaan AI yang bertanggung jawab. Perusahaan juga menghadirkan hub edukasi baru di dalam aplikasi agar pengguna dapat mempelajari cara mengenali konten buatan AI ketika mencari topik terkait.

Di sisi lain, TikTok terus mendukung organisasi seperti NoFiltr dan Raspberry Pi Foundation dalam menghadirkan konten edukasi mengenai literasi AI kepada komunitasnya.