123Berita – 05 April 2026 | Google dan platform video YouTube kembali berada di sorotan publik setelah ratusan organisasi advokasi anak menuntut penghapusan konten yang dianggap mengandung unsur AI slop di layanan YouTube Kids. Keluhan tersebut datang dari berbagai kelompok yang mengkhawatirkan dampak negatif konten otomatis berbahaya terhadap anak-anak usia dini, terutama dalam konteks pembelajaran dan hiburan daring.
AI slop, istilah yang kini populer di kalangan pakar keamanan siber, merujuk pada video yang dihasilkan atau dimodifikasi oleh kecerdasan buatan dengan kualitas rendah, mengandung informasi menyesatkan, atau menampilkan visual yang tidak pantas bagi pemirsa muda. Konten semacam ini seringkali muncul di platform yang mengandalkan algoritma rekomendasi, sehingga anak-anak dapat tanpa sengaja terpapar materi yang tidak sesuai.
Kelompok advokasi anak, termasuk Yayasan Perlindungan Anak Indonesia (YPAI) dan Forum Anak Digital (FAD), mengirim surat resmi kepada Google pada awal pekan ini. Surat tersebut menuntut tindakan cepat, mulai dari peninjauan menyeluruh terhadap semua video yang beredar di YouTube Kids hingga penerapan mekanisme filtrasi berbasis AI yang lebih canggih untuk mencegah masuknya konten berbahaya.
“Kami tidak dapat menerima bahwa platform yang seharusnya menjadi ruang aman bagi generasi berikutnya justru menjadi jalur distribusi konten yang merusak,” ujar Rani Suryani, ketua YPAI, dalam pernyataan resmi. “Anak-anak memiliki hak atas lingkungan digital yang bersih, dan perusahaan teknologi harus bertanggung jawab penuh atas apa yang mereka sediakan.”
Google menanggapi tekanan publik dengan mengumumkan bahwa mereka sedang melakukan audit internal terhadap algoritma rekomendasi YouTube Kids. Pihak perusahaan menyatakan bahwa tim kebijakan konten telah menambah jumlah moderator khusus anak, serta memperkuat kerja sama dengan pihak ketiga yang berfokus pada keamanan digital.
Berikut rangkuman langkah yang dijanjikan oleh Google:
- Peningkatan filter otomatis untuk mendeteksi konten AI slop berdasarkan metadata, thumbnail, dan transkrip.
- Penambahan tim moderator yang terlatih khusus pada konten anak, dengan standar evaluasi yang lebih ketat.
- Kolaborasi dengan organisasi non‑profit untuk mengembangkan pedoman konten yang lebih jelas dan relevan dengan budaya lokal.
- Penyediaan laporan transparansi bulanan yang menampilkan jumlah video yang dihapus atau diblokir karena melanggar kebijakan anak.
Meskipun demikian, sejumlah pakar teknologi tetap skeptis. Dr. Ahmad Fauzi, pakar keamanan siber Universitas Indonesia, mengingatkan bahwa algoritma berbasis AI sekalipun dapat menjadi pedang bermata dua. “Jika tidak diatur dengan tepat, AI dapat memperkuat bias yang sudah ada, atau malah menandai video edukatif sebagai konten berbahaya,” ujar Dr. Fauzi. Ia menekankan perlunya audit independen oleh lembaga luar untuk memastikan objektivitas proses penyaringan.
Di sisi lain, para kreator konten anak di YouTube juga mengungkapkan keprihatinan mereka. Beberapa di antaranya melaporkan penurunan viewership setelah algoritma baru diterapkan pada bulan lalu. Mereka khawatir bahwa kebijakan yang terlalu ketat dapat menekan kreativitas dan mengurangi akses anak-anak ke materi edukatif yang sah.
Menanggapi hal tersebut, Google menegaskan bahwa tujuan utama bukan untuk mengekang kreativitas, melainkan untuk melindungi. “Kami berkomitmen pada prinsip ‘Kids First’, yang berarti setiap keputusan harus menempatkan keselamatan anak di atas segala kepentingan komersial,” jelas pernyataan resmi Google.
Kasus ini muncul di tengah meningkatnya kekhawatiran global tentang dampak AI pada konten digital. Beberapa negara, termasuk Amerika Serikat dan Inggris, telah mulai merumuskan regulasi yang menuntut transparansi algoritma serta tanggung jawab platform dalam mengawasi konten yang dihasilkan secara otomatis. Indonesia, melalui Kementerian Komunikasi dan Informatika (Kominfo), juga sedang menyusun pedoman yang serupa, meskipun implementasinya masih dalam tahap awal.
Sejumlah regulator lokal menilai bahwa tindakan cepat Google sangat penting untuk menghindari potensi pelanggaran hukum perlindungan anak di era digital. Kominfo menambahkan bahwa platform harus mematuhi Undang‑Undang Informasi dan Transaksi Elektronik (UU ITE) serta Undang‑Undang Perlindungan Anak (UUPA) yang mengatur batasan konten bagi pengguna di bawah usia 13 tahun.
Dengan tekanan dari masyarakat sipil, akademisi, dan regulator, Google berada pada persimpangan penting. Keputusan perusahaan dalam menanggapi masalah AI slop tidak hanya akan memengaruhi persepsi publik terhadap YouTube Kids, tetapi juga dapat menjadi contoh bagi platform lain dalam mengelola konten berbasis AI.
Jika langkah-langkah yang dijanjikan dapat diimplementasikan secara konsisten, diharapkan YouTube Kids akan kembali menjadi ruang aman yang mendukung tumbuh kembang anak melalui video edukatif, hiburan yang positif, dan interaksi yang terkontrol. Namun, tanpa pengawasan yang ketat dan akuntabilitas yang jelas, risiko konten AI slop dapat kembali muncul, menimbulkan kembali kekhawatiran yang sama.
Kesimpulannya, seruan advokasi anak menuntut Google untuk tidak hanya mengandalkan teknologi, melainkan juga melibatkan stakeholder eksternal dalam proses penyaringan konten. Keseimbangan antara inovasi AI dan perlindungan anak menjadi tantangan utama yang harus dihadapi oleh perusahaan teknologi global di era digital yang semakin kompleks.
