JEJAKFORENSIK.COM – Jumlah konten pelecehan seksual anak yang dibuat dengan bantuan AI melonjak tajam sepanjang 2025 dan trennya bikin banyak pihak makin khawatir. Data terbaru dari Internet Watch Foundation (IWF) menunjukkan peningkatan yang bukan cuma signifikan, tapi juga mengarah ke jenis konten yang makin ekstrem.
Dilansir dari The Guardian, IWF mencatat ada 8.029 gambar dan video buatan AI yang realistis dan mengandung materi pelecehan seksual anak (child sexual abuse material/CSAM) yang berhasil mereka verifikasi sepanjang tahun 2025. Secara keseluruhan, jumlah ini naik sekitar 14% dibanding tahun sebelumnya. Yang lebih mencolok, lonjakan terbesar justru terjadi di konten video, dengan peningkatan lebih dari 260 kali lipat.
Dari total 3.443 video yang dianalisis, sekitar 65% masuk kategori A, yaitu klasifikasi paling parah menurut hukum di Inggris. Sebagai perbandingan, pada konten non-AI, proporsi kategori A berada di angka 43%. Artinya, teknologi AI bukan cuma memperbanyak konten, tapi juga cenderung dipakai untuk menghasilkan materi yang lebih brutal.
Kerry Smith, kepala eksekutif IWF, menegaskan kekhawatiran ini dengan cukup tegas. Ia mengatakan, “Kemajuan teknologi seharusnya tidak pernah mengorbankan keselamatan dan kesejahteraan anak. Meskipun AI dapat menawarkan banyak hal positif, sangat mengerikan untuk mempertimbangkan bahwa kekuatannya dapat digunakan untuk menghancurkan kehidupan seorang anak. Materi ini berbahaya.”
Temuan lain yang cukup mengganggu datang dari analisis percakapan di dark web. Seorang analis IWF mengungkap bahwa para pelaku justru menyambut perkembangan teknologi ini dengan antusias. Mereka mendiskusikan bagaimana sistem AI kini bisa menghasilkan visual yang semakin realistis, bahkan berpotensi menambahkan audio ke dalam video. Lebih jauh lagi, ada pembahasan soal bagaimana AI bisa digunakan untuk memanipulasi gambar anak sungguhan yang dikenal oleh pelaku.
IWF sendiri adalah lembaga berbasis di Inggris yang mengelola hotline pelaporan dan punya mandat global untuk memantau serta membantu menghapus konten pelecehan seksual anak di internet. Mereka juga menemukan bahwa pelaku mulai mempertimbangkan penggunaan sistem berbasis “agen”, yaitu AI yang bisa menjalankan tugas secara mandiri tanpa banyak campur tangan manusia.
Di sisi lain, pemerintah Inggris mulai mengambil langkah pencegahan. Perusahaan teknologi dan organisasi perlindungan anak kini diberi izin untuk menguji apakah sistem AI tertentu bisa menghasilkan konten berbahaya seperti ini. Tujuannya jelas, mencegah penyalahgunaan sejak awal sebelum dampaknya makin luas.
Dalam kebijakan terbaru, pemerintah juga membuka jalan bagi pengujian terhadap model AI generatif, yaitu teknologi yang jadi dasar chatbot seperti ChatGPT atau generator gambar seperti Veo 3 milik Google. Pengujian ini dimaksudkan untuk memastikan sistem tersebut punya perlindungan yang cukup agar tidak bisa digunakan untuk membuat konten ilegal.
Kerry Smith kembali mengingatkan bahwa isu ini tidak bisa dianggap enteng. “Anak-anak, korban, dan penyintas tidak boleh lengah. Teknologi baru harus memenuhi standar tertinggi. Dalam beberapa kasus, nyawa dipertaruhkan,” ujarnya.
Seiring makin canggih dan mudah diaksesnya teknologi AI, jumlah konten CSAM yang terdeteksi juga terus meningkat, terutama dalam bentuk video yang lebih kompleks dan realistis. Ini jadi sinyal bahwa perkembangan teknologi tanpa pengawasan yang ketat bisa membuka celah besar untuk disalahgunakan.
Menariknya, survei yang dirilis IWF juga menunjukkan kekhawatiran publik sejalan dengan temuan ini. Delapan dari sepuluh orang dewasa di Inggris ingin pemerintah segera membuat regulasi yang memastikan pengembangan AI mengutamakan aspek keselamatan dan terlindungi dari potensi bahaya di masa depan.
Sebagai langkah tegas, pemerintah Inggris tahun lalu juga mengumumkan larangan terhadap kepemilikan, pembuatan, maupun distribusi model AI yang secara khusus dirancang untuk menghasilkan materi pelecehan seksual anak.
Kalau dilihat dari keseluruhan gambaran, ini bukan sekadar soal teknologi yang berkembang cepat. Ini soal bagaimana teknologi yang sama bisa dipakai untuk hal baik atau justru sebaliknya, tergantung siapa yang memegang kendali dan seberapa kuat sistem pengaman yang dibangun sejak awal.
Referensi:
Hilman Hilmansyah/Freepik.com
