Penyalahgunaan deepfake AI terhadap anak-anak di Jepang memicu penyelidikan polisi dan perdebatan hukum

Krisis yang kian meningkat di sekolah-sekolah Jepang

Polisi di seluruh Jepang menerima lebih banyak laporan tentang teman sekelas yang menggunakan kecerdasan buatan untuk membuat deepfake seksual anak di bawah umur, sering kali dengan mengambil foto dari acara sekolah, album kelulusan, dan obrolan grup tertutup. Korbannya biasanya siswa SMP dan SMA, meski anak-anak sekolah dasar juga menjadi sasaran. Dalam beberapa kasus, pelakunya juga masih di bawah umur, yang mengakses situs pembuat gambar atau aplikasi ponsel sederhana untuk menghasilkan rekayasa eksplisit yang meyakinkan lalu membagikannya kepada teman sebaya.

Pihak berwenang menyatakan bahwa lebih dari 100 konsultasi dan laporan mengenai gambar seksual palsu anak di bawah umur tercatat sepanjang tahun lalu. Tujuh belas kasus yang diketahui melibatkan gambar yang bersumber dari acara sekolah atau foto buku tahunan. Korban sering menduga pelakunya adalah orang yang mereka kenal. Polisi bahkan mendokumentasikan pelecehan terhadap teman sebaya sesama jenis, yang bertujuan merundung atau mempermalukan, bukan mencari kepuasan seksual. Dalam satu kasus di wilayah Tokai, Jepang tengah, seorang siswa SMP laki-laki dilimpahkan ke kejaksaan atas dugaan pencemaran nama baik setelah membuat gambar telanjang palsu seorang teman sekelas perempuan dan membagikannya kepada teman-temannya.

Lonjakan ini mengikuti tren global yang lebih luas. Sebuah perusahaan keamanan AS melacak setidaknya 95.820 video deepfake di internet pada 2023 dan melaporkan bahwa 98 persen di antaranya mengandung pornografi. Kini, alat yang mudah digunakan memungkinkan seseorang mengetik perintah, mengunggah wajah, atau mencoba menghapus pakaian dari foto hanya dengan sekali ketuk. Kemudahan akses ini berbenturan dengan dinamika sosial di sekolah dan banyaknya foto pribadi yang diunggah atau dibagikan anak-anak, sering kali tanpa menyadari bagaimana foto-foto itu dapat disalahgunakan.

Bagaimana remaja membuat deepfake dari foto sehari-hari

Perangkat yang tersedia saat ini terbagi dalam beberapa kategori. Sejumlah aplikasi mencoba membuat foto tampak telanjang dengan merekayasa tubuh di balik pakaian. Aplikasi lain menempelkan wajah dari foto sekolah ke tubuh pemeran dewasa. Situs AI generatif juga dapat menghasilkan gambar eksplisit hanya dari perintah teks, lalu disesuaikan agar menyerupai orang tertentu dengan beberapa foto referensi. Sistem-sistem ini dirancang untuk menyintesis gambar baru berdasarkan pola yang dipelajari dari kumpulan data berukuran besar. Sistem tersebut juga dapat dijalankan di perangkat konsumen, sehingga penyalahgunaan lebih mudah dilakukan dan lebih sulit dideteksi oleh sekolah, keluarga, serta aparat penegak hukum.

Mengapa kasus-kasus ini sulit dituntut

Undang-undang utama Jepang yang mengatur gambar seksual anak, yaitu Undang-Undang tentang Pengaturan dan Pemidanaan Tindakan Terkait Prostitusi Anak dan Pornografi Anak, disusun untuk melindungi anak-anak nyata yang terekam dalam gambar nyata. Hal ini menciptakan wilayah abu-abu bagi rekayasa AI. Jika gambar tersebut sintetis, meskipun menggunakan wajah atau kemiripan anak nyata, jalur hukumnya menjadi kurang jelas. Polisi menyiasatinya dengan menggunakan undang-undang lain, termasuk pencemaran nama baik dan sejumlah peraturan daerah, untuk menangani kasus jika memungkinkan. Pendekatan ini masih terpisah-pisah dan membebani korban serta keluarga untuk mendeteksi penyalahgunaan dan segera mengajukan pengaduan.

Langkah polisi saat ini

Badan Kepolisian Nasional mulai memeriksa sekitar 10 situs dan aplikasi pembuat gambar yang sangat populer di kalangan siswa SMP dan SMA. Penyidik berencana menggunakan temuan mereka untuk mendukung penyelidikan pidana dan menyusun program edukasi bagi kaum muda, termasuk kelas pencegahan kenakalan yang menjelaskan mengapa membuat atau membagikan gambar semacam itu dapat menjadi tindak pidana dan menimbulkan dampak serius bagi teman sekelas.

Pejabat senior memperingatkan bahwa cakupan penyalahgunaan jauh lebih besar daripada yang tergambar dari kasus-kasus yang dilaporkan. Setelah meninjau pengaduan terbaru, seorang pejabat senior kepolisian mengatakan insiden yang diketahui kemungkinan hanya sebagian kecil dari aktivitas sebenarnya, karena banyak korban tidak melapor.

Wilayah abu-abu hukum di Jepang

Pakar hukum di Jepang mengatakan kerangka hukum negara itu belum mampu mengimbangi perkembangan AI generatif. Berdasarkan aturan saat ini, jika jaksa tidak dapat membuktikan bahwa anak nyata ditampilkan atau dapat diidentifikasi dengan jelas, deepfake mungkin tidak termasuk dalam rezim nasional terkait materi pelecehan seksual anak. Kesenjangan ini kontras dengan dampak nyata yang dialami korban ketika wajah atau nama mereka dilekatkan pada rekayasa eksplisit yang tersebar di obrolan grup atau media sosial.

Takashi Nagase, pengacara sekaligus profesor di Universitas Kanazawa yang pernah memberi masukan tentang kebijakan internet, berpendapat bahwa pembedaan antara gambar nyata dan sintetis tak lagi sesuai dengan cara teknologi ini digunakan.

Undang-undang yang berlaku saat ini dirancang untuk melindungi anak-anak nyata, tetapi AI generatif telah mengaburkan batas antara yang nyata dan palsu.

Sejumlah pemerintah daerah mulai mengambil tindakan. Prefektur Tottori merevisi peraturannya pada 2024 untuk secara tegas melarang pembuatan gambar palsu eksplisit secara seksual dengan menggunakan foto anak-anak. Para pegiat menyambut baik langkah di tingkat daerah, tetapi mengatakan undang-undang nasional diperlukan agar penegakan hukum tidak berbeda-beda antarwilayah atau terhambat ketika gambar disimpan di server luar negeri atau dibagikan secara anonim. Kelompok kerja pemerintah pusat telah membahas penggunaan internet oleh kaum muda dan kemungkinan langkah untuk menangani penyalahgunaan AI, meski kemajuannya lambat.

Masaki Ueda, profesor madya hukum pidana di Universitas Kanagawa yang meneliti peraturan tentang materi cabul, mengatakan kerangka hukum harus mencerminkan dampak nyata terhadap privasi dan kondisi psikologis anak-anak yang kemiripannya disalahgunakan.

Jika gambar palsu yang canggih tersebar di internet, privasi anak-anak yang fotonya disalahgunakan tetap dilanggar, meskipun gambar itu palsu. Beban psikologisnya besar, sehingga gambar deepfake seharusnya diperlakukan serupa dengan pornografi anak dan peraturan hukum perlu dipertimbangkan.

Teknologi di balik penyalahgunaan

Deepfake dihasilkan oleh model pembelajaran mesin yang dilatih untuk menyintesis gambar menyerupai kenyataan. Dua jenis perangkat mendominasi. Metode pertukaran wajah menyelaraskan dan memadukan wajah target ke dalam video atau foto yang sudah ada. Sistem teks ke gambar, yang sering disebut model difusi, menghasilkan seluruh gambar dari nol berdasarkan perintah tertulis dan, jika disediakan, sejumlah kecil wajah referensi. Pelaku terkadang menyempurnakan model lokal dengan beberapa foto yang diambil dari profil media sosial target atau album sekolah, sehingga hasilnya tampak sangat mirip dengan anak tersebut.

Kemajuan ini mempersulit deteksi dan penanganan. Jika gambar sepenuhnya sintetis, tidak ada foto asli untuk dijadikan pembanding. Tanda air dan filter pendeteksi AI memang tersedia, tetapi hasilnya tidak konsisten dan tanda air dapat dihapus. Internet Watch Foundation melaporkan bahwa dalam satu bulan pada 2023, sebuah forum dark web memuat lebih dari 20.000 gambar buatan AI, ribuan di antaranya melanggar hukum Inggris. Pembaruan berikutnya memperingatkan bahwa konten semacam ini kian meluas ke web terbuka, tempat pengguna yang tidak menyadari risikonya dan para korban dapat menemukannya di forum publik serta galeri gambar. Menurut IWF, sebagian konten yang paling meyakinkan secara visual tidak dapat dibedakan dari materi pelecehan nyata. Hal ini meningkatkan risiko korban mengalami trauma kembali dan membebani moderator serta polisi. IWF telah menerbitkan riset tentang penyalahgunaan AI untuk membuat gambar pelecehan seksual anak dan menyerukan langkah hukum serta teknis yang mendesak. Laporan mereka tersedia di riset IWF.

Dampak terhadap korban dan sekolah

Bagi seorang anak, melihat wajahnya ditempelkan pada gambar seksual dapat memicu rasa takut, malu, dan kehilangan kendali. Meski teman sekelas menyadari gambar itu hasil rekayasa, kerusakan terhadap reputasi dan kesehatan mental bisa sangat besar. Komunitas sekolah menghadapi dampak lanjutan ketika rumor menyebar, perundungan meningkat, dan guru bergegas menanggapi orang tua, menangani keselamatan siswa, serta berkoordinasi dengan aparat penegak hukum.

Para siswi khususnya mengaku mengubah cara mereka beraktivitas di internet. Di Inggris, komisioner anak-anak melaporkan bahwa sejumlah remaja berhenti mengunggah foto karena khawatir alat pembuat gambar telanjang dapat digunakan untuk menyalahgunakan foto mereka. Dame Rachel de Souza, komisioner anak-anak Inggris, mendesak para pembuat undang-undang untuk melarang aplikasi yang membuat deepfake eksplisit anak-anak, seraya menyoroti meningkatnya tekanan yang dialami remaja perempuan.

Alat yang menggunakan teknologi deepfake untuk membuat gambar telanjang anak-anak seharusnya tidak boleh legal. Saya mendesak pemerintah mengambil tindakan tegas untuk melarangnya. Alat seperti itu tidak memiliki tempat dalam masyarakat kita.

Di Jepang, pengacara mengatakan mereka melihat lebih banyak kasus penyelidikan terhadap remaja laki-laki atas tindak pidana seksual yang terkait dengan deepfake atau konten eksplisit yang dibagikan di obrolan grup. Para ahli mengingatkan bahwa banyak remaja tidak memahami konsekuensi hukumnya atau dampak terhadap teman sebaya sampai polisi datang atau proses disipliner sekolah membuat persoalan itu terasa nyata. Kesenjangan tersebut menegaskan perlunya aturan yang jelas, edukasi di sekolah, dan perlindungan platform yang kuat.

Langkah global dan pelajaran bagi Jepang

Negara-negara lain telah mengambil langkah untuk menutup celah hukum. Korea Selatan mengesahkan rancangan undang-undang pada September 2024 yang mengkriminalisasi bukan hanya pembuatan gambar seksual deepfake anak di bawah umur, tetapi juga tindakan melihat atau memilikinya. Di Amerika Serikat, undang-undang federal yang disahkan pada Mei 2025 melarang pengunggahan gambar atau video eksplisit secara seksual tanpa persetujuan orang yang ditampilkan dan mewajibkan platform menghapus konten tersebut dalam 48 jam setelah diminta korban. Banyak negara bagian di AS juga memperbarui undang-undang agar gambar anak di bawah umur yang dimodifikasi atau dibuat dengan AI dalam perilaku seksual termasuk dalam kategori materi pelecehan seksual anak yang ilegal, meskipun tidak ada anak nyata dalam tindakan yang digambarkan. Langkah di tingkat negara bagian ini merupakan respons atas putusan pengadilan AS sebelumnya yang memperlakukan konten virtual murni secara berbeda dari gambar yang dibuat dengan melibatkan anak nyata.

Di Eropa, aparat penegak hukum bekerja sama lintas negara. Europol mengoordinasikan Operasi Cumberland, salah satu operasi penindakan global pertama yang terkait dengan materi pelecehan seksual anak buatan AI. Dengan dukungan 19 negara, polisi mengidentifikasi ratusan tersangka, melakukan puluhan penangkapan, dan menggeledah sejumlah rumah untuk menghentikan platform yang mendistribusikan gambar anak di bawah umur yang sepenuhnya buatan. Penyidik mengatakan AI kini memungkinkan orang dengan keterampilan terbatas menghasilkan konten pelecehan dalam jumlah besar. Mereka memperingatkan bahwa metode tradisional untuk mengidentifikasi korban atau melacak sumber materi sering kali tidak berhasil jika gambar bersifat sintetis. Direktur Eksekutif Europol Catherine De Bolle menekankan perlunya metode penyelidikan baru yang sesuai untuk konten buatan AI.

Gambar buatan AI dapat dengan mudah dibuat oleh orang-orang yang berniat melakukan kejahatan. Hal ini meningkatkan volume materi pelecehan dan mempersulit identifikasi pelaku maupun korban.

Di Jepang, polisi baru-baru ini melakukan penangkapan pertama terkait penjualan poster cabul buatan AI yang menampilkan perempuan dewasa fiktif melalui lelang daring. Hal ini menandakan bahwa undang-undang tentang materi cabul yang berlaku dapat menjangkau sebagian kasus penyalahgunaan AI. Salah satu tersangka dilaporkan meraup sekitar 10 juta yen dalam setahun. Kasus yang melibatkan anak menghadapi hambatan tambahan. Karena itu, para pakar dan kelompok perlindungan anak mendorong aturan nasional yang secara tegas mencakup penggambaran seksual anak di bawah umur buatan AI, baik yang didasarkan pada foto nyata maupun sepenuhnya sintetis.

Langkah yang dapat dilakukan keluarga, sekolah, dan platform sekarang

Sembari para pembuat kebijakan membahas reformasi, ada langkah praktis untuk mengurangi risiko dan mempercepat respons ketika penyalahgunaan terjadi. Langkah-langkah ini berfokus pada persetujuan, akses ke foto, saluran pelaporan, dan dukungan kesehatan mental.

• Batasi peredaran foto siswa. Sekolah dapat membatasi akses ke album kelas dan galeri acara hanya untuk wali yang terverifikasi, menggunakan tautan yang kedaluwarsa, dan memberi tanda air pada gambar yang keluar dari kanal resmi.
• Ajarkan persetujuan dan etika digital sejak dini. Masukkan literasi AI dan media ke dalam pelajaran wali kelas atau teknologi, termasuk diskusi terbuka tentang deepfake, privasi, dan dampak buruk yang ditimbulkan gambar-gambar ini.
• Tetapkan aturan yang jelas untuk obrolan grup. Klub dan kelas siswa sebaiknya menetapkan kode etik untuk aplikasi pesan, dengan konsekuensi yang jelas atas tindakan membagikan konten eksplisit atau melecehkan.
• Bantu siswa agar dapat segera melapor. Permudah mereka untuk memberi tahu orang dewasa tepercaya, pihak sekolah, dan platform ketika gambar yang melecehkan muncul. Pelaporan cepat mempersempit waktu penyebarannya.
• Bekerja sama dengan aparat penegak hukum. Meski jalur hukum yang tepat belum jelas, serahkan bukti kepada polisi agar mereka dapat memberi saran terkait pencemaran nama baik, privasi, atau peraturan daerah yang mungkin berlaku.
• Libatkan platform. Gunakan fitur bawaan untuk melaporkan gambar seksual tanpa persetujuan dan meminta penghapusannya. Simpan catatan tautan, waktu, dan nama pengguna.
• Dukung kesehatan mental korban. Sediakan konseling rahasia dan segera libatkan wali. Jangan memaksa korban menghadapi teman sebaya untuk membuktikan bahwa gambar itu palsu.
• Kurangi jejak data pribadi. Dorong siswa menjadikan akun mereka privat, menghapus unggahan lama, dan menghindari unggahan foto wajah beresolusi tinggi yang dikaitkan dengan detail sekolah atau lokasi.
• Terapkan praktik foto yang lebih aman. Saat membagikan foto tim atau kelas, pertimbangkan pengambilan gambar dari jarak lebih jauh, mengurangi foto close-up wajah, dan membatasi izin untuk membagikannya kembali.

Bagi perusahaan teknologi, langkah perlindungan mencakup filter yang andal untuk perintah dan unggahan, pemblokiran fitur pembuat gambar telanjang secara default, verifikasi usia yang kuat, dan mekanisme penghapusan cepat yang berlaku di seluruh produk. Transparansi mengenai kegagalan yang diketahui dan perbaikan yang terdokumentasi dapat membantu membangun kembali kepercayaan. Kontroversi baru-baru ini terkait chatbot arus utama yang menghasilkan gambar bernuansa seksual seorang selebritas berusia 16 tahun menunjukkan betapa cepatnya kekurangan desain dapat memicu peringatan dari regulator dan kecaman publik.

Poin-poin utama

• Polisi Jepang menerima lebih banyak laporan tentang anak di bawah umur yang membuat dan membagikan deepfake seksual AI teman sekelas mereka dengan menggunakan foto sekolah dan gambar dari obrolan grup.
• Sepanjang tahun lalu, lebih dari 100 konsultasi dan laporan diajukan di seluruh negeri, dengan setidaknya 17 kasus terkait acara sekolah dan album kelulusan.
• Penuntutan kasus deepfake sulit dilakukan berdasarkan hukum nasional saat ini, yang berfokus pada gambar anak nyata. Polisi sering menggunakan undang-undang lain, seperti pencemaran nama baik.
• Badan Kepolisian Nasional menyelidiki sekitar 10 situs dan aplikasi pembuat gambar populer dan berencana menggunakan temuannya untuk penyelidikan pidana serta edukasi kaum muda.
• Para ahli mengatakan sistem hukum belum mampu mengikuti perkembangan. Pakar hukum menyerukan aturan nasional yang secara tegas memperlakukan gambar seksual deepfake anak di bawah umur seperti materi pelecehan seksual anak yang ilegal.
• Di tingkat internasional, Korea Selatan, Amerika Serikat, Inggris, dan Australia telah mengambil langkah untuk mengatur gambar seksual buatan AI, termasuk kewajiban penghapusan cepat dan tindak pidana baru.
• Operasi Cumberland Europol menyasar jaringan yang mendistribusikan konten pelecehan anak yang sepenuhnya dibuat dengan AI dan menyoroti tantangan penyelidikan ketika tidak ada anak nyata yang digambarkan.
• Sekolah, keluarga, dan platform dapat mengurangi dampak buruk dengan memperketat akses foto, mengajarkan literasi AI, menegakkan aturan obrolan, menyederhanakan pelaporan, dan menyediakan konseling bagi korban.