Mahkamah Agung India Perintahkan Basis Data Bersama untuk Menghapus Materi Pelecehan Seksual Anak, Tolak Larangan Internet Menyeluruh

Sistem deteksi bersama, anak-anak tetap boleh mengakses internet

Mahkamah Agung India memerintahkan pemerintah pusat membentuk Basis Data Nasional Daftar Hash dan URL untuk membantu platform mengidentifikasi dan menghapus materi eksploitasi dan pelecehan seksual terhadap anak yang telah dikonfirmasi di berbagai layanan. Setiap entri harus dinilai secara independen oleh sedikitnya tiga analis manusia terlatih, dan basis data tersebut akan menyimpan pengenal digital serta alamat internet, bukan gambar atau video yang memuat pelecehan itu sendiri.

Putusan sepanjang 136 halaman tertanggal 15 Oktober 2026 itu juga menetapkan tenggat pelaporan bagi perusahaan media sosial, mewajibkan sistem pengaduan yang mudah diakses, serta menyerukan pendidikan keselamatan digital di sekolah. Pemerintah harus menyerahkan afidavit yang menjelaskan kemajuan pelaksanaan sebelum sidang berikutnya pada 10 Desember 2026.

Hakim J. B. Pardiwala dan K. Vinod Chandran mengeluarkan arahan tersebut dalam perkara Just Rights for Children Alliance & Anr. v. S. Harish & Ors., menyusul permohonan yang menuduh adanya kegagalan mematuhi putusan pengadilan pada 23 September 2024.

Majelis hakim memadukan kewajiban yang lebih kuat bagi perusahaan teknologi dengan temuan konstitusional: anak-anak memiliki hak fundamental untuk mengakses dan menggunakan internet. Majelis menolak mendukung pembatasan menyeluruh berdasarkan usia dan lebih mengutamakan bimbingan orang tua, pengaturan akun yang lebih aman, serta penindakan terhadap pihak yang membuat, menyebarkan, atau mengambil keuntungan dari materi yang memuat pelecehan.

Mengapa penghapusan oleh masing-masing platform belum memadai

Pengadilan mengidentifikasi kelemahan praktis dalam sistem yang berlaku. Ketika satu perusahaan mendeteksi dan menghapus materi yang memuat pelecehan, platform lain mungkin masih menyimpan gambar, video, atau tautan yang sama karena belum mengidentifikasinya secara mandiri.

Aturan 4(4) dari Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021 merujuk pada konten yang sebelumnya telah dihapus dari sumber daya komputer milik perantara tersebut. Majelis hakim menilai pendekatan itu terlalu sempit untuk mendukung deteksi terkoordinasi di berbagai layanan.

Permohonan tersebut juga menyoroti dugaan promosi berbayar yang mengarahkan pengguna ke materi yang memuat pelecehan melalui tautan dan situs eksternal. Dari 84 iklan yang diperiksa di India, 55 dilaporkan melalui sistem pelaporan sebuah platform. Dari 55 iklan itu, 43 dinilai mematuhi standar iklannya, atau sekitar 78 persen dari iklan yang dilaporkan.

Bagi pengadilan, masalahnya mencakup unggahan berulang sekaligus jalur yang digunakan untuk mengarahkan pengguna ke eksploitasi. Karena itu, kerangka yang ditetapkan mencakup identifikasi materi yang sudah diketahui, pemeriksaan alamat eksternal, pelaporan kepada polisi, serta pemeriksaan atas uang yang diperoleh dari penyebarannya.

Cara kerja basis data nasional

Basis Data Nasional Daftar Hash dan URL dapat beroperasi di dalam Sahyog Portal milik Indian Cyber Crime Coordination Centre, yang dikenal sebagai I4C, atau sebagai repositori terpisah. Saat ini Sahyog menyalurkan pengaduan dan pemberitahuan penghapusan; basis data yang diusulkan akan menambahkan sistem referensi bersama untuk mendeteksi materi terkonfirmasi yang memuat pelecehan.

Hash adalah pengenal digital yang dihasilkan dari sebuah berkas, sebanding dengan sidik jari. Platform dapat membandingkan pengenal untuk mengenali materi yang telah diidentifikasi di tempat lain. Hash perseptual lebih lanjut membantu mendeteksi gambar atau video serupa setelah mengalami perubahan seperti pengubahan ukuran atau format.

URL adalah alamat internet. Pencantuman alamat ini membantu platform menindak tautan yang mengarahkan pengguna ke lokasi yang diketahui menampung materi yang memuat pelecehan, termasuk ketika materi tersebut disimpan di luar platform yang menampilkan tautan itu.

Pemerintah harus menyusun pedoman atau prosedur operasi standar bagi perantara media sosial besar untuk menggunakan pencocokan hash perseptual dan pencantuman URL. Pengadilan mengutamakan pedoman yang dapat diperbarui secara berkala seiring perubahan teknologi.

Platform akan memeriksa layanannya berdasarkan entri basis data, sementara lembaga penegak hukum akan menggunakan pengenal bersama untuk menemukan materi yang cocok di tempat lain di internet. Dengan demikian, temuan yang terkonfirmasi dapat mendukung tindakan di beberapa layanan, alih-alih memulai proses deteksi baru di setiap perusahaan.

Tiga penilaian manusia sebelum sebuah entri diterima

Pengadilan mewajibkan beberapa tahap verifikasi sebelum materi dapat dicantumkan dalam basis data. Perangkat lunak boleh melakukan penyaringan awal, tetapi sedikitnya tiga analis manusia terlatih harus masing-masing menilai secara independen apakah materi tersebut merupakan materi eksploitasi dan pelecehan seksual terhadap anak, atau CSEAM.

Entri harus diserahkan melalui saluran terenkripsi. Repositori hanya boleh menyimpan hash dan URL terkait, beserta catatan penilaian, log akses, dan audit independen. Entri yang keliru harus segera dihapus.

Orang yang terdampak oleh penghapusan berdasarkan entri basis data harus memiliki akses ke proses pengaduan. Pemberitahuan penghapusan harus menjelaskan dasar tindakan tersebut agar seseorang mengetahui apakah pengaduan perlu disampaikan kepada platform atau badan yang mengelola basis data.

Perlindungan ini menghubungkan sistem deteksi bersama yang kuat dengan jalur untuk memperbaiki kesalahan. Karena sebuah entri dapat memicu tindakan di berbagai platform, ketepatan penilaian awal penting bagi setiap penghapusan berikutnya.

Tindakan apa yang harus dilaporkan dalam dua jam?

Pengadilan menetapkan prosedur berbeda untuk materi yang baru diidentifikasi dan materi yang telah tercantum dalam basis data nasional. Dalam kerangka ini, materi yang tidak diketahui asalnya berarti konten yang sedang dinilai melalui proses deteksi atau pengaduan internal platform. Materi yang diketahui adalah konten yang cocok dengan entri basis data terkonfirmasi.

• Jika platform secara mandiri mendeteksi dan menghapus materi yang tidak diketahui asalnya, platform harus melaporkan penghapusan itu dalam waktu dua jam.
• Jika penghapusan dilakukan setelah adanya pengaduan, platform harus segera melaporkannya setelah pengaduan ditangani, dan selambat-lambatnya dalam waktu dua jam sejak penyelesaian pengaduan.
• Jika konten cocok dengan entri basis data yang sudah ada, platform harus segera menonaktifkan dan menghapusnya serta menyerahkan laporan gabungan mengenai penghapusan tersebut setiap pekan.

Platform harus memverifikasi materi yang baru diidentifikasi sebelum menghapus dan melaporkannya melalui proses ini. Platform harus memberi tahu pihak berwenang yang ditunjuk berdasarkan hukum India, termasuk Special Juvenile Police Unit, kepolisian setempat, atau portal kejahatan siber, sebagaimana berlaku menurut Aturan 11 Protection of Children from Sexual Offences Rules, 2020. Badan pengelola basis data yang ditunjuk juga harus diberi tahu apabila merupakan otoritas yang berbeda.

Tenggat dua jam berlaku untuk pelaporan setelah penghapusan atau penyelesaian pengaduan. Prosedur pelaporan mingguan berlaku untuk kecocokan dengan materi yang sudah dikonfirmasi dalam basis data, di samping kewajiban untuk segera menghapusnya.

Putusan September 2024 sebelumnya telah mengaitkan kewajiban pelaporan dengan Pasal 79 Information Technology Act, 2000. Pasal tersebut memberikan perlindungan bersyarat, yang kerap disebut safe harbour, dari tanggung jawab atas materi yang diunggah pengguna. Pengadilan menyatakan bahwa perantara harus melakukan uji tuntas dan mematuhi kewajiban pelaporan berdasarkan undang-undang perlindungan anak agar dapat memperoleh perlindungan tersebut.

Pengaduan harus ditangani petugas terlatih

Platform harus menyediakan kategori pelaporan CSEAM tersendiri dengan nama yang jelas dan dapat dijangkau dalam dua langkah. Pelaporan harus menjaga anonimitas tanpa mewajibkan pemberian data pribadi, dan informasi petugas pengaduan harus mudah ditemukan di situs web maupun aplikasi.

Setiap pengaduan harus mendapat tanda terima dalam waktu 24 jam dan nomor referensi. Petugas pengaduan terlatih harus meninjaunya, dan pelapor harus menerima keputusan beserta alasannya. Perangkat otomatis boleh membantu penyaringan awal, sementara petugas terlatih tetap bertanggung jawab meninjau pengaduan.

Pengadilan juga menyerukan laporan dalam format seragam yang dapat diproses sistem komputer. Pelaporan yang konsisten akan memberi otoritas informasi dalam bentuk yang dapat digunakan, sehingga mereka tidak perlu menyelaraskan beragam format perusahaan.

Pemerintah pusat diminta memperluas persyaratan akuntabilitas ke seluruh perantara melalui amendemen yang sesuai terhadap IT Rules. Bagi pengguna, perubahan yang diharapkan bersifat konkret: jalur pelaporan yang mudah diakses, pengaduan yang dapat dilacak, dan keputusan yang menjelaskan tindakan yang diambil.

Pendapatan iklan dan langganan akan diperiksa

Majelis hakim mengarahkan para perantara untuk mencegah CSEAM dan materi berbahaya lain yang dilarang ditawarkan, ditampung, diunggah, dipromosikan, atau diedarkan melalui paywall maupun langganan, baik secara langsung maupun tidak langsung. Paywall adalah penghalang pembayaran yang harus dilewati pengguna untuk mengakses konten.

Pengadilan menyatakan bahwa pendapatan yang diperoleh dari materi terlarang yang disebarkan melalui layanan tersebut harus disita dan diserahkan. Pengadilan meminta pemerintah menyusun kerangka yang diperlukan dan mempertimbangkan denda uang yang bersifat teladan atas pelanggaran kewajiban berdasarkan IT Act dan peraturannya.

Besaran denda harus mempertimbangkan tingkat keseriusan, durasi, dan pengulangan pelanggaran, serta ukuran dan omzet perusahaan. Dengan demikian, penanganan dapat memperhitungkan baik kegagalan berulang maupun skala usaha yang bertanggung jawab.

Putusan tersebut juga membahas materi elektronik yang memfasilitasi eksploitasi, termasuk iklan perangkat yang memanipulasi gambar menjadi materi yang memuat pelecehan atau mengarahkan pengguna ke materi tersebut. Pengadilan menilai jangkauan regulasi IT Act dan Rules melampaui penggambaran visual semata, dengan merujuk pada Pasal 67B(d) dan Aturan 3(1)(b).

Sebelum putusan dikeluarkan, Ministry of Electronics and Information Technology memberi tahu pengadilan bahwa kementerian itu telah mengirimkan pemberitahuan kepada petugas kepatuhan Meta pada Juli 2026 terkait iklan berbayar yang mempromosikan CSEAM. Proses tersebut masih berlangsung. Keterangan pemerintah juga menjelaskan adanya diskusi yang kemudian membuat Google dan Meta sepakat melaporkan kasus secara langsung kepada lembaga penegak hukum India.

Mengapa pengadilan menolak larangan menyeluruh bagi anak-anak

Majelis hakim mengakui akses dan penggunaan internet sebagai hak fundamental berdasarkan Pasal 21, yang melindungi kehidupan dan kebebasan pribadi, dibaca bersama Pasal 19(1)(a), yang melindungi kebebasan berbicara dan berekspresi. Majelis menyatakan anak-anak menikmati hak-hak ini tanpa memandang usia.

Hakim Pardiwala dan Chandran menjelaskan hubungan antara perlindungan dan akses dalam putusan mereka:

Keselamatan anak-anak kita dan kebebasan mereka tidak bertentangan satu sama lain. Anak-anak kita berhak atas keduanya.

Pengadilan berpendapat bahwa anak-anak mungkin tetap menggunakan internet secara diam-diam setelah larangan diberlakukan, lalu beralih ke layanan yang lebih sedikit diatur. Anak yang menghadapi ancaman atau manipulasi mungkin kemudian enggan mencari bantuan karena takut dihukum karena mengakses internet.

Majelis hakim juga mengangkat masalah privasi terkait sistem yang mewajibkan setiap pengguna membuktikan usia melalui pengumpulan dan pemantauan ekstensif atas informasi sensitif. Sebagai gantinya, majelis menyarankan persetujuan, bimbingan, dan pengawasan orang tua, disertai mode khusus anak.

Pengaturan yang mungkin diterapkan mencakup akun yang secara bawaan bersifat privat, pembatasan kontak dari orang dewasa yang tidak dikenal, serta pengaturan iklan dan konten. Untuk anak-anak yang belum memasuki usia remaja, pengadilan menyarankan cara yang proporsional untuk memverifikasi persetujuan orang tua. Pengaturan terperinci diserahkan kepada pemerintah pusat, yang juga dapat memberlakukan pembatasan terarah terhadap layanan yang pada dasarnya berbahaya, termasuk situs web konten dewasa.

Sekolah menjadi bagian dari rencana perlindungan

Pengadilan mengarahkan agar pendidikan keselamatan digital dan pendidikan seks yang sesuai usia menjadi bagian dari kurikulum inti. Pelajaran harus mencakup persetujuan, sentuhan aman dan tidak aman, hubungan yang sehat, perlindungan informasi pribadi, eksploitasi daring, dan cara melaporkan pelecehan.

National Council of Educational Research and Training dan State Councils of Educational Research and Training akan menyusun materi tersebut bersama psikolog anak, pendidik, dan pakar pengasuhan anak. Pengadilan juga menyerukan agar nomor saluran bantuan dipasang di sekolah dan program penyadaran dimulai sejak tingkat sekolah dasar.

Bagi anak-anak, ini berarti belajar mengenali bahaya dan memberi tahu orang dewasa yang dipercaya, sebagai pelengkap langkah teknis yang diharapkan diterapkan perusahaan. Komponen pendidikan ini menyasar situasi ketika seorang anak menghadapi manipulasi atau perilaku mengancam sebelum platform mengidentifikasi gambar atau tautan apa pun.

Istilah yang digunakan pengadilan juga mencerminkan fokus pada bahaya tersebut. Dalam putusan September 2024, pengadilan meminta Parlemen mempertimbangkan penggantian istilah "pornografi anak" dalam POCSO Act dengan istilah yang menggambarkan materi eksploitasi dan pelecehan seksual terhadap anak, agar sifat pelanggarannya tercermin secara lebih akurat.

Yang harus dilakukan pemerintah sebelum 10 Desember

Ministry of Electronics and Information Technology serta Ministry of Law and Justice harus mengambil langkah untuk menerapkan kerangka ini melalui pedoman, prosedur operasi standar, dan perubahan yang sesuai terhadap IT Rules serta, bila diperlukan, IT Act. Afidavit pemerintah harus menjelaskan kemajuan yang dicapai, termasuk perangkat teknologi yang saat ini digunakan para perantara.

MeitY sebelumnya telah menyerahkan draf prosedur yang disusun bersama Ministry of Women and Child Development, Ministry of Home Affairs, Department of Telecommunications, dan pemangku kepentingan lainnya. Solicitor General Tushar Mehta meminta tambahan waktu untuk merampungkannya.

Proses hukum ini telah berkembang dalam beberapa tahap:

• 23 September 2024: Mahkamah Agung mengeluarkan putusan sebelumnya tentang CSEAM, termasuk kewajiban pelaporan bagi perantara.
• Februari 2026: Pemerintah mengamendemen aturan perantara untuk menambahkan kewajiban uji tuntas khusus terkait CSEAM.
• Juli 2026: MeitY mengirimkan pemberitahuan kepada petugas kepatuhan Meta terkait iklan berbayar yang mempromosikan materi tersebut.
• 14 Agustus 2026: Pengadilan mencatat kekhawatiran atas kelalaian serius dalam kepatuhan.
• 15 Oktober 2026: Majelis hakim mengeluarkan kerangka basis data, pelaporan, pendidikan, dan akuntabilitas.
• 10 Desember 2026: Pengadilan dijadwalkan kembali menyidangkan perkara ini, dan afidavit kemajuan pemerintah harus diserahkan paling lambat saat itu.

Putusan tersebut tidak menetapkan tanggal peluncuran basis data atau besaran akhir denda uang. Pada sidang Desember, pemerintah harus menjelaskan langkah yang telah diambil untuk mewujudkan deteksi bersama, pelaporan yang andal, dan akses daring yang lebih aman bagi anak-anak.

Poin Utama

• Basis data nasional akan menyimpan hash dan URL materi eksploitasi dan pelecehan seksual terhadap anak yang telah dikonfirmasi, bukan materi itu sendiri.
• Sedikitnya tiga analis manusia terlatih harus menilai secara independen setiap entri yang diajukan.
• Penghapusan tertentu harus dilaporkan dalam waktu dua jam; kecocokan dengan entri basis data yang sudah ada harus segera dihapus dan dilaporkan setiap pekan.
• Platform harus mengakui penerimaan pengaduan dalam waktu 24 jam dan menyediakan peninjauan oleh petugas terlatih.
• Pengadilan melarang distribusi melalui paywall dan langganan serta menyerukan kerangka untuk menangani denda dan pendapatan dari materi terlarang.
• Anak-anak tetap memiliki hak fundamental untuk mengakses internet, dengan perlindungan terarah yang lebih diutamakan daripada larangan menyeluruh.
• Pemerintah harus melaporkan kemajuan pelaksanaan sebelum sidang pada 10 Desember 2026.