Australia Usulkan Pilihan Algoritma Media Sosial dan Kewajiban Baru untuk Mencegah Bahaya Daring

Peralihan feed didukung kewajiban keselamatan yang lebih luas

Warga Australia berusia di atas 16 tahun akan mendapat pilihan antara rekomendasi media sosial dan feed yang menampilkan akun-akun yang mereka ikuti berdasarkan rancangan undang-undang yang diajukan di Dewan Perwakilan Rakyat pada 15 Oktober 2026. Platform harus mempertahankan pilihan itu setiap kali pengguna membuka kembali aplikasi, alih-alih terus mengarahkan mereka kembali ke rekomendasi.

Rancangan Undang-Undang Amandemen Keamanan Daring (Kewajiban Kehati-hatian Digital) 2026 juga akan mewajibkan layanan daring mengidentifikasi dan mengurangi risiko bahaya yang dapat diperkirakan sebelum pengguna mengalaminya. Cakupannya melampaui media sosial, hingga situs web, gim, layanan pesan, aplikasi, dan chatbot kecerdasan buatan. Perusahaan yang melanggar ketentuan yang diusulkan dapat dikenai denda hingga A$109,2 juta.

Menteri Komunikasi Anika Wells berupaya mengganti sekumpulan kode dan standar daring dengan tanggung jawab hukum yang lebih luas atas keselamatan. Usulan ini memadukan pengendalian desain platform, perlindungan yang lebih kuat bagi anak-anak, respons lebih cepat terhadap jenis pemberitahuan penyalahgunaan tertentu, serta perluasan kewenangan penegakan hukum bagi Komisioner eSafety.

Wells, yang berbicara di National Press Club, menjelaskan tanggung jawab yang ingin dibebankan kepada perusahaan:

Jika Anda membangunnya, Anda bertanggung jawab atas risikonya.

Rancangan undang-undang ini harus disahkan oleh kedua kamar Parlemen. Partai Buruh berharap rancangan itu disahkan sebelum akhir 2026, tetapi Koalisi menentangnya dan Partai Hijau menginginkan denda yang lebih berat, tindakan terhadap desain adiktif, serta hak bagi individu untuk menggugat perusahaan teknologi. Pengaturan feed juga sedang dirancang melalui aturan terpisah, sehingga pemungutan suara di parlemen hanyalah salah satu bagian dari proses, bukan tanggal ketika pengguna akan langsung melihat tombol pengaturan baru.

Apa yang berubah saat orang membuka aplikasi?

Algoritma rekomendasi adalah perangkat lunak yang memilih dan mengurutkan unggahan berdasarkan sinyal seperti apa yang ditonton, disukai, atau dibagikan seseorang. Feed yang didasarkan pada akun yang diikuti menampilkan konten dari orang dan halaman yang sengaja dipilih pengguna.

Usulan pemerintah My Feed, My Way akan membuat pilihan itu terlihat dan tetap berlaku. Perusahaan harus memberi tahu pemilik akun tentang pilihan tersebut, memastikan kontrolnya mudah ditemukan, dan tidak mempersulit navigasi feed setelah seseorang memilih untuk tidak menerima rekomendasi.

Platform juga harus mengingat pengaturan tersebut setiap kali aplikasi dibuka. Bagi orang yang ingin melihat akun yang diikuti alih-alih video atau unggahan yang disarankan, ketentuan ini menghilangkan keharusan untuk mengubah pengaturan berulang kali.

Rancangan undang-undang ini memberi kewenangan untuk mewajibkan penyedia menyediakan alat yang memungkinkan pengguna mengelola fitur desain layanan. Konsultasi mengenai aturan feed secara spesifik berjalan terpisah. Karena itu, persyaratan praktisnya masih harus melalui proses tersebut, meskipun Wells telah menjelaskan prinsip-prinsip yang diharapkan dipenuhi perusahaan.

Chanel Contos, pendiri sekaligus kepala eksekutif Teach Us Consent, menyambut baik pilihan yang diusulkan. Ia menjelaskan bahwa rekomendasi tetap tersedia bagi orang-orang yang menginginkannya:

Tidak ada bagian dari ketentuan ini yang menghalangi orang, organisasi, atau bisnis menjangkau audiens melalui feed algoritmik. Ini hanya berarti orang dapat memilih feed tersebut, alih-alih dipaksa menggunakannya.

Platform harus mencari risiko secara mandiri

Kewajiban yang diusulkan akan mengamendemen Undang-Undang Keamanan Daring dan mewajibkan penyedia menilai risiko, mengambil langkah yang sesuai untuk mencegah atau menguranginya, serta mendokumentasikan respons mereka. Penilaian risiko tahunan akan menjadikan keselamatan sebagai tanggung jawab berkelanjutan, bukan sesuatu yang baru dipertimbangkan setelah ada pengaduan.

Orang dewasa akan mendapat perlindungan dari materi dan perilaku yang sangat berbahaya. Anak-anak di bawah 18 tahun akan mendapat perlindungan lebih luas, termasuk dari perundungan, materi yang mendorong gangguan makan, aksi berbahaya, perilaku kriminal, serta permusuhan terhadap perempuan dan kesetaraan gender. Beberapa fitur desain algoritmik yang berbahaya juga akan tercakup dalam perlindungan bagi anak-anak.

Batas usia tersebut memiliki tujuan berbeda. Pembatasan akses media sosial di Australia berlaku bagi anak-anak di bawah 16 tahun; kewajiban yang diusulkan juga akan melindungi remaja lebih tua yang dapat menggunakan layanan tersebut. Gim, aplikasi pesan, dan layanan lain yang tercakup akan memiliki kewajiban masing-masing.

Wells juga menyoroti keterbatasan hukum yang berlaku, dengan mengatakan bahwa hukum saat ini tidak dapat memblokir rencana siaran langsung eksekusi kontroversial di Amerika Serikat. Juru bicara komunikasi Partai Hijau, Sarah Hanson-Young, berencana meminta Meta agar tidak menayangkan siaran tersebut. Perselisihan ini menunjukkan tekanan agar platform menilai materi berbahaya sebelum menjangkau audiens, di samping penegakan hukum oleh pemerintah setelah materi diterbitkan.

Perlindungan baru menyasar kekerasan dan pelecehan seksual

Rancangan undang-undang yang diajukan memperluas kategori bahaya serius, mencakup pembuatan gambar telanjang palsu tanpa persetujuan, pengunggahan atau ancaman untuk mengunggah gambar intim orang lain tanpa persetujuan, serta anjuran, promosi, atau penghasutan kekerasan berbasis gender.

Gambar telanjang palsu dapat dibuat dengan mengubah gambar secara digital atau menggunakan kecerdasan buatan untuk menggambarkan seseorang dalam keadaan telanjang. Usulan ini akan memberi Komisioner eSafety kewenangan untuk menindak layanan yang membuat materi semacam itu, yang sering disebut layanan nudifikasi.

Paket keselamatan yang lebih luas juga menangani materi terkait terorisme, bunuh diri, tindakan menyakiti diri, dan gangguan makan. Untuk tindakan yang merupakan tindak pidana federal, kewajiban ini akan berlaku jika tindakan tersebut kemungkinan menimbulkan bahaya serius. Ambang batas itu membantu menentukan tindak pidana mana yang tercakup dalam kewajiban keselamatan daring khusus ini.

John Hartman, kepala eksekutif Minderoo Foundation, menyambut baik perluasan perlindungan terhadap penyalahgunaan gambar seksual, ancaman, dan kekerasan. Ia mengatakan perempuan dan anak-anak mengalami dampak buruk daring yang tidak proporsional, termasuk misogini dan materi tidak pantas di media sosial serta aplikasi kencan.

Usulan ini juga akan mempersingkat masa penghapusan yang berlaku untuk jenis pemberitahuan perundungan siber dan pelecehan daring tertentu, dari 48 jam menjadi 24 jam. Ini memangkas separuh waktu respons untuk pemberitahuan yang terdampak, sehingga tindakan cepat menjadi bagian lebih besar dari upaya kepatuhan platform.

Parlemen akan menentukan kategori bahaya baru

Pemerintah menghapus usulan kewenangan yang memungkinkan menteri komunikasi menambahkan kategori materi berbahaya. Penambahan kategori selanjutnya harus dilakukan melalui amendemen undang-undang oleh Parlemen, sehingga perubahan itu dibahas dan diputuskan melalui pemungutan suara.

Departemen Infrastruktur, Transportasi, Pembangunan Regional, Komunikasi, Olahraga dan Seni menerbitkan draf untuk konsultasi pemerintah. Pemberitahuannya menetapkan batas waktu penyampaian masukan tertulis pada Selasa, 22 September pukul 12.00. Draf tersebut dirilis pada 8 September, sehingga waktu yang diberikan untuk menyampaikan masukan adalah dua pekan; ringkasan masukan oleh pemerintah belum diterbitkan saat rancangan undang-undang diajukan.

Materi berita profesional dan jenis hiburan tertentu secara tegas dikecualikan dalam versi yang diajukan. Pengecualian lainnya mencakup konten artistik dan edukatif dengan syarat kepentingan publik, penelitian ilmiah dan akademis, serta materi yang mendukung kesehatan dan keselamatan publik atau pengurangan bahaya.

Pemerintah juga menghapus usulan pembatasan terhadap materi yang menganjurkan atau memberi petunjuk penggunaan narkoba terlarang. Para pemerhati kesehatan masyarakat khawatir rumusan tersebut dapat mencakup edukasi narkoba yang bertujuan menyelamatkan nyawa atau mengurangi cedera.

Perubahan tersebut menanggapi masalah praktis: platform menggunakan sistem moderasi untuk memilah konten dalam jumlah sangat besar, sementara edukasi kesehatan dapat memuat kata atau gambar sensitif yang sama dengan materi yang menimbulkan bahaya. Pengecualian ini memberi penyedia dasar hukum untuk mempertahankan informasi bermanfaat saat menerapkan kewajiban baru.

Perlindungan kebebasan berbicara tetap menjadi titik konflik politik

Koalisi berpendapat definisi dalam rancangan undang-undang ini masih terlalu luas dan dapat membuka jalan bagi penyensoran politik. Menteri Komunikasi Bayangan Sarah Henderson memastikan oposisi tidak akan bernegosiasi mengenai undang-undang tersebut dan mempertanyakan cakupan perlindungan kepentingan publik di dalamnya.

Pemimpin Oposisi Angus Taylor juga mengkritik usulan itu dan berpendapat pemerintah seharusnya berfokus memastikan pembatasan bagi anak-anak di bawah 16 tahun berjalan efektif. Penghapusan kewenangan menteri untuk menambahkan kategori bahaya pun tidak menyelesaikan perselisihan politik tersebut.

Wells menolak argumen penyensoran di National Press Club. Ia mengatakan kewajiban itu menyasar perilaku dan keselamatan platform, bukan perbedaan pendapat politik:

Ini bukan soal apa yang dikatakan orang di internet. Ini soal apa yang dilakukan platform di internet, dan hak Anda untuk tidak sependapat dengan saya atau pemerintah, atau meyakini apa pun yang ingin Anda yakini, tidak akan dibatasi oleh kewajiban kehati-hatian digital.

Wells juga mengatakan orang dewasa tetap dapat mendengarkan podcast manosfer, mengkritik pemerintah, membuat meme, atau menyampaikan keyakinan bahwa pendaratan di Bulan adalah rekayasa. Ia menggambarkan kewajiban tersebut sebagai hal yang terpisah dari regulasi misinformasi dan disinformasi.

Organisasi kesehatan dan komunitas memiliki kekhawatiran lain: platform menghapus materi yang sah karena menerapkan aturan keselamatan secara terlalu luas. Repro Uncensored, organisasi yang memantau penyensoran digital dan membantu pengguna menentang pembatasan akun, mengatakan telah menerima lebih dari 100 kasus terverifikasi di Australia, termasuk lebih dari 30 kasus sejak Agustus 2026.

Ombudsman Industri Telekomunikasi mengatakan ribuan orang telah meminta bantuan terkait masalah dengan penyedia platform sejak 2023 dan menyerukan penyelesaian sengketa eksternal yang independen. Mekanisme banding tambahan bagi organisasi kesehatan masyarakat yang materinya diblokir masih belum diputuskan. Bagi para pengguna ini, akses ke proses pengaduan yang efektif sama pentingnya dengan rumusan pengecualian konten.

Menguji platform dengan akun beridentitas samaran

Komisioner eSafety dan peneliti terakreditasi akan dapat menggunakan akun beridentitas samaran, yang terkadang disebut akun sock puppet, untuk mengamati dan menguji layanan. Akun semacam itu dapat membantu peneliti melihat rekomendasi yang diberikan platform kepada jenis pengguna tertentu.

Regulator harus menyusun kebijakan dengan berkonsultasi bersama Kepolisian Federal Australia dan melaporkan penggunaan akun tersebut setiap tahun. Peneliti universitas harus memperoleh persetujuan etik. Interaksi dengan pengguna lain dibatasi hanya sejauh yang diperlukan untuk mencegah penutupan akun.

Henderson berpendapat akun tersebut dapat disalahgunakan. Wells menolak anggapan bahwa akun itu akan digunakan untuk menyebarkan propaganda pemerintah. Ia mengatakan tujuannya adalah penelitian dan penegakan hukum, termasuk memeriksa rekomendasi berbahaya yang diterima anak-anak.

Upaya kepatuhan akan mencakup layanan luar negeri yang beroperasi di Australia. Wells memastikan Truth Social, platform yang terkait dengan Presiden AS Donald Trump, akan tercakup dalam aturan tersebut karena memiliki kehadiran di Australia. Platform itu bertanggung jawab menilai risiko, sementara eSafety akan menentukan kepatuhannya.

Menteri Usaha Kecil Anne Aly mengatakan kewajiban yang dihadapi bisnis biasa akan disesuaikan dengan tingkat risikonya:

Penyedia layanan berisiko rendah, seperti situs web dan aplikasi yang dijalankan usaha kecil, hanya akan memiliki kewajiban minimal.

Pendekatan ini juga akan berlaku bagi layanan lain yang berisiko kecil, termasuk layanan yang sebagian besar membagikan materi yang dikecualikan. Penyedia akan menerima panduan peraturan lebih lanjut mengenai kewajiban mereka.

Denda dan kemungkinan hak untuk menggugat

Denda maksimum yang diusulkan sebesar A$109,2 juta merupakan salah satu bagian dari kerangka penegakan hukum. Denda tersendiri terkait arahan kepatuhan eSafety diturunkan dari A$21,8 juta dalam draf konsultasi menjadi A$2,2 juta dalam versi yang diajukan. Angka-angka tersebut mengacu pada ketentuan yang berbeda.

Hanson-Young menginginkan denda yang dikaitkan dengan pendapatan global platform. Ia berpendapat konsekuensinya harus cukup besar untuk memengaruhi perusahaan yang beroperasi di seluruh dunia. Partai Hijau juga menginginkan tindakan lebih tegas terhadap fitur adiktif, termasuk gulir tanpa batas, yang terus memuat lebih banyak konten saat pengguna menelusuri feed.

Tuntutan besar lainnya dari partai tersebut adalah hak untuk mengajukan gugatan secara pribadi. Ini akan memungkinkan orang yang mengalami bahaya mengajukan gugatan hukum sendiri terhadap platform, termasuk melalui gugatan kelompok yang menggabungkan klaim orang-orang dengan kasus serupa.

Wells mengatakan pemerintah akan mempertimbangkan usulan itu. Rancangan undang-undang yang diajukan tidak memuat hak tersebut, meskipun pembahasan sebelum pengajuannya menyebut gugatan terhadap platform sebagai bagian dari paket perlindungan yang lebih luas. Cakupannya, termasuk siapa yang dapat menuntut ganti rugi dan atas bahaya apa, belum ditetapkan.

Wells juga sedang mempertimbangkan apakah eSafety sebaiknya memiliki beberapa komisioner untuk berbagi beban kerja yang kian besar. Masa jabatan kedua Julie Inman Grant sebagai komisioner akan berakhir pada 2026. Usulan restrukturisasi tersebut merupakan keputusan terpisah mengenai cara badan itu menangani penegakan hukum dan meningkatnya permintaan bantuan.

Jadwal dari konsultasi hingga penegakan hukum

Penyelidikan Senat akan memberi pihak-pihak terkait kesempatan menguji definisi, denda, dan pengaturan penegakan hukum sebelum pemungutan suara final. Laporan penyelidikan diperkirakan terbit pada 20 November, sebelum masa sidang Parlemen berakhir pada penghujung November.

Tanggal dan tahapan utama:

• 8 September 2026: pemerintah merilis draf konsultasi untuk menerima masukan tertulis.
• 22 September 2026: konsultasi ditutup pukul 12.00.
• 15 Oktober 2026: rancangan undang-undang diajukan di Dewan Perwakilan Rakyat.
• 20 November 2026: laporan penyelidikan Senat diperkirakan terbit.
• Sebelum akhir 2026: Partai Buruh berharap rancangan undang-undang disahkan Parlemen.
• Setelah disahkan: masa transisi selama 12 bulan akan memberi waktu bagi layanan untuk bersiap, dengan penegakan hukum diperkirakan dimulai pada akhir 2027 jika jadwal tersebut terlaksana.

Partai Buruh membutuhkan dukungan di luar para senatornya sendiri. Karena Koalisi menentang rancangan ini, negosiasi dengan Partai Hijau akan menentukan apakah rancangan tersebut disahkan dan seberapa jauh ketentuan akhirnya berlaku.

Bagi pengguna, perubahan yang paling cepat dijanjikan adalah kendali lebih besar atas konten yang muncul di feed. Bagi platform, perubahan yang lebih besar adalah tanggung jawab berkelanjutan untuk memeriksa bagaimana layanan mereka menimbulkan risiko, mencatat temuan, dan mengambil tindakan sebelum pengaduan datang.

Poin Utama

• Warga Australia berusia di atas 16 tahun akan diberi pilihan antara rekomendasi algoritmik dan konten dari akun yang mereka ikuti.
• Kewajiban yang diusulkan akan mencakup media sosial, situs web, gim, layanan pesan, aplikasi, dan chatbot AI.
• Anak-anak di bawah 18 tahun akan mendapat perlindungan lebih luas dibandingkan orang dewasa, termasuk dari konten dan fitur desain yang berbahaya.
• Rancangan undang-undang yang diajukan menghapus kewenangan menteri untuk menambahkan kategori bahaya dan memperluas pengecualian bagi materi berita, pendidikan, penelitian, dan kesehatan masyarakat.
• Partai Hijau menginginkan denda lebih besar, tindakan terhadap desain adiktif, dan hak bagi individu untuk menggugat. Koalisi menentang rancangan undang-undang tersebut.
• Laporan penyelidikan Senat diperkirakan terbit pada 20 November. Jika disahkan, rancangan ini akan diikuti masa transisi selama 12 bulan.