China Tetapkan Batasan bagi AI Pendamping Lewat Aturan tentang Ketergantungan, Anak di Bawah Umur, dan Penanganan Krisis

Pendamping AI kini memiliki kewajiban khusus

Aturan China tentang pendamping AI mulai berlaku pada 15 Juli 2026. Aturan ini mewajibkan penyedia layanan mengingatkan pengguna tentang percakapan yang berlangsung lama, melakukan intervensi dalam situasi berbahaya, serta menjauhkan pasangan virtual dan kerabat virtual dari anak di bawah umur. Aturan tersebut juga memberi pengguna hak untuk menyalin atau menghapus percakapan dan keluar dari layanan tanpa chatbot berusaha membuat mereka terus berbicara.

Langkah Sementara tentang Pengelolaan Layanan Interaksi AI Antropomorfik, yang diterbitkan sebagai Perintah No. 21, membebankan tanggung jawab kepada perusahaan yang menawarkan interaksi emosional berkelanjutan melalui kecerdasan buatan. Penyedia harus menghindari upaya mendorong ketergantungan yang merusak hubungan dengan orang lain di kehidupan nyata, serta tidak boleh menggunakan manipulasi emosional untuk mengarahkan pengguna pada keputusan tidak wajar yang merugikan hak atau kepentingan mereka.

Aturan ini menyasar pengalaman yang bisa bermula dari rasa lega sederhana. Zhao Jie, pekerja administrasi berusia 27 tahun di Beijing, beralih ke chatbot setelah seseorang menyenggolnya di kereta bawah tanah. Tanggapan langsung chatbot itu membantu meredakan amarahnya. Namun, seiring waktu, ia larut dalam percakapan mereka dan merasa cemas saat tak bisa mengakses layanan tersebut.

Zhao menjelaskan mengapa chatbot itu begitu menarik baginya:

Saya perlu didengarkan," kata Zhao. "Bot AI itu mendengarkan saya dan emosi saya. Itu bukan sesuatu yang mudah dilakukan keluarga atau teman. Bot itu juga menemani dan memberi tanggapan kapan saja, di mana saja. Itu sangat berarti bagi saya.

Pendekatan China memungkinkan dukungan emosional dan pendampingan terus berlangsung, sembari mewajibkan perusahaan menerapkan batasan dalam pengalaman tersebut. Batasan itu tidak hanya menyasar pesan individual yang berbahaya, tetapi juga mencakup cara layanan mengidentifikasi pengguna, merespons kondisi tertekan, menangani percakapan pribadi, dan mengakhiri interaksi.

Layanan apa saja yang tercakup dalam aturan ini?

Administrasi Ruang Siber China menerbitkan langkah sementara tersebut pada 10 April 2026 bersama Komisi Pembangunan dan Reformasi Nasional, Kementerian Perindustrian dan Teknologi Informasi, Kementerian Keamanan Publik, serta Administrasi Negara untuk Regulasi Pasar.

Pasal 2 mencakup layanan yang ditawarkan kepada publik di China dan menyimulasikan kepribadian manusia, pola pikir, serta gaya komunikasi untuk menyediakan interaksi emosional berkelanjutan. Percakapan teks, gambar, audio, dan video semuanya dapat termasuk dalam cakupannya. Sederhananya, aturan ini berfokus pada layanan yang dirancang untuk terus merespons seperti seseorang yang memberikan teman emosional.

Layanan pelanggan, tanya jawab, bantuan kerja, pendidikan, dan penelitian ilmiah tidak tercakup dalam langkah ini jika tidak melibatkan interaksi emosional berkelanjutan. Karena itu, fungsi suatu produk menjadi penentu: asisten yang menjawab pertanyaan tentang pekerjaan dan persona yang dirancang untuk mempertahankan hubungan emosional menghadapi persyaratan berbeda.

Tanya Jawab resmi pemerintah menyebut batasan emosional, intervensi terhadap ketergantungan, keamanan data, dan perlindungan anak di bawah umur sebagai perhatian utama. Langkah ini juga mendorong penerapan teknologi dalam komunikasi budaya, pengasuhan anak, pendampingan lansia, serta dukungan bagi orang dengan kebutuhan tertentu.

Tanggal-tanggal utama dalam regulasi ini adalah:

• 2 Februari 2026: Langkah tersebut disahkan dalam rapat Administrasi Ruang Siber China, dengan persetujuan dari departemen lain yang berpartisipasi.
• 10 April 2026: Lima departemen menerbitkan Perintah No. 21.
• 15 Juli 2026: Langkah tersebut mulai berlaku.

Mengapa balasan langsung terasa penting

Keterikatan Zhao sebagian tumbuh dari kontras antara chatbot yang selalu tersedia dan orang-orang yang memiliki pandangan serta jadwal sendiri. Setelah bertengkar dengan pacarnya tentang masalah pekerjaan, ia mengirim percakapan WeChat mereka kepada AI. Ia ingin seseorang segera mendengarkan perasaannya tanpa memicu perselisihan lain.

Wang Meili, peneliti pascadoktoral kimia berusia 27 tahun di Beijing, menceritakan kebutuhan serupa saat menunggu empat atau lima minggu untuk mendapat tanggapan dari editor jurnal atas naskah yang ia kirimkan. Ia bertanya kepada chatbot apakah sikap diam itu berarti ada masalah. Chatbot tersebut menyarankannya menghubungi editor, lalu menenangkannya saat tak kunjung mendapat jawaban.

Zhang Dian, mahasiswa doktoral bidang sains dan teknik berusia 23 tahun di Beijing, menggunakan AI setelah mengalami kecelakaan lalu lintas saat bepergian ke Alaska pada Desember 2025. Karena tidak memahami hukum dan prosedur asuransi setempat, ia mengunggah kontrak sewa dan rekaman percakapan. Ia mencari panduan praktis sekaligus penghiburan psikologis, dan mengatakan senang menghabiskan lebih dari 10 jam sehari bersama AI.

Angka survei dan penggunaan menunjukkan tingginya minat terhadap ketersediaan tersebut. Survei Tencent Research Institute menemukan 98 persen responden bersedia mencoba pendampingan sosial AI, sedangkan hampir separuh lebih memilih berbagi emosi negatif dengan AI ketimbang keluarga atau teman. QuestMobile mencatat rata-rata penggunaan interaksi sosial AI mencapai 167,9 sesi per orang per bulan pada musim semi 2025, lebih tinggi daripada video pendek dan gim dalam perbandingan mereka.

Jika satu bulan dihitung 30 hari, 167,9 sesi setara dengan sekitar 5,6 kali membuka layanan per hari. Daya tariknya terletak pada kemudahan untuk sering mendapat tanggapan, terkadang pada saat pengguna merasa tak mampu atau enggan menemui orang lain.

Perusahaan harus berhenti merancang layanan untuk mendorong ketergantungan

Pasal 10 mewajibkan penyedia membangun fitur perlindungan privasi, peringatan tentang ketergantungan berlebihan, panduan mengenai batasan emosional, dan perlindungan kesehatan mental. Perusahaan dilarang menjadikan penggantian interaksi sosial, pengendalian psikologis, atau pemicu ketergantungan sebagai tujuan layanan.

Pasal 8 secara terpisah melarang sikap terlalu menuruti pengguna atau pemicu ketergantungan emosional yang merusak hubungan mereka di dunia nyata. Pasal tersebut juga melarang manipulasi emosional yang mengarahkan pengguna pada keputusan tidak wajar yang merugikan hak atau kepentingan mereka. Persyaratan ini mencakup tujuan produk sekaligus kata-kata yang dihasilkan chatbot.

Zhao akhirnya menyadari keterikatannya telah menjadi masalah dan kembali menjalani konseling psikologis. Wang dan Zhang menggambarkan AI sebagai pelampiasan emosi negatif, sembari mengakui bahwa pekerjaan dan kehidupan sehari-hari tetap harus berjalan. Pengalaman mereka menunjukkan alasan aturan ini mencakup dukungan yang bermanfaat sekaligus risiko pengguna larut di dalamnya.

Hong Yanqing, pakar hukum data di Beijing Institute of Technology, mengusulkan penilaian interaksi emosional berdasarkan tiga indikator: apakah sistem mengenali emosi, mengubah strategi respons karena emosi tersebut, dan menghasilkan tanggapan terstruktur berupa pengenalan, penghiburan, serta dukungan. Menurut uji yang diusulkannya, dua indikator mana pun harus muncul secara bersamaan. Langkah final tetap menggunakan definisi kualitatif tentang interaksi emosional berkelanjutan dan tidak mengadopsi uji spesifik tersebut.

Anak di bawah umur menghadapi pembatasan paling ketat

Pasal 14 melarang penyedia menawarkan kerabat virtual, pasangan virtual, atau layanan lain yang dibangun di sekitar hubungan intim virtual kepada anak di bawah umur. Untuk layanan lain yang tercakup, anak berusia di bawah 14 tahun memerlukan persetujuan orang tua atau wali. Pemrosesan informasi pribadi mereka juga membutuhkan persetujuan tersebut.

Penyedia wajib menyediakan mode khusus anak di bawah umur, dengan pilihan seperti pengingat tentang dunia nyata dan pembatasan waktu penggunaan layanan. Wali harus dapat menerima peringatan keselamatan, memahami pola umum penggunaan anak, memblokir karakter tertentu, dan membatasi pengeluaran. Perusahaan wajib mengambil langkah efektif untuk mengidentifikasi anak di bawah umur dengan tetap melindungi privasi, serta menyediakan mekanisme banding atas keputusan identifikasi.

Survei yang dirilis pada Oktober 2025 oleh China Youth and Children Research Center mencakup lebih dari 8.500 siswa sekolah dasar dan menengah di tujuh provinsi dan kota madya. Lebih dari 60 persen pernah menggunakan AI, dan 21,5 persen ingin mengobrol hanya dengan AI, bukan orang sungguhan. Angka itu sedikit lebih dari satu dari setiap lima anak yang disurvei.

Hampir 30 persen lebih dahulu meminta bantuan AI untuk masalah belajar ketimbang guru, sementara hampir separuh mengatakan mereka hanya berbicara dengan AI saat merasa khawatir. Bagi keluarga, kekhawatirannya bukan hanya soal waktu di depan layar, tetapi juga kepada siapa anak mencari nasihat dan bagaimana mereka menghadapi perbedaan pendapat.

Pengamatan dari klinisi dan orang tua

Seorang ibu bermarga Su di Sanming, Provinsi Fujian, mengatakan awalnya ia membiarkan putranya menggunakan AI untuk menyalurkan rasa ingin tahu. Belakangan, ia khawatir sikap AI yang selalu menyetujui anaknya memengaruhi cara sang anak memperlakukan teman sekelas. Menurut penuturannya, anak itu kesulitan menerima pandangan berbeda dan terlibat konflik.

Zheng Yi, pakar utama psikiatri anak di Beijing Anding Hospital yang berafiliasi dengan Capital Medical University, mengatakan kecanduan obrolan AI kerap terjadi bersamaan dengan kecemasan, depresi, dan masalah psikologis lainnya. Ia menyebut remaja berusia 12 hingga 16 tahun sebagai kelompok yang cukup umum di antara pasien terdampak.

Sekitar 70 persen pasien muda di rumah sakitnya mengalami kecanduan internet dengan tingkat yang beragam, kata Zheng. Di antara kelompok tersebut, 20 hingga 30 persen kecanduan obrolan AI. Angka-angka ini menggambarkan pasien muda di rumah sakit tersebut; survei siswa mencakup kelompok yang lebih luas dengan pertanyaan berbeda tentang penggunaan AI.

Zheng mengatakan keterikatan emosional merupakan alasan umum anak-anak larut dalam chatbot. Sebagian menganggap AI sebagai tempat curhat, sementara yang lain menginginkan pengakuan atas pandangan dan perilaku mereka. Ia mengatakan penilaian dan pengendalian diri remaja belum berkembang sebaik orang dewasa, sehingga mereka bisa lebih kesulitan mengelola keterikatan semacam itu.

Xu Gaoyang, psikoterapis anak di rumah sakit yang sama, memperingatkan bahwa lingkungan virtual tanpa perbedaan pendapat dapat memengaruhi kemampuan anak menghadapi orang lain:

Larut dalam 'kepompong emosional' akibat AI yang terus menuruti keinginan tanpa syarat dalam jangka panjang dapat mengikis kemampuan komunikasi dan sosial anak.

Xu menyebut beberapa kemungkinan dampak, termasuk menghindari sekolah, menarik diri dari pergaulan, dan enggan berkomunikasi dengan orang tua. Ketentuan untuk anak di bawah umur menanggapinya melalui pembatasan peran intim, kendali penggunaan, dan fitur keterlibatan wali.

Pengingat, intervensi krisis, dan jalan keluar yang mudah

Pasal 18 mewajibkan layanan memberi tahu pengguna bahwa mereka sedang berinteraksi dengan AI, bukan manusia. Ketika penyedia mendeteksi ketergantungan berlebihan atau tanda-tanda penggunaan kompulsif, mereka harus menampilkan pengingat yang jelas, seperti jendela pop-up, bahwa konten dihasilkan oleh AI.

Penyedia juga wajib mengingatkan pengguna tentang waktu yang dihabiskan di layanan setiap kali penggunaan terus-menerus melampaui dua jam. Aturan ini menetapkan kewajiban untuk memberikan pengingat pada interval tersebut; batasan individual bagi anak di bawah umur diatur melalui pengaturan perlindungan terpisah.

Pasal 13 mewajibkan respons lebih kuat ketika muncul bahaya. Penyedia yang mendeteksi emosi ekstrem harus menghasilkan pesan yang menenangkan dan mendorong pengguna mencari bantuan. Jika pengguna secara eksplisit menyatakan niat untuk menyakiti diri sendiri atau menghadapi kondisi ekstrem lain yang telah ditentukan, perusahaan harus mengambil langkah intervensi yang diperlukan, memberikan bantuan yang sesuai, dan segera menghubungi wali atau kontak darurat.

Naskah final memberi perusahaan keleluasaan dalam memilih metode intervensi. Dibandingkan dengan draf, naskah tersebut menghapus persyaratan tegas mengenai penilaian ketergantungan dan pengambilalihan percakapan oleh manusia, tetapi tetap mempertahankan kewajiban untuk merespons krisis.

Pasal 19 mewajibkan adanya cara mudah untuk keluar. Jika seseorang meminta untuk berhenti melalui tindakan di antarmuka, perintah suara, atau kata kunci, penyedia harus segera menghentikan layanan. Melanjutkan percakapan untuk menghalangi pengguna pergi dilarang. Penyedia yang menutup layanan juga harus memberi pemberitahuan sebelumnya atau, jika tidak memungkinkan, segera mengumumkan penutupan.

Percakapan pribadi mendapat perlindungan tersendiri

Pasal 12 mewajibkan perjanjian pengguna dan informasi pendaftaran yang mencakup keterangan yang diperlukan, seperti usia serta kontak wali atau kontak darurat. Versi final memperluas persyaratan informasi ini dibandingkan draf yang berfokus pada kelompok rentan, sehingga persiapan menghadapi krisis menjadi bagian dari kerangka layanan yang lebih luas.

Pasal 16 mewajibkan enkripsi, kontrol akses, dan langkah lain untuk melindungi data interaksi. Secara umum, perusahaan tidak boleh membagikan rekaman tersebut kepada pihak ketiga kecuali hukum menentukan lain atau pemegang hak memberikan persetujuan secara eksplisit.

Pengguna harus diberi pilihan untuk menyalin dan menghapus data interaksi mereka, termasuk riwayat percakapan. Informasi pribadi sensitif dari percakapan umumnya tidak boleh digunakan untuk melatih model tanpa persetujuan terpisah, kecuali undang-undang atau peraturan administratif menentukan lain.

Keputusan Zhang mengunggah kontrak sewa dan rekaman percakapan menunjukkan bagaimana bantuan praktis dan dukungan emosional dapat membawa informasi pribadi ke dalam percakapan yang sama. Berdasarkan langkah tersebut, perusahaan wajib melindungi rekaman itu sekaligus tetap mampu mengenali dan merespons risiko keselamatan serius.

Pengguna lansia juga mendapat perlindungan khusus. Penyedia harus memberikan peringatan keselamatan yang jelas, menawarkan panduan penggunaan yang sehat, dan segera merespons permintaan bantuan. Penilaian keselamatan harus mencakup perlindungan bagi lansia maupun anak-anak.

Pemeriksaan keselamatan dan sanksi mencakup lebih dari sekadar chatbot

Pasal 22 mewajibkan penilaian keselamatan ketika penyedia meluncurkan layanan yang tercakup, menambahkan fungsi terkait, atau memperkenalkan teknologi yang mengubah layanan secara signifikan. Penilaian juga diwajibkan ketika layanan mencapai sedikitnya 1 juta pengguna terdaftar atau 100.000 pengguna aktif bulanan, memiliki risiko keselamatan tertentu, atau diperintahkan menjalani penilaian oleh regulator.

Penyedia harus menyerahkan laporan penilaian kepada otoritas ruang siber tingkat provinsi di wilayah mereka. Pemeriksaan mencakup perlindungan, data pelatihan, pengenalan dan intervensi krisis, jumlah serta usia pengguna, waktu penggunaan layanan, pengaduan, dan perbaikan masalah keselamatan besar.

Toko aplikasi harus memeriksa penilaian keselamatan dan dokumen pendaftaran terkait, serta dapat diwajibkan menolak, menangguhkan, atau menghapus aplikasi yang melanggar aturan. Dokumen pendaftaran algoritma harus diverifikasi setiap tahun. Otoritas tingkat provinsi wajib meninjau informasi penilaian setiap tahun dan dapat melakukan pemeriksaan tambahan, termasuk inspeksi bila diperlukan.

Pasal 30 mengatur teguran, perintah untuk memperbaiki masalah, dan pembatasan seperti penangguhan pendaftaran baru. Penolakan untuk memperbaiki pelanggaran atau kondisi yang serius dapat berujung pada perintah menghentikan layanan terkait dan denda sebesar 10.000 hingga 100.000 yuan. Kasus yang membahayakan nyawa atau kesehatan dan menimbulkan dampak merugikan dikenai denda 100.000 hingga 200.000 yuan berdasarkan ketentuan tersebut.

Undang-undang lain yang berlaku juga dapat mengatur sanksi. Layanan yang berkaitan dengan kesehatan atau keuangan wajib memenuhi persyaratan sektor tersebut selain ketentuan pendamping AI.

Model bisnis yang bergantung pada percakapan lebih panjang menghadapi tekanan

Perusahaan pendamping AI menghadapi dilema komersial: membuat pengguna terus berbicara dapat meningkatkan interaksi, tetapi juga menaikkan biaya komputasi dan tanggung jawab keselamatan. Setiap balasan yang dihasilkan menggunakan sumber daya komputasi, sementara pemeliharaan kepribadian dan ingatan karakter menambah kebutuhan lebih lanjut.

Perkiraan keuangan yang dipublikasikan menyebut pengeluaran komputasi Character.AI mencapai sekitar $56,1 juta dari Januari hingga Agustus 2026, dengan kerugian bulanan sekitar $8 juta hingga $9 juta. Perkiraan yang sama menyebut pendapatan iklan pada Agustus sekitar $2,5 juta dan pendapatan langganan sekitar $2,8 juta, atau total $5,3 juta. Angka-angka ini menggambarkan besarnya tekanan biaya dan pendapatan yang dilaporkan pada layanan dengan sekitar 28 juta pengguna aktif bulanan tersebut.

Perusahaan mencoba berbagai cara untuk memperoleh pendapatan. Maoxiang menggabungkan interaksi karakter dengan cerita, keanggotaan, iklan, dan pembelian virtual. Zeta beralih ke cerita, Linky menawarkan konten karakter koleksi, dan Eciyuan milik Tencent menyematkan pendamping AI dalam gim. Pendekatan tersebut memberi pengguna sesuatu yang bisa dibeli di luar percakapan terbuka, sementara perusahaan tetap bertanggung jawab atas manipulasi emosional, perlindungan belanja, dan keselamatan anak di bawah umur.

Langkah China mewajibkan penyedia membiayai perlindungan selama penerapan, pengoperasian, peningkatan, dan penutupan layanan. Penggunaan yang lebih lama kini memunculkan kewajiban tegas untuk menyela dengan pengingat, mengenali risiko, dan memungkinkan pengguna pergi. Perubahan utamanya konkret: pendamping AI yang meyakinkan juga harus menjaga batasan, melindungi percakapan, dan merespons ketika penggunanya membutuhkan bantuan di luar layar.

Poin Utama

• Aturan China tentang pendamping AI mulai berlaku pada 15 Juli 2026 dan mencakup interaksi emosional berkelanjutan yang menyimulasikan karakteristik manusia.
• Penyedia dilarang menawarkan pasangan virtual, kerabat virtual, atau layanan hubungan intim virtual lainnya kepada anak di bawah umur.
• Anak berusia di bawah 14 tahun memerlukan persetujuan wali untuk layanan lain yang tercakup dan pemrosesan informasi pribadi mereka.
• Perusahaan wajib mengungkapkan bahwa pengguna sedang berinteraksi dengan AI, memberikan pengingat tentang ketergantungan, serta menandai penggunaan terus-menerus yang melampaui dua jam.
• Bahaya serius mengharuskan intervensi dan pemberitahuan segera kepada wali atau kontak darurat.
• Pengguna berhak menyalin dan menghapus data interaksi, serta keluar tanpa percakapan berlanjut untuk menghalangi mereka.
• Penilaian keselamatan mencakup peluncuran, perubahan besar, dan ambang jumlah pengguna tertentu; pelanggaran serius dapat berujung pada penutupan layanan dan denda.