Universitas Zhejiang Mengusulkan Undang-Undang AI yang Menyesuaikan Sistem dengan Tugasnya

Usulan 99 Pasal untuk Menentukan Hal yang Boleh Dilakukan AI

Para peneliti Universitas Zhejiang merilis usulan pakar untuk undang-undang kecerdasan buatan yang terdiri atas delapan bab dan 99 pasal, dengan gagasan utama bahwa kewenangan yang diberikan kepada sistem AI harus sebanding dengan keandalannya dan konsekuensi dari tugas yang dijalankannya.

Usulan Versi 1.0 Universitas Zhejiang dipaparkan dalam acara peluncuran pada 24 September. Pemberitahuan resmi acara dari universitas tersebut menjadwalkan kegiatan pada 24 September 2026, pukul 14.00 hingga 17.30, di kampus Zijingang. Agenda acara menempatkan perkembangan industri bersama perlindungan hak dan akuntabilitas, mencerminkan dua tuntutan yang ingin dijawab oleh usulan tersebut.

Bagi orang-orang yang terdampak AI, persoalan praktisnya langsung terasa. Bisakah operator model menggunakan karya ilustrator untuk pelatihan tanpa izin? Siapa yang bertanggung jawab ketika model bahasa memberikan jawaban keliru yang merugikan? Bagaimana seseorang dapat menyimpan bukti dan meminta pemulihan setelah video yang menggunakan wajahnya tanpa izin tersebar di internet?

Perusahaan menghadapi persoalan lain: persyaratan kepatuhan yang tumpang tindih, prosedur sebelum produk dapat digunakan yang memberatkan, serta biaya yang mungkin sulit ditanggung perusahaan kecil. Para peneliti mengatakan pendekatan mereka bertujuan melindungi hak sekaligus merespons tekanan tersebut.

Dokumen ini merupakan usulan akademis untuk dibahas dan direvisi lebih lanjut. Gagasan yang paling matang adalah metode untuk menilai AI dalam konteks tertentu, dengan menghubungkan kemampuan sistem, tingkat keandalan operasinya, dan kepentingan yang dipertaruhkan bagi orang-orang yang terdampak.

Proses Penyusunan Draf

Tim penyusun menghabiskan hampir enam bulan untuk mengembangkan usulan tersebut dan menuntaskan lima putaran revisi intensif. Draf awal yang terdiri atas 174 pasal dipangkas menjadi 99, berkurang 75 pasal atau sekitar 43%. Hal ini menunjukkan betapa banyak isi naskah diringkas selama proses penyusunan, meski jumlah pasal saja tidak banyak menjelaskan beban yang akan ditimbulkan masing-masing ketentuan bagi pengguna atau perusahaan.

Para peneliti mengunjungi lebih dari 20 perusahaan AI di Hangzhou serta sejumlah perusahaan internet terkemuka. Riset mereka juga didasarkan pada diskusi di forum legislasi Zhijiang, pertukaran pandangan dengan kementerian dan komisi terkait, serta beberapa putaran tinjauan pakar. Riset berlangsung bersamaan dengan penyusunan dua rancangan peraturan daerah mengenai industri AI Hangzhou dan pengembangan kota tersebut sebagai pusat inovasi.

Penyelenggaranya adalah Fakultas Hukum Guanghua Universitas Zhejiang, Institut Riset Hukum dan Tata Kelola Digital universitas tersebut, Institut Riset Legislasi Zhejiang, serta Institut Riset Legislasi Universitas Zhejiang. Agenda resmi acara menyebut Li Wenlong, peneliti di Fakultas Hukum Guanghua, sebagai pihak yang akan merilis dan memaparkan usulan tersebut.

Urutan pengembangan dan peluncurannya adalah sebagai berikut:

• Selama hampir enam bulan, tim melakukan kunjungan ke perusahaan, konsultasi, dan lima putaran revisi.
• Pada 24 September, usulan tersebut dipaparkan di Universitas Zhejiang; pemberitahuan resmi menyebut acara itu berlangsung pada 2026.
• Setelah pertemuan, tim berencana memasukkan masukan dan mengembangkan versi berikutnya.

Tiga Pertanyaan di Balik Aturan yang Diusulkan

Sun Xiaoxia, direktur Institut Riset Hukum dan Tata Kelola Digital Universitas Zhejiang, menjelaskan kerangka tersebut melalui tiga unsur yang saling terkait: kemampuan menjalankan tugas, kematangan kognitif, serta sifat dan dampak suatu tugas. Sederhananya, pertanyaannya adalah apa yang dapat dilakukan sistem AI, seberapa andal sistem itu, dan seberapa besar arti keputusan yang diambilnya.

Sun menjelaskan pandangannya mengenai sumber risiko AI dalam bahasa Mandarin:

Kami meyakini bahwa risiko kecerdasan buatan tidak berasal dari seberapa kuat mesin, tetapi dari ketidakselarasan antara kemampuan, kognisi, dan tugas.

Sebuah sistem mungkin mampu menjalankan serangkaian operasi panjang tanpa campur tangan manusia, tetapi kesulitan mengenali situasi yang tidak biasa. Memberi sistem tersebut tugas yang menyangkut keselamatan diri akan menciptakan kesenjangan berbahaya antara kebebasannya untuk bertindak dan kemampuannya menilai ketika ada sesuatu yang keliru.

Karena itu, usulan tersebut tidak hanya melihat satu label yang disematkan pada suatu teknologi. Regulator akan memeriksa versi sistem tertentu, tujuan penggunaannya, dan lingkungan tempat sistem itu beroperasi. Teknologi dasar yang sama dapat memerlukan kendali berbeda ketika digunakan untuk tugas yang berlainan.

Kemampuan dan Keandalan Dinilai Secara Terpisah

Skala kemampuan yang diusulkan memiliki empat tingkat: bantuan, otomatisasi terbatas, otomatisasi tinggi, dan pelaksanaan otonom. Penilaian akan mempertimbangkan seberapa mandiri sistem bertindak, seberapa luas dampak keputusannya, perangkat apa yang dapat diaksesnya, berapa lama sistem dapat beroperasi terus-menerus, serta apakah sistem dapat mengubah lingkungan digital atau fisik.

Akses ke perangkat penting karena jangkauan sistem AI yang hanya menyarankan tindakan berbeda dari sistem yang berwenang melaksanakannya. Izin untuk mengoperasikan perangkat lunak atau peralatan lain dapat mengubah jawaban yang keliru menjadi serangkaian tindakan nyata.

Kematangan kognitif juga akan dibagi menjadi empat tingkat, yakni dasar, umum, tinggi, dan sangat terkendali. Penilaian akan mencakup akurasi, konsistensi, kemampuan mengenali masukan yang tidak biasa dan memperbaiki kesalahan, keamanan siber, keterlacakan, serta kondisi yang memungkinkan seseorang mengambil alih kendali.

Faktor lainnya adalah kalibrasi tingkat keyakinan. Sederhananya, ini berarti memeriksa apakah keyakinan yang ditunjukkan sistem sejalan dengan tingkat ketepatannya. Sistem yang terdengar yakin padahal sering keliru bisa sangat sulit diawasi pengguna.

Kerangka tersebut juga akan menilai apakah keluaran penting dapat dijelaskan dan apakah sistem mampu tetap berada dalam batas yang ditentukan. Dengan memisahkan kemampuan dari keandalan, regulator dapat mengidentifikasi sistem yang cukup kuat untuk bertindak mandiri, tetapi belum cukup andal untuk tugas yang sensitif.

Tugas Mana yang Akan Diawasi Lebih Ketat?

Usulan tersebut membagi tugas ke dalam tiga tingkat dampak: rendah, umum, dan tinggi. Penilaian akan mempertimbangkan pentingnya hak yang terdampak, kemungkinan dan tingkat keparahan kerugian, jumlah orang yang terdampak, lamanya dampak berlangsung, apakah hasilnya dapat dibatalkan, serta apakah orang-orang yang terdampak dapat memperoleh pemulihan.

Kerentanan juga akan menjadi pertimbangan. Keputusan yang berdampak pada seseorang dengan kemampuan terbatas untuk menggugatnya dapat memerlukan perhatian lebih ketat dibandingkan keputusan serupa yang berdampak pada seseorang yang mudah memperoleh bantuan.

Tugas yang menyangkut kehidupan dan kesehatan, kebebasan pribadi, martabat manusia, kesempatan yang setara, kepentingan harta benda yang besar, pendidikan, pekerjaan, jaminan sosial, peradilan, penegakan administratif, atau keselamatan publik akan dianggap berdampak tinggi. Tugas yang dapat berdampak besar terhadap banyak orang juga akan mendapat anggapan yang sama.

Usulan tersebut juga menyatakan bahwa penerapan AI yang dilarang tidak boleh dikembangkan, diterapkan, atau digunakan, terlepas dari klasifikasi dampak tugasnya. Uraian yang dirilis bersama usulan tersebut tidak mencantumkan daftar terperinci penerapan yang dilarang atau jawaban hukum yang pasti untuk tiap persoalan hak cipta, keluaran yang keliru, dan penggantian wajah yang disebutkan di awal.

Contoh Medis Menjelaskan Prinsip Penyesuaian

Sun menggunakan pencitraan medis dan analisis patologi untuk menjelaskan mengapa tugas yang diberikan kepada suatu sistem sama pentingnya dengan kekuatan teknisnya. AI dapat memproses data medis dan gambar dalam jumlah besar dengan cepat, sementara kemampuan penalarannya mungkin tetap terbatas ketika menghadapi kondisi yang sulit atau tidak biasa.

Tugas yang sesuai akan mempertimbangkan kedua karakteristik tersebut. Memberi sistem tanggung jawab penuh untuk diagnosis yang sulit sekaligus terlalu memercayai penilaiannya akan menciptakan ketidakselarasan yang ingin diatasi oleh kerangka tersebut.

Sun menjelaskan tujuannya dalam bahasa Mandarin:

Mewajibkan adanya kesesuaian berbeda dari sekadar menerapkan pembatasan; tujuannya adalah mencari kesesuaian terbaik antara kemampuan, kognisi, dan tugas.

Menurutnya, sistem yang berkinerja buruk pada tugas yang menuntut dapat dialihkan ke tugas yang lebih sederhana alih-alih dibuang. Dengan demikian, pilihan praktisnya tidak terbatas pada penggunaan tanpa kendali atau pelarangan sepenuhnya. Otoritas dan operator dapat menyesuaikan tugas, izin sistem, atau tingkat keterlibatan manusia.

Bagi rumah sakit, pendekatan tersebut akan memusatkan perhatian pada pekerjaan spesifik yang diberikan kepada AI dan perlindungan di sekitarnya. Bagi pasien, perhatian utamanya adalah apakah peran sistem sesuai dengan seriusnya keputusan yang diambil.

Persetujuan Perlu Berubah Seiring Perkembangan AI

Proses tata kelola yang diusulkan mencakup enam tahap: penelitian dan pengembangan, pengujian, penerapan, pengoperasian, iterasi, dan penarikan. Klasifikasi akan terus dilakukan di sepanjang tahap tersebut karena kemampuan dan kondisi suatu sistem dapat berubah setelah mulai digunakan.

Pembaruan model dapat memperluas jangkauan tindakan yang mampu dilakukan sistem. Penerapan di lingkungan baru dapat membuat lebih banyak orang atau kepentingan yang lebih sensitif terdampak keputusannya. Data baru juga dapat mengubah perilaku model, termasuk mengurangi keandalan dengan cara yang tidak terlihat dalam pengujian sebelumnya.

Usulan tersebut meminta penilaian ulang ketika sistem atau tugasnya berubah. Penilaian akan dikaitkan dengan versi, tujuan, dan lingkungan operasional tertentu, sehingga operator memiliki alasan untuk meninjau kembali kewajibannya ketika salah satu unsur tersebut berubah.

Sun menyebut delapan bidang tempat prinsip penyesuaian dapat menjadi panduan bagi aturan hukum: klasifikasi, pembagian tugas, penilaian, identifikasi penggunaan berdampak tinggi, intensitas regulasi, pengendalian risiko, tanggung jawab hukum, dan penyesuaian dari waktu ke waktu. Menghubungkan keputusan-keputusan tersebut melalui satu kerangka merupakan upaya utama usulan ini untuk membuat tata kelola AI lebih terpadu.

Perlindungan Hak dan Kewajiban Bisnis Bertemu dalam Penerapan

Persoalan tentang ilustrator, jawaban yang keliru, dan video rekayasa menunjukkan mengapa akuntabilitas penting, bukan hanya pengujian teknis. Seseorang yang meminta ganti rugi atau penghapusan konten berbahaya membutuhkan jalur yang dapat digunakan untuk menghubungkan kerugian yang dialaminya dengan pihak-pihak yang bertanggung jawab.

Usulan tersebut menempatkan tanggung jawab hukum dalam kerangka penyesuaiannya. Artinya, kesesuaian sistem dengan tugas yang diberikan akan menjadi pertimbangan dalam pembahasan kewajiban dan akuntabilitas. Namun, hubungan antara hasil penilaian dan aturan yang berlaku mengenai tanggung jawab perdata termasuk persoalan yang menurut Sun masih memerlukan kajian terperinci.

Para peneliti juga perlu menjelaskan cara menguji kematangan kognitif dan seberapa besar kesenjangan antara kemampuan, keandalan, dan tuntutan tugas yang dapat dianggap sebagai ketidaksesuaian. Pilihan tersebut akan menentukan seberapa konsisten perusahaan dapat menerapkan kerangka ini dan seberapa efektif regulator dapat memeriksa penilaiannya.

Agenda peluncuran menyatukan kebutuhan praktis yang saling bersaing tersebut dalam satu rangkaian acara. Sesi industri mencantumkan pakar hukum dari Meituan dan Douyin bersama peserta dari kalangan akademisi dan teknis. Sesi hak dan akuntabilitas mencantumkan direktur kepatuhan Alibaba, pengacara, serta akademisi universitas. Kehadiran mereka menunjukkan beragam sudut pandang yang ingin dihimpun penyelenggara untuk diskusi; agenda tersebut tidak menjadi dasar untuk menganggap para peserta memiliki posisi yang sama mengenai draf itu.

Bagi perusahaan kecil, hal konkret yang dipertaruhkan adalah jumlah penilaian yang harus dilakukan, bukti yang harus mereka siapkan, dan bagaimana kewajiban berubah seiring perkembangan produk. Bagi orang-orang yang terdampak AI, yang dipertaruhkan adalah apakah kewajiban tersebut membantu mencegah kerugian dan menyediakan pemulihan yang dapat digunakan ketika terjadi masalah.

Tim peneliti berencana merevisi usulan berdasarkan masukan dari pertemuan tersebut. Pekerjaan utama berikutnya adalah mengubah prinsip penyesuaian menjadi metode pengujian, ambang batas, dan aturan tanggung jawab yang dapat diterapkan dalam sengketa nyata maupun keputusan terkait produk.

Poin-Poin Utama

• Usulan undang-undang AI dari para pakar Universitas Zhejiang terdiri atas delapan bab dan 99 pasal, diringkas dari draf awal yang memuat 174 pasal.
• Kerangka tersebut menghubungkan kemampuan sistem untuk menjalankan tugas, keandalan kognitif, dan tugas yang diberikan.
• Tugas sensitif yang menyangkut kesehatan, kebebasan, pekerjaan, pendidikan, dan bidang lain akan dianggap berdampak tinggi.
• Penilaian akan mencakup seluruh siklus pengembangan dan penggunaan serta berubah ketika sistem atau tugasnya berubah.
• Usulan akademis tersebut akan direvisi lebih lanjut; metode pengujian, ambang batas, dan aturan tanggung jawab masih perlu dikaji secara lebih terperinci.