Hakim Korea Selatan Melaporkan Maraknya Sitasi Palsu Buatan AI, Administrasi Pengadilan Dorong Perubahan Hukum

Putusan Palsu Masuk ke Berkas Pengadilan

Mahkamah Agung Korea Selatan merilis survei pertamanya terhadap hakim mengenai sitasi hukum palsu yang berkaitan dengan kecerdasan buatan. Survei itu menemukan bahwa 196 hakim yang menangani perkara perdata, keluarga, dan administrasi, atau 80,7% dari mereka yang menjawab pertanyaan tersebut, pernah menjumpai rujukan pada preseden yang tidak ada. Beberapa berkas pengadilan memuat putusan rekaan yang dibuat menyerupai putusan Mahkamah Agung sungguhan.

Survei yang dilakukan pada 6 hingga 16 Oktober dan dirilis pada 2 November itu menghimpun jawaban dari 360 hakim di berbagai pengadilan di seluruh negeri. Survei tersebut juga menemukan bahwa pengacara maupun orang yang mengajukan perkara sendiri telah menyerahkan dokumen berisi rujukan hukum palsu.

Administrasi Pengadilan Nasional, badan administratif Mahkamah Agung, berencana berkonsultasi dengan Kementerian Kehakiman dan lembaga lain mengenai perubahan Undang-Undang Hukum Acara Perdata dan Undang-Undang Hukum Acara Pidana. Pembahasan itu akan mencakup dasar hukum untuk denda dan tindakan lain terhadap pengajuan yang tidak akurat.

Para hakim menyatakan dukungan kuat terhadap langkah penanganan: 91,7% mengatakan langkah kelembagaan diperlukan, termasuk 64,8% yang menilai langkah tersebut sangat diperlukan. Administrasi pengadilan menyatakan pemeriksaan sitasi palsu menyita waktu hakim dan pihak lawan, membutuhkan biaya, serta dapat menunda hak masyarakat untuk memperoleh persidangan tepat waktu.

Makna Angka-Angka Survei

Masalah yang paling umum adalah rujukan pada putusan yang tidak pernah ada. Hakim juga menjumpai rujukan pada putusan nyata yang isinya telah diubah atau maknanya disampaikan secara keliru. Preseden hukum adalah putusan pengadilan terdahulu yang dikutip untuk mendukung argumen tentang penerapan hukum.

Survei memungkinkan responden memilih lebih dari satu jenis sitasi palsu. Temuan dari hakim perkara perdata, keluarga, dan administrasi adalah sebagai berikut:

• 196 hakim, atau 80,7%, pernah menjumpai sitasi preseden yang tidak ada.
• 159 hakim, atau 65,4%, pernah menjumpai uraian preseden yang keliru.
• 41 hakim, atau 16,9%, pernah menjumpai undang-undang dan peraturan yang palsu atau tidak ada.
• 10 hakim, atau 4,1%, pernah menjumpai makalah akademis dan publikasi lain yang palsu atau tidak ada.

Persentase tersebut menggunakan kelompok responden untuk tiap pertanyaan survei, dengan total 360 hakim yang berpartisipasi dalam survei. Hakim dapat melaporkan beberapa jenis kesalahan, sehingga kategori-kategori tersebut saling tumpang tindih.

Jumlah hakim yang melaporkan preseden fiktif 37 lebih banyak daripada yang melaporkan uraian preseden yang keliru, yakni 196 berbanding 159. Secara bersama-sama, temuan itu menunjukkan bahwa pemeriksaan memiliki dua tahap: menemukan putusan yang dikutip dan membacanya untuk memastikan bahwa putusan tersebut mendukung argumen yang diajukan.

Bagaimana Sitasi Palsu Muncul

Hakim menguraikan adanya pengajuan yang memuat dokumen buatan AI dengan format menyerupai putusan Mahkamah Agung. Berkas lainnya memadukan argumen hukum yang tidak dikenal dengan nomor perkara Mahkamah Agung yang tidak dapat ditemukan melalui pencarian.

Nomor perkara biasanya membantu pembaca menemukan proses atau putusan tertentu. Jika rujukan itu tidak mengarah ke mana pun, hakim atau pihak lawan harus menghabiskan waktu tambahan untuk mengidentifikasi putusan yang menjadi dasar klaim tersebut.

Sejumlah dokumen merujuk pada putusan nyata, tetapi mengubah apa yang diputuskan pengadilan atau menggunakan putusan itu dengan cara yang menyimpang dari maknanya. Memeriksa nomor perkara saja tidak akan menyelesaikan masalah tersebut. Pembaca juga perlu membandingkan argumen dalam berkas dengan putusan yang sebenarnya.

Pengajuan lainnya memuat teks percakapan dengan perangkat AI atau kalimat tentang strategi litigasi. Bagian-bagian tersebut memberi petunjuk yang terlihat kepada hakim bahwa AI telah digunakan dalam penyusunan dokumen.

Survei tersebut mengkaji kekhawatiran mengenai halusinasi AI, istilah untuk informasi keliru yang disajikan seolah-olah benar. Dalam dokumen pengadilan, perkara rekaan dapat tampak meyakinkan karena disertai bahasa hukum yang lazim, nomor perkara, dan format putusan.

Pengacara dan Pihak Berperkara Sama-Sama Mengajukan Kesalahan

Ketika ditanya siapa yang mengajukan preseden palsu atau materi tidak akurat lainnya, 164 hakim, atau 69,5% responden untuk pertanyaan tersebut, menunjuk pihak-pihak yang berperkara sendiri. Sebanyak 136 hakim lainnya, atau 57,6%, menunjuk pengacara yang bertindak sebagai kuasa atau penasihat hukum.

Angka 164 merujuk pada hakim yang menjumpai sitasi palsu yang diajukan oleh pihak berperkara. Dalam survei secara keseluruhan, para hakim menguraikan materi tidak akurat yang mereka terima selama persidangan.

Kelompok responden saling tumpang tindih karena seorang hakim dapat menjumpai sitasi palsu dari orang yang menangani perkaranya sendiri maupun dari pengacara. Angka-angka tersebut mengukur jumlah hakim yang melaporkan pengalaman itu; survei berfokus pada paparan mereka terhadap masalah tersebut, bukan menghitung setiap berkas yang keliru.

Keterlibatan pengacara membuat usulan kewajiban verifikasi menjadi sangat penting. Pendampingan profesional seharusnya menempatkan seseorang dengan keahlian hukum di antara argumen klien dan pengadilan. Namun, lebih dari separuh responden untuk pertanyaan tersebut pernah menjumpai materi tidak akurat yang diajukan pengacara.

Orang yang menangani perkaranya sendiri menghadapi tantangan praktis yang berbeda. Mereka harus menyusun argumen dan menanggapi pihak lawan tanpa bantuan pengacara. Administrasi pengadilan memperingatkan bahwa para pihak ini mungkin akan sangat kesulitan mengidentifikasi dan membantah putusan rekaan atau uraian menyesatkan tentang putusan yang sebenarnya.

Siapa yang Menanggung Biaya Memeriksa Perkara Rekaan?

Administrasi Pengadilan Nasional menyatakan sitasi palsu dapat membebani pihak lawan dengan pekerjaan tambahan. Penerima dokumen yang memuat preseden tak dikenal mungkin harus mencarinya, memeriksa kutipan isinya, dan menyiapkan tanggapan yang menjelaskan kesalahan tersebut.

Karena itu, sitasi palsu dapat menimbulkan biaya di luar dokumen yang memuatnya. Pihak yang didampingi pengacara mungkin memerlukan pekerjaan hukum tambahan; orang tanpa pengacara harus menggunakan waktunya sendiri untuk menyelidiki rujukan yang mungkin tidak pernah mengarah pada putusan nyata.

Hakim menghadapi beban serupa. Waktu yang digunakan untuk memeriksa apakah suatu putusan ada atau apakah isinya telah diubah menambah waktu yang diperlukan pengadilan untuk memeriksa sengketa. Administrasi pengadilan mengaitkan pekerjaan tambahan itu dengan proses yang lebih lambat dan tertundanya akses terhadap keadilan.

Kekhawatiran ini semakin nyata ketika rujukan palsu tampak seperti putusan Mahkamah Agung yang berwenang. Kesan otoritatifnya membuat pihak lawan perlu menyelidikinya dengan saksama, sementara pengadilan harus menyelesaikan masalah sitasi sebelum menilai argumen hukum yang dibangun di atasnya.

Empat Langkah Mendapat Dukungan Mayoritas

Para hakim mendukung beberapa kemungkinan langkah penanganan, dengan tingkat dukungan yang relatif berimbang untuk opsi-opsi teratas. Penetapan dasar hukum untuk denda mendapat dukungan 215 hakim, atau 61,4%. Kewajiban memverifikasi preseden yang dikutip dan materi lainnya didukung oleh 214 hakim, atau 61,1%.

Kewajiban mengungkapkan penggunaan AI didukung 212 hakim, atau 60,6%. Sanksi terhadap pengacara, termasuk rujukan untuk tindakan disipliner, didukung oleh 194 hakim, atau 55,4%.

Selisih dukungan terhadap dasar hukum untuk denda dan pengungkapan penggunaan AI hanya tiga hakim, yakni 215 berbanding 212. Angka yang berdekatan ini menunjukkan bahwa responden mendukung beberapa cara untuk menangani masalah tersebut, alih-alih hanya berfokus pada satu langkah.

Setiap usulan menyasar tahap berbeda dalam penyusunan dan pengajuan dokumen pengadilan. Verifikasi akan mewajibkan pemeriksaan materi hukum. Pengungkapan akan memberi tahu pengadilan bahwa AI telah digunakan. Denda akan menciptakan konsekuensi finansial berdasarkan kerangka hukum yang diusulkan, sementara rujukan untuk tindakan disipliner akan membawa perilaku pengacara ke proses profesional yang relevan.

Pengajuan sitasi palsu secara berulang termasuk perilaku yang diidentifikasi sebagai kemungkinan alasan untuk rujukan disipliner. Usulan administrasi pengadilan menggabungkan tanggung jawab atas keakuratan berkas dengan konsekuensi ketika materi tidak akurat sampai ke pengadilan.

Perubahan Hukum dan Panduan Daring Menyusul

Administrasi Pengadilan Nasional berencana membahas amendemen Undang-Undang Hukum Acara Perdata dan Undang-Undang Hukum Acara Pidana bersama lembaga terkait, termasuk Kementerian Kehakiman, lalu menyampaikan pandangannya kepada Majelis Nasional. Amendemen yang diusulkan akan menyediakan dasar hukum bagi langkah-langkah seperti denda.

Tahapan yang disampaikan administrasi pengadilan adalah:

• 6 hingga 16 Oktober: Hakim dari berbagai pengadilan di seluruh negeri berpartisipasi dalam survei.
• 2 November: Temuan survei dirilis.
• Langkah berikutnya: Konsultasi dengan lembaga terkait dan penyampaian pandangan administrasi pengadilan kepada Majelis Nasional mengenai perubahan undang-undang.

Belum ada jadwal untuk konsultasi, pemungutan suara legislatif, maupun pemberlakuan denda. Besaran denda yang diusulkan serta ketentuan rinci untuk menjatuhkannya juga belum diputuskan dalam rencana yang diumumkan.

Administrasi pengadilan sedang mempertimbangkan penerbitan panduan penggunaan AI di situs litigasi elektronik. Panduan itu akan tersedia di tempat pengacara dan pihak berperkara menjalankan urusan pengadilan, dengan tujuan membantu mereka memeriksa keakuratan materi yang disusun menggunakan AI.

Temuan survei menunjukkan prioritas praktis bagi panduan tersebut: memeriksa keberadaan dan makna. Nomor perkara yang nyata membantu menemukan putusan, sedangkan membaca putusan memastikan apa yang sebenarnya disampaikan pengadilan. Contoh yang dijumpai para hakim menunjukkan mengapa kedua pemeriksaan itu penting.

Poin-Poin Utama

• Survei pertama Mahkamah Agung mengenai sitasi palsu terkait AI menghimpun jawaban dari 360 hakim.
• Di antara hakim perkara perdata, keluarga, dan administrasi yang menjawab pertanyaan tersebut, 80,7% pernah menjumpai sitasi preseden yang tidak ada.
• Hakim menguraikan adanya putusan Mahkamah Agung rekaan, nomor perkara yang tidak dapat ditemukan, putusan yang diubah, dan teks percakapan AI yang tertinggal dalam berkas.
• Materi palsu diajukan baik oleh pihak yang berperkara sendiri maupun pengacara yang mewakili pihak-pihak tersebut.
• Sebanyak 91,7% responden mendukung langkah kelembagaan, dengan mayoritas mendukung denda, kewajiban verifikasi, pengungkapan penggunaan AI, dan sanksi terhadap pengacara.
• Administrasi Pengadilan Nasional berencana berkonsultasi mengenai perubahan hukum acara dan sedang mempertimbangkan panduan di situs litigasi elektronik.