Korea Selatan Sahkan Undang-Undang AI Komprehensif Pertama di Dunia, Seimbangkan Inovasi dan Keamanan

Korea Selatan Memimpin Dunia dengan Undang-Undang Dasar AI

Korea Selatan secara resmi memberlakukan seperangkat undang-undang komprehensif pertama di dunia yang mengatur kecerdasan buatan, demikian klaim negara tersebut. "Undang-Undang Dasar AI" yang terdiri atas enam bab dan 43 pasal mulai berlaku pada Kamis, membentuk kerangka regulasi yang mencakup cakupan aktivitas dan pelaku AI yang sangat luas. Undang-undang ini bertujuan melindungi warga sekaligus membangun apa yang disebut para pejabat sebagai "fondasi kepercayaan" di tengah masyarakat yang semakin digerakkan oleh AI.

Langkah penting ini menempatkan Korea Selatan di depan perekonomian utama lainnya dalam membangun pendekatan terpadu untuk tata kelola AI. Uni Eropa mulai menerapkan sejumlah regulasi terkait AI tahun lalu, sementara sebagian besar ketentuan utama Undang-Undang AI-nya akan mulai diberlakukan secara bertahap pada Agustus. Amerika Serikat masih belum memiliki undang-undang AI federal, meski Gedung Putih bulan lalu mengeluarkan perintah eksekutif yang menentang undang-undang negara bagian yang "memberatkan" dan dianggap menghambat inovasi AI. China mengambil pendekatan berbeda dengan menambahkan sejumlah ketentuan terkait etika atau pemantauan risiko ke dalam undang-undang keamanan siber yang sudah ada.

Undang-Undang Dasar AI Korea Selatan merupakan langkah maju yang signifikan dalam upaya global mengatur teknologi kecerdasan buatan. Undang-undang ini dirancang untuk mencapai dua tujuan yang saling melengkapi: mendorong pertumbuhan industri AI Korea Selatan sekaligus menerapkan perlindungan yang diperlukan untuk melindungi warga dari potensi risiko terkait penerapan AI.

Kami mendekati hal ini dari tingkat paling mendasar dalam konsensus global. Tujuannya bukan menghentikan pengembangan AI melalui regulasi. Tujuannya adalah memastikan masyarakat dapat menggunakannya dengan rasa percaya.

Pernyataan Kim Kyeong-man, wakil menteri di kantor kebijakan AI pada Kementerian TIK, ini menyoroti niat Korea Selatan untuk menciptakan kerangka berimbang yang tidak menghambat kemajuan teknologi, sembari menanggapi kekhawatiran publik mengenai keamanan dan keandalan.

Mendefinisikan Sistem AI Berdampak Tinggi

Salah satu unsur utama undang-undang baru Korea Selatan ini adalah fokusnya pada "AI berdampak tinggi", yakni sistem yang berpotensi memengaruhi kehidupan, keselamatan, atau hak-hak dasar manusia secara signifikan. Undang-undang ini secara khusus mengidentifikasi 11 bidang penting yang mewajibkan pengawasan lebih ketat dan langkah-langkah transparansi bagi sistem AI:

• Sistem pasokan energi
• Proses produksi air minum
• Sistem layanan kesehatan
• Pengembangan dan penggunaan perangkat medis
• Pengelolaan bahan dan fasilitas nuklir
• Analisis informasi biometrik untuk penyelidikan kriminal
• Penilaian ketenagakerjaan dan pinjaman
• Sistem dan pengelolaan transportasi
• Pengambilan keputusan pemerintah yang memengaruhi layanan publik
• Penilaian siswa di bidang pendidikan
• Bidang lain yang secara signifikan memengaruhi kehidupan, keselamatan, dan hak-hak manusia

Untuk aplikasi berdampak tinggi ini, perusahaan harus menerapkan sejumlah perlindungan utama. Mereka harus mampu menjelaskan logika pengambilan keputusan sistem AI jika diminta, memastikan manusia dapat melakukan intervensi bila diperlukan, serta memberi tahu pengguna dengan jelas bahwa mereka sedang berinteraksi dengan layanan berbasis AI. Ketentuan ini berlaku, misalnya, bagi sistem yang digunakan untuk menyaring pemohon pinjaman atau pekerjaan.

Undang-undang ini membedakan secara penting antara "AI berdampak tinggi" dan apa yang disebut Korea Selatan sebagai "AI berkinerja tinggi". Sementara Uni Eropa terutama berfokus pada risiko spesifik aplikasi dalam regulasinya, Korea Selatan mengambil pendekatan berbeda dengan menerapkan ambang teknis untuk menentukan sistem mana yang perlu diatur. Ambang ini mencakup indikator seperti total komputasi pelatihan, sehingga hanya sejumlah sangat terbatas model canggih yang akan dikenai persyaratan keselamatan paling ketat.

Saat ini, pemerintah Korea Selatan menyatakan bahwa belum ada model AI yang ada, baik domestik maupun internasional, yang memenuhi kriteria untuk diatur berdasarkan klausul AI berkinerja tinggi ini. Pejabat juga menyatakan bahwa saat ini belum ada layanan domestik yang masuk kategori "berdampak tinggi", meski kendaraan otonom penuh Level 4 atau lebih tinggi berpotensi memenuhi kriteria ini di masa mendatang.

Persyaratan Transparansi dan Pelabelan AI

Salah satu aspek regulasi AI Korea Selatan yang paling terlihat adalah persyaratan transparansi untuk konten yang dihasilkan AI. Berdasarkan undang-undang baru ini, perusahaan harus memberikan label yang jelas atau dapat didengar, seperti tanda air, pada konten hasil AI yang dapat disangka sebagai kenyataan. Persyaratan ini secara khusus menyasar konten deepfake dan keluaran AI lain yang berisiko menyebarkan informasi keliru atau menipu.

Pendekatan pelabelan berbeda-beda menurut jenis kontennya. Untuk keluaran yang membedakan konten nyata dan buatan AI sangat penting bagi keselamatan atau keaslian, pelabelan yang terlihat diwajibkan. Namun, untuk konten kreatif yang dibuat dengan AI, seperti gim, animasi, atau webtoon, undang-undang ini mengizinkan metode pengungkapan yang tidak terlalu mencolok, termasuk mencantumkan label dalam metadata yang mungkin tidak langsung terlihat oleh pengguna akhir.

Pendekatan yang bernuansa ini memunculkan pertanyaan di industri seperti pembuatan webtoon, karena platform dan kreator belum yakin seberapa luas definisi konten "buatan AI". Kekhawatiran masih ada mengenai apakah penggunaan AI secara parsial, seperti untuk membuat latar, mewarnai, atau menyunting, dapat memicu kewajiban pengungkapan. Undang-undang ini tidak mengatur pengguna perorangan yang sekadar menggunakan alat AI, tetapi berlaku bagi platform dan perusahaan yang menawarkan alat kreasi berbasis AI atau mendistribusikan karya hasil AI.

Penerapan tanda air pada konten buatan AI adalah perlindungan minimum untuk mencegah dampak buruk dari penyalahgunaan teknologi AI, seperti konten deepfake.

Pernyataan pejabat kementerian ini menegaskan bahwa pemerintah memandang pelabelan sebagai langkah perlindungan mendasar terhadap penyalahgunaan AI. Persyaratan transparansi tidak hanya mencakup pelabelan konten, tetapi juga kewajiban memberi tahu pengguna saat mereka berinteraksi dengan layanan berbasis AI. Perusahaan harus memberi tahu pengguna terlebih dahulu ketika menawarkan produk atau layanan yang menggunakan AI berdampak tinggi atau AI generatif, biasanya melalui mekanisme seperti peringatan pop-up atau pemberitahuan yang mudah terlihat.

Struktur Tata Kelola dan Dukungan Industri

Undang-Undang Dasar AI membentuk struktur tata kelola kebijakan AI yang komprehensif di Korea Selatan. Kementerian Sains dan TIK menjadi otoritas utama yang bertanggung jawab atas pelaksanaan kebijakan AI, sementara Komite AI Nasional berada di bawah presiden untuk membahas dan menetapkan arah kebijakan AI yang lebih luas. Undang-undang ini juga membentuk Pusat Kebijakan AI dan Institut Keselamatan AI untuk mendukung pelaksanaan kebijakan dan menangani masalah keselamatan.

Selain langkah-langkah regulasi, undang-undang ini mencakup banyak ketentuan untuk mendukung pengembangan dan pertumbuhan AI di Korea Selatan. Langkah-langkah promosi ini meliputi dukungan untuk penelitian dan pengembangan AI, standardisasi teknologi AI, pengembangan data pelatihan AI, serta inisiatif untuk membantu perusahaan mengadopsi dan memanfaatkan teknologi AI. Perhatian khusus diberikan pada dukungan bagi usaha kecil dan menengah, perusahaan rintisan, serta pengembangan talenta di bidang AI.

Undang-undang ini juga menyediakan landasan hukum untuk menyusun "Rencana Dasar AI" yang akan menjadi peta jalan kebijakan bagi pengembangan teknologi AI di Korea Selatan. Pendekatan komprehensif ini mengakui bahwa regulasi AI yang berhasil tidak hanya membutuhkan pembatasan, tetapi juga dukungan aktif bagi inovasi dan daya saing di kancah AI global.

Untuk mengurangi beban awal bagi pelaku usaha, pemerintah Korea Selatan menetapkan masa tenggang setidaknya satu tahun. Selama periode ini, pihak berwenang tidak akan melakukan penyelidikan pencarian fakta atau menjatuhkan sanksi administratif, dan akan lebih berfokus pada konsultasi serta edukasi. Meja bantuan khusus Undang-Undang AI telah dibentuk untuk membantu perusahaan menentukan apakah sistem mereka termasuk dalam cakupan undang-undang dan bagaimana mematuhinya.

Meja Bantuan Undang-Undang Kerangka AI, yang melibatkan para ahli dari organisasi seperti Institut Keselamatan AI dan Badan Masyarakat Informasi Nasional, menyediakan konsultasi rahasia dan panduan bagi mereka yang mengembangkan, menjalankan usaha dengan, atau menggunakan perangkat kecerdasan buatan sembari mematuhi regulasi baru.

Persyaratan Kepatuhan dan Sanksi

Perusahaan yang beroperasi di Korea Selatan atau menawarkan layanan kepada pengguna Korea menghadapi kewajiban kepatuhan khusus berdasarkan undang-undang baru ini. Perusahaan AI asing yang memenuhi kriteria tertentu, seperti pendapatan tahunan global sebesar 1 triliun won ($681 juta) atau lebih, penjualan domestik sebesar 10 miliar won atau lebih, atau sedikitnya 1 juta pengguna harian di negara itu, harus menunjuk perwakilan lokal untuk berhubungan dengan pihak berwenang. Saat ini, perusahaan besar seperti OpenAI dan Google termasuk dalam cakupan persyaratan ini.

Pelaku AI dibagi menjadi dua kategori: pelaku pengembangan AI yang mengembangkan dan menyediakan AI, serta pelaku pemanfaatan AI yang menyediakan produk atau layanan AI dengan menggunakan AI dari pengembang. Kedua kategori memiliki kewajiban transparansi, tetapi fokus regulasi tetap terutama pada sistem AI berdampak tinggi dan AI generatif.

Pendekatan penegakan berdasarkan undang-undang Korea Selatan ini sengaja dibuat lebih ringan dibandingkan yurisdiksi lain. Undang-undang ini tidak memberlakukan sanksi pidana. Sebaliknya, prioritas diberikan pada perintah perbaikan atas ketidakpatuhan, dengan denda yang dibatasi hingga 30 juta won ($26.200) hanya dijatuhkan jika perintah tersebut diabaikan. Seperti ditekankan para pejabat pemerintah, hal ini mencerminkan pendekatan yang berorientasi pada kepatuhan, bukan penghukuman.

Sebagai perbandingan, kerangka regulasi Uni Eropa menetapkan sanksi yang jauh lebih berat dengan berbagai tingkat hukuman bergantung pada jenis pelanggaran, termasuk denda administratif hingga 7% dari omzet tahunan global. Perbedaan besar dalam tingkat sanksi ini mencerminkan niat Korea Selatan untuk mempertahankan regulasi minimum sambil tetap membangun kerangka dasar keselamatan.

Tiga pelanggaran khusus yang dapat dikenai denda berdasarkan undang-undang Korea Selatan adalah: tidak memberi tahu pihak berwenang tentang operasi berbasis AI saat menyediakan produk atau layanan yang menggunakan AI berdampak tinggi atau AI generatif, tidak menunjuk perwakilan domestik ketika diwajibkan, dan tidak mematuhi perintah penangguhan atau perbaikan yang dikeluarkan Menteri Sains dan TIK.

Tanggapan Industri dan Kekhawatiran Perusahaan Rintisan

Pemerintah menggambarkan Undang-Undang Dasar AI sebagai pendekatan berimbang yang mendukung inovasi sekaligus menjamin keselamatan, tetapi tidak semua pihak di industri teknologi sepakat. Perusahaan rintisan Korea Selatan menyampaikan kekhawatiran mengenai potensi beban kepatuhan akibat regulasi baru, terutama karena aturan ini mulai berlaku lebih cepat daripada kerangka serupa di negara lain.

Menurut survei Startup Alliance, hanya 2% perusahaan rintisan yang berfokus pada AI merasa telah memiliki rencana kepatuhan formal, sementara sekitar separuh mengaku belum sepenuhnya memahami persyaratan undang-undang baru ini. Kurangnya kejelasan tersebut menimbulkan kecemasan di kalangan pendiri perusahaan, yang khawatir bahasa undang-undang yang samar dapat memaksa mereka menerapkan strategi pengembangan yang terlalu berhati-hati demi menghindari risiko regulasi.

Ada sedikit rasa kesal, mengapa kita harus menjadi yang pertama melakukannya?

Pernyataan Lim Jung-wook, salah satu ketua Startup Alliance Korea Selatan, ini menggambarkan kekecewaan sebagian pengusaha karena harus mematuhi regulasi AI komprehensif sebelum pesaing global mereka. Banyak pendiri perusahaan mempertanyakan apakah menjadi yang pertama mengatur AI akan memberi Korea Selatan keunggulan atau justru merugikan perusahaan domestiknya di tingkat internasional.

Presiden Lee Jae Myung mengakui kekhawatiran tersebut dan mendesak para pembuat kebijakan untuk mendengarkan masukan industri serta memastikan perusahaan ventura dan perusahaan rintisan mendapat dukungan yang memadai. Dalam pertemuan baru-baru ini dengan para ajudan, Lee menekankan pentingnya memaksimalkan potensi industri melalui dukungan kelembagaan sekaligus mengantisipasi dampak buruk yang diperkirakan muncul.

Kementerian Sains dan TIK menanggapi kekhawatiran ini dengan merencanakan platform panduan dan pusat dukungan khusus bagi perusahaan selama masa tenggang. Seorang juru bicara mengatakan pemerintah terus mengkaji langkah-langkah untuk meminimalkan beban industri dan mempertimbangkan perpanjangan masa tenggang jika kondisi industri domestik dan luar negeri mengharuskannya.

Perbandingan dengan Pendekatan Internasional

Undang-Undang Dasar AI Korea Selatan mencerminkan filosofi regulasi tersendiri yang berbeda dari pendekatan negara-negara besar lainnya. Undang-undang ini merujuk pada model AS, yang berfokus pada otonomi sektor swasta, serta model regulasi Uni Eropa, yang menekankan keselamatan dan keandalan. Pada akhirnya, Korea Selatan memilih jalur unik yang berupaya menyelaraskan regulasi minimal dengan promosi AI demi mencapai tujuan menjadi salah satu negara terdepan dalam daya saing AI global.

Seperti Undang-Undang AI Uni Eropa, kerangka Korea Selatan mendefinisikan sistem AI dan menetapkan berbagai kewajiban terkait AI berdampak tinggi, termasuk Penilaian Dampak terhadap Hak-Hak Dasar (FRIA). Namun, tingkat regulasi spesifik dapat berubah mengikuti peraturan pelaksana yang akan diterbitkan pada paruh pertama 2025.

Perbedaan penting antara pendekatan Korea Selatan dan Uni Eropa terletak pada struktur kewajibannya. Undang-Undang AI Uni Eropa menetapkan kewajiban yang berbeda berdasarkan jenis pelaku dalam rantai nilai AI, sedangkan Undang-Undang Kerangka AI Korea Selatan menetapkan kewajiban secara komprehensif tanpa membedakan jenis pelaku. Pendekatan yang lebih sederhana ini dapat mengurangi kompleksitas, tetapi juga berpotensi menimbulkan tantangan dalam menerapkan pengawasan yang sesuai di seluruh ekosistem AI yang beragam.

Pendekatan Korea Selatan dalam mendefinisikan AI berdampak tinggi juga berbeda dari metode Uni Eropa. Uni Eropa berfokus pada risiko spesifik aplikasi, dengan menyasar penggunaan AI di bidang seperti layanan kesehatan, perekrutan, dan penegakan hukum. Korea Selatan menggunakan ambang teknis untuk menentukan sistem mana yang perlu diatur. Ambang ini mencakup indikator seperti total komputasi pelatihan, sehingga dengan kemampuan teknologi saat ini, jumlah sistem yang diatur mungkin jauh lebih sedikit.

Perbedaan filosofi regulasi ini juga tampak pada sanksi atas pelanggaran. Uni Eropa menetapkan sanksi berat dengan denda hingga 7% dari omzet tahunan global, sementara kerangka Korea Selatan mengenakan denda administratif maksimal hanya 30 juta won (sekitar $26.200). Perbedaan mencolok ini mencerminkan penekanan Korea Selatan pada kepatuhan dan perbaikan, bukan penghukuman.

Dampak Global dan Prospek ke Depan

Pemberlakuan undang-undang AI komprehensif oleh Korea Selatan membawa implikasi penting bagi lanskap AI global. Sebagai negara kedua setelah Uni Eropa yang mengadopsi kerangka regulasi AI komprehensif, Korea Selatan memberikan contoh legislasi baru yang dapat dipertimbangkan negara lain saat menyusun pendekatan mereka sendiri terhadap tata kelola AI.

Pengesahan undang-undang ini di tengah gejolak politik terkait deklarasi darurat militer oleh Presiden Yoon Suk Yeol dan pemakzulan yang menyusulnya menunjukkan adanya konsensus lintas partai mengenai pentingnya regulasi AI. Undang-undang ini disahkan dalam sidang pleno Majelis Nasional pada 26 Desember 2024 dengan dukungan bipartisan yang sangat besar, menandakan kesepakatan politik yang luas untuk menangani tantangan AI.

Ke depan, para pejabat Korea Selatan mengakui bahwa undang-undang ini merupakan titik awal, bukan produk akhir. Penerapan terperinci dari banyak ketentuannya akan bergantung pada peraturan pelaksana dan panduan sektoral yang akan dirampungkan selama masa persiapan satu tahun sebelum undang-undang berlaku penuh pada Januari 2026.

Fungsi koordinasi Komite AI Nasional akan menjadi krusial saat Korea Selatan berupaya menyelaraskan keahlian kementerian terkait dengan mempertimbangkan karakteristik berbagai sasaran regulasi atau sektor. Seiring AI menyebar ke semua bidang, dari informasi pribadi dan hak cipta hingga layanan kesehatan dan pertahanan, tata kelola yang efektif akan membutuhkan koordinasi yang cermat antarlembaga pemerintah.

Seiring menguatnya norma global dan pembahasan tata kelola AI, kebutuhan akan interoperabilitas dan kerja sama internasional dalam regulasi untuk memastikan keandalan AI semakin besar. Pendekatan Korea Selatan dapat memengaruhi diskusi internasional ini, khususnya mengenai cara menyeimbangkan inovasi dengan pertimbangan keselamatan dalam tata kelola AI.

Intinya

• Korea Selatan telah memberlakukan undang-undang AI komprehensif pertama di dunia, Undang-Undang Dasar AI, yang mencakup pengembangan, penerapan, dan penggunaan kecerdasan buatan.
• Undang-undang ini mendefinisikan "AI berdampak tinggi" di 11 sektor penting, termasuk layanan kesehatan, keuangan, transportasi, dan layanan pemerintah, serta mewajibkan pengawasan lebih ketat dan kemampuan intervensi manusia.
• Konten buatan AI harus diberi label, dengan tanda air yang terlihat untuk konten yang dapat disangka sebagai kenyataan dan pelabelan yang tidak terlalu mencolok untuk karya kreatif seperti webtoon dan animasi.
• Perusahaan AI asing yang memenuhi ambang pendapatan atau jumlah pengguna harus menunjuk perwakilan lokal di Korea Selatan.
• Denda atas ketidakpatuhan dibatasi hingga 30 juta won ($26.200), jauh lebih rendah dibandingkan denda Uni Eropa yang dapat mencapai 7% dari omzet tahunan global.
• Undang-undang ini mencakup masa tenggang satu tahun yang berfokus pada pemberian panduan, bukan hukuman, serta menyediakan meja bantuan khusus bagi perusahaan yang membutuhkan bantuan kepatuhan.
• Perusahaan rintisan menyampaikan kekhawatiran mengenai beban kepatuhan dan bahasa undang-undang yang samar; hanya 2% yang melaporkan telah memiliki rencana kepatuhan formal.
• Undang-undang ini bertujuan menempatkan Korea Selatan sebagai salah satu dari tiga kekuatan AI terdepan di dunia sekaligus membangun fondasi kepercayaan terhadap teknologi AI.
• Pendekatan Korea Selatan berbeda dari Uni Eropa karena menggunakan ambang teknis, bukan risiko spesifik aplikasi, untuk mengatur sistem AI canggih.
• Penerapan penuh akan dimulai pada Januari 2026, setelah masa persiapan satu tahun untuk menyusun peraturan pelaksana dan panduan terperinci.