Peluncuran AI Gratis Korea Selatan Menguji Apakah Perluasan Akses Bisa Mengimbangi Risiko

Utilitas AI publik beralih dari janji ke uji tekanan

Korea Selatan bersiap memberikan akses gratis ke kecerdasan buatan bagi setiap warga, sehingga chatbot dan agen AI dapat digunakan untuk keperluan sekolah, layanan kesehatan, layanan publik, dan pengambilan keputusan sehari-hari. Inisiatif yang disebut “AI untuk Semua” ini bertujuan menyebarkan teknologi tersebut secara luas dan membantu negara itu bersaing dengan Amerika Serikat dan China. Namun, inisiatif ini juga menyoroti pertanyaan sulit: dapatkah perlindungan mengimbangi laju perkembangan ketika AI menjadi bagian rutin dari kehidupan publik?

Pemerintahan Presiden Lee Jae Myung berencana memulai dengan layanan beta, lalu mempertimbangkan untuk menjadikan uji coba tersebut sebagai layanan permanen yang dibiayai pembayar pajak mulai tahun depan. Layanan yang diusulkan akan menghubungkan masyarakat dengan perangkat AI serbaguna yang dikembangkan tiga konsorsium domestik pimpinan SK Telecom, KT, dan Kakao. Pemerintah telah meminjamkan ratusan unit pemroses grafis Nvidia B200 kepada kelompok-kelompok tersebut, yakni cip khusus yang digunakan untuk melatih dan menjalankan sistem AI dengan kebutuhan komputasi tinggi.

Pada akhirnya, pejabat pemerintah membayangkan perantara AI membantu masyarakat membuat janji medis, mencari tempat tinggal, dan memperoleh panduan pajak melalui layanan yang terhubung dengan pemerintah. Hal itu dapat memudahkan masyarakat mengakses sistem publik, terutama mereka yang kesulitan menghadapi formulir rumit atau waktu tunggu yang lama. Namun, ini juga berarti kesalahan, kegagalan perlindungan privasi, atau rekomendasi yang bias dapat berdampak pada orang-orang yang menggunakan layanan penting.

Pemerintah telah mengalokasikan 250 miliar won untuk peluncuran ini hingga 2027, di luar anggaran AI sebesar 10 triliun won untuk tahun fiskal berjalan. Besarnya anggaran mencerminkan strategi nasional untuk membangun kapasitas AI dan memperluas akses, bukan membatasinya bagi mereka yang mampu membayar langganan pribadi. Uji coba ini akan menguji apakah akses gratis dapat menjadi infrastruktur publik yang bermanfaat, serta apakah warga dapat memercayai sistem yang menangani informasi dan pertanyaan mereka.

Mengapa para pemimpin AI memperingatkan tentang teknologi ini?

Rencana Korea Selatan muncul ketika sejumlah tokoh terkemuka di industri AI memperingatkan bahwa perkembangan pesat membawa risiko serius. CEO Anthropic Dario Amodei menyerukan agar industri ini memperlambat lajunya. Seorang mantan insinyur Anthropic yang juga pernah bekerja di OpenAI mengatakan setelah meninggalkan perusahaan itu bahwa ia “benar-benar ketakutan” karena perkembangan yang tak terkendali dapat berarti “kita semua bisa mati dalam waktu dekat.” Ilmuwan komputer Geoffrey Hinton, peraih Nobel yang kerap dijuluki “bapak AI,” juga memperingatkan bahwa sistem canggih dapat menimbulkan bahaya eksistensial jika lepas dari kendali manusia.

Peringatan tersebut mencakup berbagai kemungkinan, mulai dari senjata otonom dan serangan siber yang digerakkan mesin hingga pengangguran massal. Risiko lainnya sudah lebih dikenal: gambar dan video palsu yang meyakinkan, keputusan otomatis yang diskriminatif, serta orang-orang yang mengandalkan sistem yang memberikan jawaban keliru dengan penuh keyakinan. Peluncuran layanan publik tidak menciptakan semua bahaya ini, tetapi dapat meningkatkan paparan dengan memudahkan penggunaan AI dalam skala besar.

Sistem AI serbaguna menghasilkan jawaban dengan mengenali pola dalam data, bukan dengan memahami dunia seperti manusia. Sistem ini dapat berguna untuk menyusun draf, meringkas, dan menelusuri informasi, tetapi juga dapat menyampaikan kebohongan seolah-olah fakta. Dalam layanan pemerintah atau kesehatan, pengguna memerlukan cara yang jelas untuk memeriksa jawaban dan menghubungi petugas yang berwenang memperbaikinya.

Perlindungan apa yang disiapkan Seoul?

Korea Selatan mengandalkan Undang-Undang Dasar AI yang mulai berlaku pada Januari untuk menetapkan aturan bagi penggunaan AI yang terus meluas. Kerangka tersebut mewajibkan pengawasan manusia, penilaian dampak, dan pelabelan konten sintetis secara jelas. Langkah-langkah ini bertujuan memudahkan identifikasi materi yang dihasilkan AI dan mewajibkan organisasi menelaah potensi bahaya sebelum menerapkan sistem.

Lembaga Keselamatan AI yang didanai negara juga bertugas mengevaluasi risiko dan menjadi pengawas teknis. Perannya akan sama pentingnya dengan aturan formal: menilai keandalan perilaku sistem, perlindungan data sensitif, dan kemampuan pengguna untuk menggugat keputusan yang berdampak besar. Penilaian dampak hanya berguna jika mengkaji dampak di dunia nyata dan mendorong perubahan saat masalah ditemukan.

Koneksi yang direncanakan dengan layanan pemerintah membuat akuntabilitas sangat penting. Jika asisten AI memberikan panduan pajak yang keliru atau salah menangani permintaan janji medis, pengguna harus tahu instansi mana yang bertanggung jawab dan bagaimana memperoleh bantuan. Sistem tersebut tidak boleh menjadi penghalang antara warga dan pejabat yang mengambil keputusan. Peninjauan oleh manusia paling bermakna jika mudah diakses, tepat waktu, dan dapat mengesampingkan rekomendasi otomatis.

Akses gratis juga tidak berarti pengoperasiannya tanpa biaya. Lembaga publik perlu membayar komputasi, keamanan, pemeliharaan, dan evaluasi, sekaligus menentukan seberapa banyak informasi pribadi yang boleh disimpan layanan tersebut. Investasi pemerintah pada perangkat keras dan perangkat lunak komputasi hanyalah satu bagian dari layanan publik berkelanjutan; pengawasan dan dukungan memerlukan sumber daya yang terus tersedia.

Pekerjaan dan penyalahgunaan deepfake sudah menjadi bagian dari perdebatan

Sejumlah kekhawatiran Korea Selatan berakar pada dampak buruk yang kini terjadi. Bank of Korea melaporkan bahwa jumlah penduduk bekerja berusia 15 hingga 29 tahun turun 285.000 orang antara Juni 2022 dan Juni tahun ini. Bank tersebut memperkirakan 94 persen penurunan terjadi di sektor-sektor yang sangat terpapar otomatisasi. Angka-angka ini menunjukkan tumpang tindih serius antara lapangan kerja anak muda dan perubahan teknologi, tetapi tidak membuktikan bahwa AI menjadi satu-satunya penyebab penurunan tersebut. Kondisi ekonomi dan perubahan lain dalam perekrutan juga dapat memengaruhi ketenagakerjaan.

Otomatisasi dapat menggantikan tugas tertentu tanpa menghapus seluruh jenis pekerjaan. Namun, hal itu tetap tidak banyak menghibur pekerja yang tugas tingkat pemulanya diotomatisasi atau yang menghadapi pengurangan perekrutan oleh perusahaan. Pekerja muda mungkin sangat rentan jika tugas rutin administratif atau layanan selama ini menjadi jalur masuk ke dunia kerja. Seiring meluasnya adopsi AI, pembuat kebijakan perlu memantau kualitas pekerjaan dan pola perekrutan, bukan hanya angka ketenagakerjaan utama.

Bagi banyak warga Korea Selatan, kekhawatiran paling mendesak adalah penyalahgunaan untuk tindak kejahatan, terutama deepfake bermuatan pelecehan seksual. Kasus Nth Room, skandal eksploitasi seksual daring pada 2020, dan kasus-kasus setelahnya mendorong penguatan undang-undang deepfake pada 2024. Namun, menurut data yang dipaparkan dalam forum Amnesty International Korea baru-baru ini, polisi mencatat 1.553 pelanggaran terkait deepfake tahun lalu.

Won Eun-ji, direktur kelompok investigasi kejahatan seksual digital Team Flame, telah menghabiskan sebagian besar tahun ini dengan masuk ke sekitar 50 ruang obrolan Telegram bersama media investigasi Newstapa. Ia mendokumentasikan bagaimana perangkat AI memperluas kelompok pelaku anonim dan menurunkan usia korban. Perangkat pembuat gambar dan penukar wajah dapat mempermudah pembuatan materi pelecehan, sementara ruang daring terenkripsi atau anonim dapat mempersulit penyelidikan dan penegakan akuntabilitas.

Hukum pidana merupakan salah satu bagian dari respons, tetapi pencegahan dan dukungan juga penting. Korban memerlukan penghapusan gambar dengan segera, bantuan praktis untuk melaporkan pelecehan, serta perlindungan dari penyebaran lebih lanjut. Seiring makin luasnya ketersediaan perangkat AI, kebijakan akses publik harus mempertimbangkan kemungkinan bahwa sistem dapat digunakan untuk membuat atau menyebarkan materi berbahaya, sekalipun tujuan awalnya tidak merugikan.

Sekolah menghadapi ujian tersendiri terkait manfaat AI

Pendidikan menjadi sumber perdebatan lainnya. Tahun lalu, para pendidik memprotes rencana pemerintah yang akhirnya dibatalkan untuk menghabiskan 1,2 triliun won bagi buku teks bertenaga AI. Kekhawatiran mereka bukan hanya soal apakah perangkat lunaknya berfungsi. Mereka juga mempertanyakan apa yang hilang ketika sistem memberikan jawaban sebelum siswa berusaha menyelesaikan masalah sendiri.

Song Keun-sang, guru kelas lima di Provinsi Chungcheong Selatan yang ikut dalam protes tersebut, mengatakan AI “hanya memberikan jawabannya” dan “tidak banyak nilai pendidikannya.” Kritiknya menyoroti perbedaan mendasar dalam pendidikan: menyelesaikan tugas tidak sama dengan belajar cara mengerjakannya. Perangkat yang menjelaskan gagasan sulit atau menyesuaikan latihan dengan kebutuhan siswa dapat membantu. Namun, perangkat yang mengabaikan proses membaca, bernalar, atau menulis dapat melemahkan keterampilan tersebut.

Kekhawatiran tentang penurunan nilai membaca menambah urgensi perdebatan ini, meskipun hal itu tidak seharusnya dianggap sebagai bukti bahwa AI menyebabkan perubahan pada kinerja siswa. Sekolah memerlukan bukti tentang dampak perangkat tertentu terhadap pemahaman, perhatian, dan kerja mandiri. Guru juga perlu dilibatkan dalam menentukan kapan AI mendukung pembelajaran dan kapan teknologi itu sebaiknya tidak digunakan.

Aturan untuk ruang kelas mungkin berbeda dari aturan bagi chatbot publik serbaguna. Siswa memerlukan perlindungan yang sesuai usia, batasan jelas atas pengumpulan data, serta tugas yang mengukur pemahaman mereka sendiri. AI dapat membantu guru menyiapkan pelajaran atau memberikan penjelasan lain kepada siswa, tetapi tidak dapat menggantikan hubungan dalam pendidikan atau menilai kebutuhan setiap siswa secara andal.

Dapatkah akses universal membangun kepercayaan publik?

“AI untuk Semua” merupakan upaya ambisius untuk menjadikan akses terhadap AI sebagai infrastruktur publik. Model ini dapat mengurangi kesenjangan yang membuat perangkat canggih terutama hanya tersedia bagi individu kaya dan perusahaan besar. Asisten yang andal dapat membantu masyarakat menemukan informasi, menyelesaikan dokumen rutin, atau mengakses layanan yang sulit digunakan. Manfaat tersebut bergantung pada mutu perangkat dan kemampuan pengguna untuk memperoleh bantuan dari manusia ketika sistem gagal.

Akses universal juga mengubah konsekuensi dari pilihan desain. Kekurangan pada chatbot pribadi berdampak pada penggunanya; kekurangan pada layanan publik dapat menjangkau bagian masyarakat yang jauh lebih besar. Jika suatu sistem terhubung dengan catatan publik atau alur kerja instansi, kebocoran keamanan dan keluaran yang tidak akurat dapat menimbulkan dampak yang melampaui satu percakapan. Batas privasi yang kuat, pengujian independen, catatan kinerja sistem yang jelas, dan jalur banding akan membantu menentukan apakah layanan ini dapat dipercaya.

Korea Selatan memiliki sektor teknologi yang kuat dan sumber daya untuk menjalankan uji coba berskala besar. Tantangan utamanya adalah memastikan layanan ini bertanggung jawab kepada publik sekaligus memiliki kemampuan teknis. Itu berarti menjelaskan data apa yang dikumpulkan sistem, mengidentifikasi pihak yang bertanggung jawab atas kesalahan, dan menerbitkan informasi yang cukup agar dapat diperiksa pihak luar. Pemerintah juga perlu mengukur apakah layanan tersebut membantu masyarakat, alih-alih menganggap jumlah pengguna atau fitur yang tersedia sebagai bukti keberhasilan.

Peluncuran ini akan menguji apakah investasi publik dapat memperluas akses sambil mempertahankan pertimbangan manusia di bidang-bidang yang kesalahannya membawa konsekuensi nyata. Undang-undang Korea Selatan dan lembaga keselamatannya menyediakan kerangka, tetapi nilainya akan dinilai dari penerapannya di lapangan, seiring AI memasuki ruang kelas, tempat kerja, dan kantor pemerintah.

Poin Utama

• Korea Selatan merencanakan uji coba AI gratis yang dipimpin konsorsium terkait SK Telecom, KT, dan Kakao.
• Pemerintah berharap menjadikan AI sebagai layanan publik permanen yang terhubung dengan layanan seperti pembuatan janji dan panduan pajak.
• Undang-Undang Dasar AI mewajibkan pengawasan manusia, penilaian dampak, dan pelabelan konten sintetis.
• Kekhawatiran ketenagakerjaan mencakup penurunan jumlah penduduk bekerja berusia 15 hingga 29 tahun, yang terkonsentrasi di sektor-sektor yang terpapar otomatisasi.
• Polisi mencatat 1.553 pelanggaran terkait deepfake tahun lalu, di tengah kekhawatiran berlanjut tentang pelecehan seksual yang dimungkinkan oleh perangkat AI.
• Para guru menentang buku teks bertenaga AI dengan alasan bahwa jawaban instan dapat mengganggu proses belajar.