Label kecil di tengah masalah yang kian besar
Aktor Janhvi Kapoor, Keerthy Suresh, dan Sunainaa memprotes penyalahgunaan kemiripan mereka dalam deepfake kecerdasan buatan, disertai peringatan akan menempuh jalur hukum menyusul beredarnya gambar dan video yang tidak pantas. Pengalaman mereka menajamkan pertanyaan praktis bagi platform media sosial: seberapa mudah penonton mengetahui bahwa sosok di layar telah direkayasa secara digital?
Daftar Isi
CB Arun Kumar, pakar efek visual sekaligus dekan komunikasi, film, dan gim di Pearl Academy, menyerukan undang-undang yang mewajibkan label yang jelas dan mencolok pada konten yang dibuat menggunakan AI. Ia berpendapat bahwa pemberitahuan yang ada saat ini bisa terlalu mudah terlewatkan, sehingga materi rekayasa tampak seperti foto, rekaman, atau peristiwa berita autentik.
Tag Info AI Instagram menjadi fokus kritiknya. Ia menjelaskan bahwa pemberitahuan itu muncul dalam teks kecil di antara nama pengguna akun dan gambar atau video yang diunggah. Kekhawatirannya berkaitan dengan visibilitas: pengungkapan informasi tidak banyak membantu penonton yang menggulir layar tanpa menyadarinya.
Arun Kumar menjelaskan alasan ia menginginkan persyaratan pelabelan yang lebih kuat:
Kita membutuhkan undang-undang yang lebih ketat, yang mewajibkan pelabelan konten AI secara jelas dan mencolok agar konten itu tidak lagi bisa berpura-pura sebagai berita, seperti sejumlah klip bencana yang beredar luas di internet. Masalah sebenarnya muncul ketika penonton tidak lagi bisa membedakan mana yang nyata dan mana yang palsu.
Usulannya menyoroti dua masalah yang saling berkaitan. Aktor menghadapi dampak pribadi ketika identitas mereka dicantumkan dalam materi yang tidak pantas. Penonton menghadapi risiko menganggap adegan rekayasa sebagai sesuatu yang benar-benar terjadi. Label yang terlihat akan memberi penonton informasi saat mereka menjumpai gambar tersebut, sebelum memutuskan untuk memercayai atau membagikannya.
Apa yang terjadi pada para aktor?
Kapoor, Suresh, dan Sunainaa termasuk di antara aktor yang mengungkapkan keterkejutan atau memprotes setelah kemiripan mereka muncul dalam gambar atau video deepfake yang tidak pantas. Reaksi mereka mencakup peringatan akan menempuh jalur hukum terhadap pihak-pihak yang bertanggung jawab atas penyalahgunaan tersebut.
Deepfake adalah gambar, video, atau rekaman audio yang dibuat atau diubah menggunakan AI agar seseorang tampak melakukan atau mengatakan sesuatu yang sebenarnya tidak pernah mereka lakukan atau katakan. Dalam kasus aktor, fitur wajah yang mudah dikenali dapat membuat rekayasa itu tampak meyakinkan, meskipun orang tersebut sama sekali tidak terlibat dalam pembuatannya.
Masalah langsungnya adalah kendali atas identitas. Aktor dapat memilih peran yang mereka terima, foto yang mereka publikasikan, dan produk yang mereka promosikan. Gambar rekayasa dapat menampilkan aktor yang sama dalam adegan yang tidak pernah mereka setujui, sementara penonton mungkin awalnya mengira penampilan itu asli.
Tuntutan Arun Kumar adalah agar ada kewajiban hukum yang lebih kuat, bukan pengumuman bahwa aturan baru telah berlaku. Dalam komentarnya, ia tidak menyebutkan rancangan undang-undang tertentu, tenggat penegakan, atau usulan sanksi.
Gambar palsu sudah ada sebelum AI
Arun Kumar menempatkan kekhawatiran saat ini dalam sejarah panjang manipulasi gambar hiburan. Sebelum perangkat AI masa kini, orang dapat menggunakan pemeran pengganti, Photoshop, dan teknik efek visual seperti kloning dan morfing untuk membuat adegan palsu.
Kloning menyalin elemen dalam gambar atau rangkaian gambar. Morfing mengubah satu gambar menjadi gambar lain, termasuk mengubah wajah atau penampilannya. Keduanya dapat digunakan secara sah dalam produksi film, saat penonton memang mengharapkan adanya adegan rekayasa. Masalah muncul ketika materi yang dimanipulasi disajikan sebagai rekaman nyata tentang perilaku seseorang.
AI memberi orang cara lain untuk membuat materi semacam itu, termasuk mereka yang mencari keuntungan finansial cepat dari perhatian dan penyebarannya. Arun Kumar berpendapat bahwa teknologi harus dinilai berdasarkan penggunaannya, sementara pihak yang bertanggung jawab atas konten yang tidak pantas harus menghadapi upaya hukum yang sudah tersedia.
Arun Kumar mengatakan hukum yang ada sudah menyediakan jalur untuk meminta penghapusan:
Sudah ada banyak jalur hukum untuk menghapus konten tidak pantas semacam itu.
Penghapusan dan pelabelan menangani momen yang berbeda dalam rangkaian yang sama. Permintaan penghapusan bertujuan menghentikan ketersediaan gambar setelah ada keberatan. Label yang mencolok membantu orang menilainya selagi masih tampil di layar. Argumennya menyoroti kedua upaya tersebut: menanggapi materi berbahaya dan membuat asal-usul buatannya lebih mudah dikenali.
Mengapa ukuran label penting
Pemberitahuan AI kecil di Instagram menggambarkan kesenjangan antara sekadar menyediakan pengungkapan informasi dan membuatnya berguna. Arun Kumar ingin platform menampilkan informasi itu dengan cukup jelas agar penonton biasa dapat melihatnya tanpa perlu mencari-cari di sekitar gambar.
Klip bencana rekayasa menunjukkan mengapa hal itu penting di luar budaya selebritas. Seseorang yang menonton sesuatu yang tampak seperti rekaman keadaan darurat sungguhan perlu mengetahui apakah adegan itu dibuat dengan AI. Jika tidak, gambar tersebut dapat membentuk pandangan mereka tentang peristiwa yang sebenarnya tidak pernah terjadi seperti yang digambarkan.
Bagi aktor, masalah yang sama terasa lebih personal. Wajah mereka adalah fitur yang membuat gambar palsu itu mudah dikenali dan menarik perhatian. Penonton yang melewatkan label dapat mengaitkan adegan tersebut dengan sang aktor sebelum mengetahui bagaimana gambar itu dibuat.
Karena itu, tuntutan Arun Kumar berkaitan dengan penyajian informasi, bukan sekadar keberadaannya. Platform dapat menempatkan pemberitahuan di samping unggahan, tetapi ukuran dan posisinya tetap memengaruhi apakah penonton akan melihatnya. Standar yang ia inginkan sederhana: asal-usul buatan harus mudah terlihat.
Persetujuan merupakan persoalan tersendiri bagi para seniman
Arun Kumar juga membedakan antara menolak AI secara keseluruhan dan menentang penggunaan karya seniman tanpa izin. Yang pertama merupakan penilaian terhadap seluruh teknologi. Yang kedua menyangkut cara materi tertentu diperoleh dan digunakan.
Pelatihan adalah proses yang membuat sistem AI mempelajari pola dari contoh, yang dapat mencakup gambar, teks, suara, atau video. Seniman yang khawatir soal pelatihan mempertanyakan apa yang terjadi ketika karya kreatif mereka menjadi bagian dari proses tersebut tanpa persetujuan.
Persoalan ini melampaui deepfake yang terlihat. Aktor mungkin keberatan terhadap penampilan rekayasa mereka, sementara ilustrator atau kreator lain mungkin keberatan jika karya mereka digunakan untuk mengembangkan sistem yang menghasilkan gambar baru. Pihak yang terdampak dan tindakan yang mereka tentang bisa berbeda.
Arun Kumar berpendapat bahwa kecaman menyeluruh terhadap AI mengabaikan perbedaan tersebut. Posisinya tetap membuka ruang bagi penggunaan kreatif yang sah, sembari menanggapi dengan serius keberatan terkait izin. Bagi pembaca, pertanyaan yang berguna bersifat konkret: identitas siapa yang ditampilkan, karya siapa yang digunakan, dan izin apa yang diberikan?
Seniman digital menghadapi tekanan terhadap penghasilan
Menurut Arun Kumar, seniman grafis yang berkarya di berbagai bidang seperti media, bisnis, film, televisi, arsitektur, dan mode menghadapi dampak lain dari meluasnya AI. Kekhawatiran mereka adalah kemampuan untuk mencari nafkah ketika perusahaan dapat menghasilkan sejumlah jenis materi visual dengan lebih cepat.
Arun Kumar mengatakan karya yang membutuhkan upaya manusia dengan sangat teliti kehilangan nilai komersial seiring keluaran AI menjadi alternatif yang bersaing. Klien yang menentukan cara menghasilkan gambar mungkin mempertimbangkan kecepatan dan biaya, selain keterampilan dan pertimbangan seorang seniman.
Tekanan itu juga dapat memengaruhi cara karya manusia dinilai. Arun Kumar memperingatkan bahwa gambar yang dibuat dengan cermat mungkin dibandingkan dengan keluaran AI berkualitas rendah. Bagi seniman, ini berarti mereka harus menjelaskan nilai karyanya di pasar tempat penonton dan klien semakin sering menjumpai keduanya.
Arun Kumar menjelaskan tekanan terhadap pekerjaan dan sarannya bagi para seniman:
Kenyataannya, revolusi AI membuat mereka kehilangan pekerjaan karena AI bisa mengerjakannya lebih cepat. Seniman sejati yang dapat menggunakan AI sebagai alat tambahan dalam alur kerja mereka akan bertahan dan berkembang.
Alur kerja adalah rangkaian langkah untuk menyelesaikan proyek kreatif, dari gagasan awal hingga gambar atau film yang selesai. Sarannya adalah mempelajari cara memasukkan AI ke dalam proses tersebut, sembari tetap menghadirkan pilihan dan keterampilan manusia dalam karya.
Prediksinya optimistis terhadap seniman yang beradaptasi, tetapi ia juga mengakui tekanan langsung yang dialami orang-orang yang penghasilannya bergantung pada tugas-tugas yang dapat dipercepat oleh AI. Aktor yang mencari perlindungan dari penampilan rekayasa dan seniman yang menghadapi persaingan dengan biaya lebih rendah merasakan dampak berbeda dari pergeseran teknologi yang sama.
Intinya
- Janhvi Kapoor, Keerthy Suresh, dan Sunainaa termasuk di antara aktor yang memprotes penyalahgunaan kemiripan mereka dalam deepfake.
- Dekan Pearl Academy sekaligus pakar efek visual CB Arun Kumar menginginkan undang-undang yang mewajibkan label yang jelas dan mencolok pada konten AI.
- Ia berpendapat bahwa pemberitahuan kecil, termasuk tag Info AI Instagram, terlalu mudah terlewatkan oleh penonton.
- Ia mendukung tindakan terhadap penggunaan AI yang berbahaya dan menyoroti kekhawatiran soal karya seniman yang digunakan tanpa persetujuan.
- Ia mengatakan seniman digital menghadapi tekanan terhadap penghasilan dan sebaiknya belajar memasukkan AI ke dalam proses kreatif mereka.
