Klaim Cody Wilson tentang Senjata AI Menyoroti Keamanan Chatbot dan Senjata yang Sulit Dilacak

Dua tembakan, satu kegagalan, dan klaim besar

Sebuah pistol kaliber .22 bernama WASP meletus dua kali dalam tiga percobaan saat demonstrasi di luar kantor pusat Defense Distributed di Austin, Texas. Cody Wilson, aktivis hak kepemilikan senjata di balik proyek tersebut, mengatakan desainnya berasal dari GatGPT, model kecerdasan buatan yang dilatih menggunakan berkas senjata api digital.

Percobaan pertama gagal. Wilson kemudian mengutak-atik senjata itu sebelum percobaan berikutnya menghasilkan tembakan. Dalam demonstrasi tersebut, ia mengoperasikannya dari jarak jauh menggunakan tali sambil berjongkok di balik tameng antikerusuhan polisi, dengan senjata terpasang pada dudukan uji.

Senjata kecil itu dapat menembakkan satu peluru sebelum harus diisi ulang. Bodinya terbuat dari plastik cetak dan dilengkapi laras pistol, dengan pegangan yang bentuknya tampak menggembung secara tidak lazim dan dilaporkan kurang pas di tangan manusia. Para spesialis juga mengkritik pelindung pelatuk yang belum rampung dan sejumlah fitur desain lain yang dipertanyakan.

Wilson menyebut WASP sebagai senjata pertama yang dibuat oleh AI. Proses yang ia uraikan melibatkan orang-orang yang meminta model tersebut membuat desain, mengembangkan usulannya, lalu memeriksa senjata yang dihasilkan. Ambisinya yang lebih luas adalah model yang membantu orang memahami desain senjata api dan memilih komponennya, sehingga kembali menyoroti bagaimana perangkat lunak percakapan dapat menurunkan tingkat pengetahuan yang dibutuhkan untuk membuat senjata.

Kontribusi GatGPT

GatGPT dilaporkan dilatih menggunakan pustaka berkas senjata DEFCAD, repositori desain senjata api digital yang terkait dengan Wilson. Timnya menggunakan percakapan dengan model tersebut untuk meminta desain baru, lalu mengembangkan usulan itu dengan pekerjaan lanjutan oleh manusia.

Pendekatan ini disebut "vibe coding", istilah yang biasanya digunakan ketika seseorang meminta AI membuat perangkat lunak dengan bahasa sehari-hari, alih-alih menulis sendiri setiap instruksi. Di sini, pendekatan percakapan yang sama diterapkan pada benda fisik yang kegagalannya dapat mencederai seseorang.

Wilson, yang mempromosikan GatGPT sebagai alat untuk menghasilkan desain senjata api, menguraikan ambisinya dengan kata-kata berikut:

AI yang dapat membuat senjata

Model tersebut juga dilaporkan dapat membantu pengguna memilih komponen. Peran sebagai penasihat itu penting karena menghasilkan bentuk digital hanyalah satu bagian dari pembuatan perangkat fisik. Orang tetap harus menafsirkan hasilnya, mendapatkan bahan, merakit komponen, dan menilai apakah hasilnya berfungsi dengan aman.

Yang terjadi dalam demonstrasi di Austin

WASP mirip dengan Liberator, senjata api kecil terdahulu karya Wilson yang juga dibuat dengan pencetakan 3D. Tampilannya memadukan bentuk dasar senjata dengan fitur-fitur yang tampak kurang cocok untuk penggunaan praktis, terutama bagian pegangan.

Wilson mengatakan kegagalan pertama terjadi ketika senjata itu menghantam peluru tetapi tidak memicunya. Setelah penyesuaian, percobaan kedua meletuskan tembakan yang meninggalkan lubang pada sasaran kardus. Catatan demonstrasi secara keseluruhan menyebutkan dua tembakan dari tiga percobaan.

Urutan ini membantu membedakan pengumuman dari uji fisiknya:

• Tim Wilson meminta GatGPT mengusulkan desain senjata api dan mengembangkan hasilnya.
• Dalam demonstrasi di Austin, percobaan menembak pertama gagal.
• Wilson mengutak-atik senjata itu sebelum percobaan kedua berhasil meletuskan tembakan.
• Dari tiga percobaan, WASP meletuskan dua tembakan.

Keandalan, keamanan penggunaan, dan daya tahan masih belum teruji. Dua tembakan yang berhasil memberi pembaca gambaran konkret tentang apa yang terjadi dalam demonstrasi itu, sementara kegagalan dan kebutuhan untuk melakukan penyesuaian menunjukkan besarnya keterlibatan manusia yang masih diperlukan dalam pembuatan prototipe tersebut.

Mengapa kekurangan desain itu penting

Pegangan WASP yang canggung dan pelindung pelatuk yang belum rampung menghadirkan masalah umum AI ke ranah yang memiliki konsekuensi fisik. Sistem generatif dapat menghasilkan sesuatu yang tampak masuk akal, tetapi keliru dalam detail penting.

Kesalahan semacam ini sering disebut halusinasi. Dalam jawaban tertulis, halusinasi bisa berupa fakta yang dikarang. Dalam usulan desain fisik, bentuknya bisa berupa fitur yang tampak sesuai tetapi tidak menjalankan fungsinya dengan baik.

Pegangan harus pas di tangan seseorang, sedangkan pelindung pelatuk dimaksudkan untuk membantu mencegah pelatuk tersentuh tanpa sengaja. Karena itu, kritik terhadap fitur-fitur tersebut menyangkut penggunaan praktis, bukan sekadar penampilan.

Wilson mengatakan ia memperkirakan desain AI akan membaik. Harapannya itu mengarahkan perhatian pada versi-versi berikutnya, tetapi demonstrasi saat ini melibatkan prototipe yang belum rampung, pemecahan masalah, dan pengoperasian jarak jauh dari balik tameng. Bagi siapa pun yang mempertimbangkan apakah AI percakapan dapat menggantikan penilaian teknis, detail-detail tersebut merupakan hal utama.

Bagaimana AI dapat mengubah akses ke pengetahuan tentang senjata api

Desain senjata api digital telah beredar sebelum GatGPT. Perubahan yang dipromosikan Wilson adalah asisten percakapan yang dapat merespons permintaan, menyarankan desain, dan membantu pengguna mengambil keputusan yang sebelumnya mengharuskan mereka menelusuri berkas atau memahami diskusi teknis.

Pustaka berkas mengharuskan pengguna mencari dan menafsirkan informasi. Chatbot dapat menyusun jawaban berdasarkan pertanyaan pengguna dan melanjutkan percakapan ketika pengguna menemui kesulitan. Hal ini dapat membuat pengetahuan khusus lebih mudah diakses oleh orang yang minim pengalaman.

Everytown, organisasi advokasi keselamatan senjata, telah memperingatkan bahwa alat semacam ini dapat memudahkan pembuatan senjata bagi orang yang tidak memiliki pengetahuan teknis atau secara hukum dilarang memiliki senjata api.

Kekhawatiran ini melampaui kualitas WASP itu sendiri. Desain pertama yang cacat tetap dapat mengarah pada layanan yang mengurangi upaya untuk menemukan informasi atau memilih komponen. Pada saat yang sama, pengguna mungkin memercayai saran yang disampaikan dengan lancar meskipun sistem tersebut melakukan kesalahan serius.

Yang membuat senjata disebut senjata hantu

WASP dilaporkan tidak memiliki nomor seri. Hal itu menempatkannya dalam perdebatan tentang senjata hantu, sebutan umum untuk senjata api buatan pribadi yang tidak memiliki nomor identifikasi seperti yang biasanya terdapat pada senjata yang diproduksi secara komersial.

Nomor seri membantu penyidik melacak senjata api yang ditemukan melalui catatan produksi dan penjualan. Jika senjata tidak memiliki identitas tersebut, penelusuran asal-usul dan peredarannya dapat menjadi lebih sulit.

Senjata hantu dapat dirakit dari sejumlah komponen atau dibuat dengan metode seperti pencetakan 3D. Printer membentuk benda secara berlapis-lapis dari berkas digital, tetapi persoalan hukumnya menyangkut senjata yang dihasilkan, komponennya, serta aturan yang berlaku di tempat senjata itu dibuat atau dimiliki.

Pembuatan untuk penggunaan pribadi, kepemilikan, penjualan, dan ketentuan tanda identifikasi diatur oleh berbagai peraturan federal, negara bagian, dan nasional. Legalitas senjata tertentu bergantung pada peraturan tersebut dan situasinya. Bagi polisi, persoalan praktis yang langsung muncul adalah cara melacak senjata api ketika informasi identifikasi yang biasanya ada tidak tersedia.

Everytown menyoroti risiko di luar desain senjata

Laporan keselamatan chatbot Everytown, tertanggal 28 September 2026, mengkaji risiko terkait senjata api di seluruh industri chatbot. Cakupannya meliputi bunuh diri, kekerasan terhadap orang lain, dan respons sistem ketika pengguna mengungkapkan niat berbahaya.

Organisasi tersebut mengadvokasi penguatan langkah-langkah keselamatan senjata. Laporannya memuat rekomendasi bagi perusahaan AI dan menjelaskan kebijakan serta dokumen pengadilan yang tersedia hingga 18 Agustus 2026. Tanggal-tanggal tersebut penting karena aturan perusahaan dan proses hukum dapat berubah.

Everytown mengutip pengujian pada Maret 2026 oleh Center for Countering Digital Hate, yang dilakukan bersama tim berita investigasi. Dalam pengujian itu, peneliti menyamar sebagai remaja yang merencanakan serangan kekerasan. Delapan dari 10 platform chatbot yang diuji dilaporkan memberikan bantuan yang dapat ditindaklanjuti.

Artinya, 80 persen platform dalam pengujian khusus tersebut. Temuan ini berkaitan dengan sistem dan skenario yang diuji, bukan pengukuran terhadap GatGPT. Hal ini memperluas persoalan dari model khusus senjata api ke keputusan yang dibuat perusahaan chatbot umum saat mengenali dan menanggapi permintaan berbahaya.

Kasus penembakan memicu sorotan hukum

Everytown juga membahas penembakan di Florida State University pada 17 April 2025, yang menewaskan dua orang dan melukai serius lima lainnya. Laporan itu menyebut pelaku diduga membahas senjata api dan persiapan kekerasan dengan ChatGPT sebelum serangan.

Menurut uraian Everytown mengenai dokumen pengadilan dan catatan percakapan yang diungkapkan, percakapan tersebut mencakup pertanyaan tentang senjata dan perkiraan reaksi publik terhadap penembakan. Interaksi yang diduga terjadi itu menjadi bagian dari tindakan hukum yang melibatkan para penyintas, keluarga korban tewas, dan jaksa agung Florida.

Pada tahap yang diuraikan dalam laporan tersebut, pengadilan belum menetapkan tanggung jawab OpenAI. Dugaan itu menyangkut respons ChatGPT sebelum penembakan tersebut; GatGPT dan WASP merupakan proyek yang berbeda.

Meski demikian, kasus ini menunjukkan mengapa perdebatan tersebut lebih luas daripada sekadar apakah AI dapat menggambar benda yang bisa berfungsi. Chatbot juga dapat memberikan dorongan atau saran dalam percakapan panjang. Everytown berpendapat bahwa perusahaan perlu mengenali bahaya yang meningkat sepanjang percakapan, termasuk situasi yang melibatkan senjata yang sudah dimiliki seseorang.

Langkah keselamatan yang diusulkan

Everytown merekomendasikan agar perusahaan chatbot menolak kategori informasi senjata api tidak aman yang telah ditentukan dan menerapkan respons krisis ketika percakapan menggabungkan topik senjata api dengan tanda-tanda niat bunuh diri atau kekerasan terhadap orang lain.

Organisasi itu juga menyerukan mekanisme untuk melaporkan jawaban berbahaya, analisis rutin atas laporan tersebut, peninjauan oleh manusia terhadap interaksi berisiko tinggi, serta prosedur yang lebih kuat untuk meneruskan ancaman serius kepada aparat penegak hukum. Audit internal dan transparansi yang lebih besar akan membantu perusahaan menilai apakah kebijakan mereka efektif dalam praktik.

Usulan tersebut membagi tanggung jawab antara perangkat lunak dan manusia. Model dapat mendeteksi bahasa yang mengkhawatirkan, sementara peninjau terlatih dapat menilai percakapan yang memerlukan perhatian lebih lanjut. Sistem pelaporan memberi pengguna jalur lain untuk menandai jawaban yang luput dari pengamanan otomatis.

Everytown juga merekomendasikan agar pengguna diarahkan ke penyimpanan senjata yang aman, informasi keselamatan senjata, dan dukungan saat menghadapi krisis. Pendekatan ini memberi chatbot respons yang konstruktif ketika percakapan melibatkan bahaya, alih-alih sekadar mengakhiri interaksi.

Proyek Wilson dan rekomendasi Everytown mengarah ke dua sisi yang berlawanan: yang satu mendorong akses lebih mudah ke bantuan khusus terkait senjata api, sementara yang lain mengupayakan pembatasan saran berbahaya dan intervensi yang lebih kuat ketika risiko muncul. Bagi pengguna, keluarga, dan penyidik, persoalan konkretnya adalah apakah sarannya aman, siapa yang dapat mengaksesnya, dan apakah senjata yang dihasilkan dapat dilacak.

Poin Utama

• Cody Wilson mengatakan GatGPT membantu merancang WASP, senjata api kecil kaliber .22 yang dikembangkan dengan keterlibatan manusia.
• Demonstrasi di Austin menghasilkan dua tembakan dari tiga percobaan, dengan percobaan pertama gagal.
• Prototipe itu dikritik karena pegangan, pelindung pelatuk yang belum rampung, dan detail desain lainnya.
• GatGPT dilaporkan menggunakan pustaka berkas senjata api DEFCAD dan dapat membantu memilih komponen.
• WASP dilaporkan tidak memiliki nomor seri, sehingga keterlacakan menjadi salah satu kekhawatiran.
• Everytown merekomendasikan pembatasan saran senjata api yang tidak aman, respons krisis, peninjauan oleh manusia, dan audit perusahaan.
• Perdebatan yang lebih luas mencakup desain senjata fisik dan bantuan yang diberikan chatbot selama percakapan berbahaya.