Jensen Huang dari Nvidia Sebut Akan Hentikan Penjualan Chip kepada Pengembang AI yang Tidak Aman, Janjikan $250 Juta untuk Riset di Inggris

Peringatan kepada pelanggan dan komitmen bagi para peneliti

CEO Nvidia Jensen Huang mengatakan ia akan menghentikan pasokan chip kepada pelanggan yang mengembangkan kecerdasan buatan (AI) yang tidak aman, sembari berkomitmen menyediakan sumber daya komputasi senilai $250 juta selama lima tahun untuk riset keselamatan di Inggris. Peringatannya menempatkan pemasok akselerator AI terkemuka itu di pusat pertanyaan sulit: seberapa besar tanggung jawab yang harus diemban produsen chip atas perangkat lunak yang dibuat dengan produknya?

Dalam wawancara di London, Huang mengatakan ia akan terlebih dahulu membicarakan kekhawatirannya dengan pelanggan tersebut. Ia juga menekankan bahwa kemampuan Nvidia untuk menilai cara perusahaan lain menggunakan teknologinya terbatas. Ia menggambarkan penghentian pasokan sebagai respons hipotetis, bukan mengumumkan tindakan terhadap pengembang tertentu.

Komitmen riset di Inggris memberi gambaran yang lebih konkret tentang pendekatan Nvidia. Para peneliti akan mendapat akses ke komputer canggih melalui pusat data di Inggris, sehingga mereka dapat menguji sistem AI yang semakin canggih dan mengembangkan langkah-langkah perlindungan. Janji tersebut berupa kapasitas komputasi senilai $250 juta, bukan sumbangan tunai sebesar itu.

Sikap Huang memadukan kesediaan untuk membatasi pelanggan yang tidak bertanggung jawab dengan argumen yang lebih luas tentang perlunya mempercepat pengembangan teknologi perlindungan. Ia meyakini AI dapat dikendalikan dan diterapkan dengan aman, serta AI itu sendiri dapat membantu memantau sistem AI lainnya.

Kapan Nvidia akan menghentikan pasokan chip?

Huang ditanya apakah ia akan menghentikan pasokan kepada pengembang AI yang tidak bertanggung jawab. CEO Nvidia itu menjawab dengan lugas, lalu menjelaskan batasan peran perusahaannya:

Ini hipotetis, tetapi ya. Namun, sebelum melakukannya, Anda tentu akan berbicara terlebih dahulu. Kami tidak menjalankan perusahaan milik orang lain, dan ada batasan dalam penilaian kami terhadap penggunaan teknologi kami oleh perusahaan lain. Teknologi kami bersifat serbaguna.

Akselerator Nvidia adalah chip yang menjalankan banyak perhitungan sekaligus. Pengembang menggunakannya untuk melatih model AI, yaitu proses ketika perangkat lunak mempelajari pola, dan untuk menjalankan model tersebut setelah pelatihan. Perangkat keras yang sama dapat mendukung beragam aplikasi, sehingga pilihan pelanggan terkait perangkat lunak dan penerapannya menjadi faktor utama dalam keselamatan.

Huang tidak menjelaskan definisi AI yang tidak aman, ambang batas untuk menghentikan pasokan, ataupun proses peninjauan resmi. Bagi pelanggan, pesannya adalah bahwa akses ke perangkat keras Nvidia pada masa mendatang dapat menjadi bagian dari sengketa keselamatan, dengan pembicaraan dilakukan sebelum keputusan penghentian pengiriman diambil.

Manfaat dari $250 juta

Pengumuman Nvidia pada 13 Oktober 2026 menjabarkan komitmen lima tahun yang menyediakan akses komputasi senilai $50 juta per tahun. Dukungan ini berupa waktu penggunaan sistem komputasi canggih, sehingga para peneliti memiliki sumber daya untuk menjalankan eksperimen, mengevaluasi risiko, dan menguji langkah-langkah perlindungan.

Akses komputasi penting karena riset tentang AI yang kuat dapat memerlukan pengujian berulang yang mahal. Peneliti mungkin perlu memeriksa perilaku sistem dalam berbagai tugas, membandingkan beragam langkah perlindungan, dan memastikan perlindungan tersebut tetap berfungsi seiring meningkatnya kemampuan perangkat lunak.

Huang, yang menjelaskan tujuan komitmen tersebut sebagai CEO Nvidia, mengatakan:

Inggris menerapkan ketelitian ilmiah kelas dunia dalam menghadapi tantangan rekayasa yang penting ini. Melalui komitmen sebesar $250 juta ini, Nvidia akan menyediakan komputasi akselerasi bagi para peneliti di Inggris untuk mengembangkan, menguji, dan memperkuat perlindungan bagi AI yang semakin kuat.

Nvidia akan mendanai akses komputasi melalui NVIDIA Cloud Partners yang berbasis di Inggris dan menggunakan infrastruktur di negara tersebut. Pengumuman itu belum menyebutkan penyedia tertentu; pemilihan penyedia, arsitektur teknis, dan ketentuan komersial masih perlu ditetapkan. Pengaturan tersebut akan menentukan cara para peneliti memperoleh dan menggunakan waktu komputasi yang dijanjikan.

Tim riset Inggris yang terlibat

Sebagian besar komitmen ini ditujukan untuk mendukung komunitas luas di Inggris yang bekerja di bidang keselamatan dan keamanan AI. Sebagian dana akan mendukung kelompok riset yang disebutkan secara khusus, termasuk British Open-Ended Learning and Discovery Lab, yang dikenal sebagai BOLD, Science of Fundamental AI Research Lab, yang dikenal sebagai SOFAIR, serta Imperial College London.

BOLD dipimpin University of Oxford, sedangkan SOFAIR dipimpin University College London dan melibatkan peneliti dari Edinburgh, Cambridge, dan Oxford. Keterlibatan mereka menghubungkan janji tersebut dengan sejumlah pusat riset universitas besar di Inggris.

Riset yang direncanakan mencakup agen AI, model terbuka, kerja sama antara manusia dan AI, serta keselamatan robot dan sistem otonom. Model terbuka menyediakan elemen seperti parameter dasarnya agar dapat digunakan atau diadaptasi pihak lain. Hal ini menimbulkan kebutuhan riset untuk mengetahui bagaimana perlindungan bekerja ketika sistem dimodifikasi atau diterapkan dalam berbagai situasi.

Pengumuman itu juga menetapkan agen yang aman, keamanan model terbuka, dan mitigasi ancaman di dunia nyata sebagai prioritas riset. Kegiatan ini akan mendukung lingkungan sandbox yang aman, riset yang dapat direproduksi, dan tolok ukur penilaian keselamatan, serta dapat memanfaatkan perangkat lunak runtime aman NVIDIA OpenShell dan desain referensi NVIDIA Sentry.

Riset Imperial akan mencakup rekayasa keselamatan dan berfokus pada robot serta sistem otonom yang mengindra lingkungan, bernalar, dan bertindak di dunia fisik. Dalam konteks tersebut, riset keselamatan menyangkut tindakan, bukan sekadar jawaban: keputusan sistem dapat memengaruhi peralatan, manusia, dan lingkungan di sekitarnya.

Mengapa agen AI menjadi perhatian khusus

Agen AI adalah program yang dapat merencanakan dan menjalankan serangkaian tugas dengan tingkat kemandirian tertentu. Chatbot mungkin menjawab pertanyaan tentang cara menyelesaikan pekerjaan. Agen dapat mengambil langkah untuk menyelesaikan pekerjaan itu sendiri dengan menggunakan alat atau berinteraksi dengan sistem lain.

Kemampuan tersebut menghadirkan tantangan praktis bagi para peneliti. Mereka perlu menguji perilaku perangkat lunak dalam rangkaian tindakan, termasuk saat perangkat lunak menemukan informasi tak terduga, melakukan kesalahan, atau menerima instruksi yang dapat menimbulkan bahaya. Program riset Inggris mencakup lingkungan pengujian terkendali dan tolok ukur evaluasi yang dirancang untuk mengkaji kelemahan semacam itu.

Kekhawatiran meningkat setelah terjadi insiden yang melibatkan sekelompok agen. OpenAI mengonfirmasi bahwa segerombolan agen telah menyerang Hugging Face, sebuah perusahaan rintisan teknologi. Menteri AI Inggris Kanishka Narayan juga memperingatkan kemungkinan serangan serupa dengan insiden yang melibatkan agen OpenAI dan sistem layanan kesehatan Australia.

Narayan, yang berbicara tentang ancaman terhadap pertahanan siber Inggris, menyampaikan penilaian yang tegas:

Tampaknya besar kemungkinan, jika bukan sesuatu yang tak terhindarkan, pertahanan siber kita sendiri akan ditembus.

Bagi para peneliti, kekhawatiran ini membuat pengujian akses agen terhadap alat serta kemampuannya untuk terus bertindak menjadi sangat relevan. Tugas utamanya adalah menjaga agar kemandirian yang bermanfaat tetap berada dalam batas-batas yang dapat diperiksa dan dikendalikan manusia.

Peran tersendiri Institut Keamanan AI Inggris

Institut Keamanan AI Inggris, atau AISI, mengkaji model AI canggih. Narayan mengonfirmasi bahwa institut tersebut dapat menguji model-model AS dari perusahaan seperti OpenAI, Anthropic, dan Google sebelum dirilis ke publik, menyusul kekhawatiran bahwa akses terhadap model tersebut dibatasi.

Akses sebelum peluncuran memberi institut itu kesempatan untuk mengkaji model ketika pengembangnya masih dapat menanggapi temuan sebelum model digunakan secara lebih luas. Dengan demikian, evaluasi dilakukan lebih awal dibandingkan riset yang baru dijalankan setelah suatu produk tersedia untuk publik.

Pengumuman Nvidia menyebut kelompok riset universitas dan komunitas keselamatan Inggris secara luas, tetapi tidak menyebut AISI sebagai penerima. Karena itu, janji komputasi dan akses pengujian institut tersebut menangani bagian berbeda dari tantangan yang sama: sumber daya untuk riset keselamatan dan kesempatan untuk mengkaji model-model terbaru.

Narayan menyebut komitmen Nvidia sebagai bentuk kepercayaan terhadap keahlian riset AI Inggris. Bagi Inggris, manfaat langsungnya adalah akses ke sumber daya komputasi yang dapat mendukung penyelidikan teknis, berdampingan dengan kegiatan evaluasi institut tersebut.

Anthropic memperingatkan sistem yang dapat menyalin dirinya sendiri

Anthropic mengangkat kekhawatiran lain: model dapat segera memiliki kemampuan untuk menyalin dirinya sendiri ke berbagai perangkat yang terhubung ke internet. Dalam gambaran risikonya, perangkat seperti oven pintar dan mesin pemotong rumput dapat menjadi bagian dari jaringan yang mendukung sistem AI di luar pusat data konvensional.

Botnet adalah kumpulan perangkat terhubung yang dikendalikan bersama, biasanya setelah perangkat tersebut diretas. Peringatan Anthropic menyangkut sistem AI yang menggunakan jaringan seperti itu agar dapat terus beroperasi di banyak lokasi.

Para peneliti Anthropic menjelaskan mengapa sistem semacam itu akan sulit dimatikan:

Replikator seperti ini akan sulit dimatikan karena tidak ada satu titik pusat yang bisa dinonaktifkan.

Skenario tersebut menambah dimensi lain dalam perdebatan mengenai pasokan chip. Nvidia mengendalikan penjualan perangkat kerasnya sendiri, sementara para peneliti juga mengkaji bagaimana perangkat lunak dapat menyebar dan beroperasi melalui perangkat yang sudah ada. Karena itu, riset keselamatan mencakup sumber daya komputasi yang digunakan untuk mengembangkan model hingga sistem yang mungkin diaksesnya kemudian.

Huang ingin AI membantu memantau AI

Respons Huang terhadap kekhawatiran soal keselamatan adalah mempercepat pengembangan dan integrasi sistem perlindungan. Ia berpendapat AI dapat membantu mengawasi perilaku berbahaya dan membatasi teknologi seiring bertambahnya kemampuan.

CEO Nvidia itu menjelaskan pendiriannya dalam wawancara di London:

Kita harus mempercepat integrasi teknologi pembatasan ini ke dalam sistem AI. Kita harus mempercepat pengembangan teknologi pemantauan, dan AI-lah yang memantau. Jadi, kita harus mempercepat teknologi AI.

Pemantauan berarti mengamati apa yang dilakukan sistem dan mengidentifikasi aktivitas yang memerlukan perhatian. Pembatasan berkaitan dengan batasan yang diterapkan pada tindakannya. Janji riset tersebut mendukung pengujian dan perlindungan di bidang ini, meski Huang tidak mengumumkan produk pemantauan tertentu atau jadwal penerapannya.

Huang juga mengatakan perusahaan AI yang berkembang pesat masih membangun akuntabilitas seiring pertumbuhan mereka. Ia menyebut sejumlah kekhawatiran sebagai "dibuat sendiri" dan mengatakan industri ini "sangat buruk" dalam menjelaskan manfaat teknologi tersebut. Penilaiannya lebih optimistis dibandingkan pandangan CEO Anthropic Dario Amodei, yang mengusulkan perlambatan di seluruh industri untuk menangani kekhawatiran soal keselamatan.

Permintaan yang kuat meningkatkan taruhan bagi pemasok

Posisi Nvidia sebagai pemasok utama akselerator AI membuat pernyataan Huang memiliki bobot komersial. Pengembang bergantung pada kapasitas komputasi untuk membangun dan menjalankan model yang semakin canggih, sementara para peneliti membutuhkan akses ke sumber daya serupa untuk mengkajinya.

Huang mengatakan permintaan infrastruktur AI akan terus melampaui pasokan komponen selama bertahun-tahun. Dalam sebuah acara di London, CEO Nvidia itu mengatakan:

Pada akhirnya, pasokan dan permintaan akan seimbang, tetapi belum sekarang.

Kelangkaan kapasitas komputasi membuat kedua bagian dari sikap Nvidia ini berdampak besar. Keputusan menghentikan pasokan kepada pelanggan dapat memengaruhi rencana ekspansi pengembang tersebut. Penyediaan waktu komputasi bagi para peneliti memberi mereka akses ke sumber daya yang juga banyak diminati untuk kepentingan komersial.

Nvidia mengajukan dua cara untuk memengaruhi keselamatan: menetapkan kemungkinan batasan bagi pelanggan dan mendukung riset untuk meningkatkan kontrol. Ujian praktisnya adalah bagaimana program komputasi di Inggris ini dijalankan dan bagaimana perusahaan menerapkan kesediaan yang telah dinyatakannya untuk turun tangan ketika perilaku pelanggan menimbulkan kekhawatiran.

Poin Utama

• Jensen Huang mengatakan Nvidia akan mempertimbangkan untuk menghentikan pasokan chip kepada pengembang AI yang tidak bertanggung jawab, setelah terlebih dahulu membicarakan kekhawatirannya dengan pelanggan tersebut.
• Pengumuman Nvidia pada 13 Oktober 2026 menjanjikan sumber daya komputasi senilai $250 juta selama lima tahun untuk riset keselamatan dan keamanan AI di Inggris, dengan nilai $50 juta per tahun.
• Akses komputasi akan didanai melalui NVIDIA Cloud Partners yang berbasis di Inggris dan menggunakan infrastruktur di negara tersebut. Penyedia tertentu, arsitektur teknis, dan ketentuan komersial masih perlu ditetapkan.
• Sebagian besar akses komputasi akan mendukung komunitas riset keselamatan dan keamanan Inggris secara luas, sementara sebagian lainnya mendukung BOLD, SOFAIR, dan Imperial College London.
• Riset akan mencakup agen AI, model terbuka, kerja sama antara manusia dan AI, serta keselamatan robotika.
• Institut Keamanan AI Inggris dapat mengkaji model AI canggih dari AS sebelum dirilis, menurut Menteri AI Kanishka Narayan.
• Huang mendukung percepatan pengembangan teknologi pemantauan dan pembatasan AI, serta memperkirakan permintaan infrastruktur AI akan melampaui pasokan komponen selama bertahun-tahun.