Klaim Biaya Pelatihan DeepSeek sebesar $294.000 Dikupas: Mengapa R1 Sebenarnya Menelan Biaya Jutaan Dolar

Mengapa banderol harga $294.000 mengejutkan dunia AI

Ketika DeepSeek menerbitkan makalah yang telah ditelaah sejawat tentang model penalarannya, R1, di Nature, satu angka menarik perhatian dunia: 294.000 dolar. Berbagai judul berita menyiratkan bahwa model andalan tersebut dilatih dengan biaya hanya sebagian kecil dari yang konon dikeluarkan para pesaingnya di AS. Angka itu nyata, tetapi hanya mencakup sebagian kecil dari keseluruhan pekerjaan. Jumlah tersebut mencakup tahap akhir pembelajaran penguatan yang mempertajam penalaran model langkah demi langkah. Angka itu tidak mencakup berbulan-bulan prapelatihan pada model dasar yang jauh lebih besar, yang menjadi tumpuan R1.

Performa R1 bertumpu pada DeepSeek V3, model bahasa besar yang dilatih menggunakan korpus masif dengan klaster komputasi berskala besar. Baru setelah fondasi mahal itu tersedia, tim menjalankan pembelajaran penguatan untuk mengarahkan model agar lebih baik dalam logika dan pemecahan masalah. Kekeliruan menganggap tahap penyempurnaan sebagai keseluruhan proyek itulah yang membuat pos biaya khusus menjadi berita utama.

Perbedaan ini penting. Model yang mampu menyaingi sistem terbaik dalam pemrograman dan matematika tidak muncul hanya dengan beberapa rak cip selama akhir pekan. Prosesnya membutuhkan komputasi berkelanjutan, kurasi data yang ekstensif, eksperimen berulang, pengujian keselamatan dan evaluasi yang cermat, serta tahap optimasi akhir. Makalah Nature membuka jendela berharga untuk melihat tahap terakhir itu. Namun, makalah tersebut tidak menghapus besarnya pekerjaan yang mendahuluinya.

Isi sebenarnya makalah Nature

Materi pelengkap R1 menjelaskan proses pembelajaran penguatan menggunakan 512 GPU Nvidia H800. Dokumen itu menguraikan masa pelatihan awal R1 Zero selama sekitar 198 jam, lalu tambahan 80 jam untuk menghasilkan R1 yang dirilis. Tim juga mencatat sekitar 5.000 jam GPU untuk membuat data preferensi yang digunakan dalam proses tersebut. Jika dihitung dengan tarif sewa yang lazim untuk akselerator kelas H800, total biaya tahap-tahap itu sedikit di bawah 300.000 dolar. Angka itu tidak mencerminkan seluruh waktu dan komputasi yang diperlukan untuk membangun model mutakhir dari awal.

Makalah tersebut juga memperjelas konteks perangkat keras. DeepSeek terutama melatih R1 menggunakan H800, cip yang dirancang Nvidia untuk China setelah aturan ekspor AS membatasi akses ke akselerator kelas lebih tinggi. Tim mengakui menggunakan GPU A100 untuk pekerjaan persiapan dengan model yang lebih kecil, lalu beralih ke H800 untuk proses utama pembelajaran penguatan R1. Pembaca dapat meninjau rincian teknis dan pos biaya dalam materi yang telah ditelaah sejawat dan diterbitkan jurnal Nature.

Tagihan sebenarnya untuk membangun R1 bermula dari prapelatihan V3

Materi DeepSeek sendiri menunjukkan pos biaya terbesar: prapelatihan model dasar V3 yang menjadi fondasi R1. V3 dilatih menggunakan 2.048 GPU H800 selama sekitar dua bulan. Jangka waktu itu setara dengan kira-kira 2,79 juta jam GPU. Dengan asumsi tarif sewa konservatif sekitar 2 dolar per jam GPU untuk perangkat keras kelas ini, biaya prapelatihan saja mencapai hampir 5,58 juta dolar. Jika ditambah sekitar 294.000 dolar untuk pembelajaran penguatan dan pembuatan data terkait, tagihan komputasi untuk menghasilkan R1 dalam bentuk yang dirilis mendekati 5,87 juta dolar.

Perkiraan ini sejalan dengan penjelasan makalah bahwa biaya R1 sebesar 294.000 dolar merupakan biaya tambahan di luar model dasar. Angka itu juga sesuai dengan analisis pihak luar yang menempatkan skala komputasi total R1 dalam kisaran yang sama dengan model terbuka besar lainnya. Angka tersebut tetap terlihat hemat dibandingkan anggaran yang dirumorkan untuk sistem tertutup terbesar, tetapi jauh dari kesan murah yang ditimbulkan oleh judul berita tentang biaya di bawah 300.000 dolar.

Cara menghitung biaya jam GPU

Jam GPU adalah cara sederhana untuk mengukur komputasi: satu GPU yang beroperasi selama satu jam setara dengan satu jam GPU. Total durasi suatu proses pelatihan adalah hasil kali jumlah GPU dengan jam operasi yang tercatat. Biaya ditentukan oleh harga jam-jam tersebut di pasaran, baik sebagai sewa cloud maupun depresiasi dan pengoperasian perangkat keras milik sendiri. Pengembang yang menyewa lebih dari 2.000 akselerator selama berbulan-bulan membayar tarif per jam. Pengembang yang membeli klaster yang sama harus mengeluarkan modal di muka, lalu membayar listrik, pendinginan, ruang, dan pemeliharaan.

Membeli klaster dengan skala ini akan jauh lebih mahal daripada menyewanya untuk satu kali proses. Menyiapkan 2.048 GPU kelas H800 beserta jaringan dan server akan menelan biaya lebih dari 51 juta dolar berdasarkan harga pasar saat ini. Angka itu belum mencakup waktu kerja para insinyur, lisensi data, tenaga evaluasi, penyimpanan, dan banyak eksperimen gagal sebelum model berhasil dirilis. Angka 5,87 juta dolar paling tepat dipandang sebagai biaya untuk proses besar yang berhasil, bukan biaya penuh penelitian yang membuatnya mungkin.

Pembelajaran penguatan adalah tahap penyempurnaan, bukan keseluruhan pekerjaan

Pembelajaran penguatan mengubah perilaku model yang telah dilatih dengan memberi imbalan atas hasil yang diinginkan. Dalam pengembangan R1, DeepSeek menggunakan teknik yang memberi skor pada jawaban dan mengarahkan model menuju solusi dengan hasil yang benar. Para peneliti menyebut pendekatan ini pembelajaran penguatan murni. Teknik ini tidak memerlukan rangkaian penalaran yang ditulis manusia. Model mengeksplorasi dan menguji jalurnya sendiri, menerima sinyal tentang ketepatan, lalu secara bertahap memperbaiki strategi penalaran internalnya.

Tahap penyempurnaan ini bernilai penting. Tahap tersebut dapat meningkatkan performa dalam matematika, pemrograman, dan tugas ilmiah yang memiliki hasil terverifikasi. Biayanya juga jauh lebih rendah daripada prapelatihan. Bagian terberat tetaplah proses belajar selama berbulan-bulan yang membekali model dasar dengan pengetahuan bahasa dan kemampuan luas. Pembelajaran penguatan kemudian membentuk kemampuan tersebut agar sesuai dengan tujuan tertentu, seperti penalaran bertahap dan penggunaan alat.

Cip, aturan ekspor, dan perangkat yang benar-benar digunakan DeepSeek

DeepSeek melatih modelnya di tengah keterbatasan pasokan cip. Amerika Serikat membatasi ekspor akselerator kelas atas ke China, sehingga H800, versi GPU pusat data Nvidia yang disesuaikan agar memenuhi ketentuan ekspor, muncul dalam berbagai materi DeepSeek. Percakapan di industri menyebut para peneliti di China menemukan cara untuk mengakses cip yang lebih cepat, sementara pernyataan perusahaan ditelaah baris demi baris untuk mencari petunjuk tentang sumber perangkat keras. Namun, yang lebih jelas terkait perhitungan biaya adalah tahap pembelajaran penguatan R1 menggunakan klaster berisi 512 H800, sedangkan pekerjaan persiapan sebelumnya mencakup penggunaan A100.

Dalam dokumen pelengkapnya, tim mengakui hal tersebut. Para peneliti menjelaskan peran A100 dalam tahap persiapan sebelum proses utama R1 dijalankan pada H800.

Para peneliti DeepSeek menulis: "Terkait penelitian kami tentang DeepSeek-R1, kami menggunakan GPU A100 untuk menyiapkan eksperimen dengan model yang lebih kecil."

Rincian ini membantu menjelaskan bagaimana anggaran akhir dan penggunaan campuran cip sama-sama bisa benar. H800 tercatat dalam perhitungan biaya utama pembelajaran penguatan, sedangkan A100 digunakan dalam eksperimen awal yang membentuk pendekatan tersebut.

Apakah DeepSeek jauh lebih murah daripada para pesaingnya di Barat

Total tagihan komputasi yang menghasilkan R1 lebih mendekati 6 juta dolar daripada 300.000 dolar. Jumlah itu tetap hanya sebagian kecil dari pengeluaran ratusan juta dolar yang dirumorkan untuk membangun sistem tertutup terdepan. Skala tersebut juga sebanding dengan model terbuka besar seperti Llama 4 milik Meta jika diukur berdasarkan jumlah akselerator dan durasi pelatihan, meskipun program-program tersebut menggunakan lebih banyak token. Kesenjangan ini menarik, tetapi bukan revolusi yang memangkas biaya seluruh rangkaian proses hingga sepuluh kali lipat.

Salah satu alasan banyak pembaca masih menganggap DeepSeek sebagai pemimpin efisiensi biaya adalah kemampuan timnya memaksimalkan cip di tengah keterbatasan. Perusahaan itu mengembangkan arsitektur mixture of experts yang hanya mengaktifkan sebagian kecil parameter untuk setiap token. Hasilnya, keluaran per jam GPU menjadi lebih tinggi. DeepSeek juga mengandalkan penalaran yang lebih panjang saat inferensi, sehingga sebagian beban beralih dari prapelatihan ke penggunaan selanjutnya.

Para peneliti juga memperdebatkan sumber data dan transfer pengetahuan antarmodel. DeepSeek menggunakan distilasi pada beberapa bagian ekosistemnya, yaitu ketika model yang kuat menghasilkan jawaban untuk mengajari model yang lebih kecil atau lebih murah. Tim tersebut mengatakan model dasar V3 belajar dari penelusuran web yang memuat konten buatan AI, termasuk keluaran dari sistem lain. Makalah itu menggambarkannya sebagai sesuatu yang tidak disengaja, bukan penyalinan jalur penalaran yang disengaja. Perbedaan teknis ini penting bagi pengacara dan pembuat kebijakan, serta bagi pihak yang memperkirakan biaya dan ingin memahami sejauh mana pengembang dapat melangkah dengan lebih sedikit token dan komputasi.

Pendapat para pakar tentang biaya dan akses

Kalangan akademisi mendorong pembacaan yang lebih berimbang terhadap angka-angka DeepSeek. Mereka mengakui kecakapan rekayasa yang nyata, sekaligus mengingatkan agar perbandingan biaya tidak disederhanakan. Anggaran pelatihan yang lebih rendah tetap dapat menguntungkan pasar jika mendorong akses yang lebih murah. Namun, angka utama dalam berita sering kali tidak mencakup biaya tenaga kerja, eksperimen, dan infrastruktur.

Umar Iqbal, asisten profesor ilmu komputer dan teknik di Washington University di St. Louis, berpendapat bahwa penurunan biaya dapat memperluas akses, sembari menyoroti kompromi privasi dan keamanan dalam penggunaan AI berbasis cloud berskala besar.

Iqbal mengatakan: "Agar teknologi dapat digunakan secara luas, teknologi itu harus terjangkau," seraya menambahkan bahwa biaya pengembangan yang lebih rendah dapat memungkinkan lebih banyak eksperimen berskala besar. Namun, ia memperingatkan bahwa layanan AI berbasis cloud menimbulkan pertanyaan serius tentang kendali atas data dan privasi.

Bahkan para pendukung pendekatan teknis DeepSeek mengingatkan bahwa total biaya pelatihan yang banyak dibagikan itu bukan tolok ukur yang lengkap. Mereka menyoroti proses berulang, siklus penyetelan, dan pekerjaan data yang tidak tercakup dalam satu kali proses pelatihan dari awal hingga akhir.

Data, distilasi, dan kemungkinan isi data pelatihan

Distilasi menggunakan respons dari sistem yang lebih kuat untuk membimbing model sasaran. Pengembang dapat menghasilkan jutaan pasangan tanya jawab berkualitas tinggi, jejak kode, atau contoh rangkaian pemikiran, lalu menyempurnakan model agar dapat meniru perilaku tersebut. Metode ini dapat meningkatkan kualitas tanpa mengulang bagian prapelatihan yang paling mahal. Inilah salah satu alasan utama tim yang lebih kecil dapat mendekati atau menyamai kemampuan tertentu dari laboratorium yang lebih besar dalam bidang seperti matematika dan pemrograman.

DeepSeek mengatakan beberapa varian hasil distilasi dalam keluarga modelnya menggunakan sistem sumber terbuka seperti Llama milik Meta. Untuk V3, perusahaan menjelaskan bahwa model tersebut dilatih menggunakan penelusuran web luas yang mencakup banyak jawaban buatan AI. Pendekatan ini memiliki manfaat sekaligus risiko. Cara tersebut dapat mempercepat pembelajaran pola-pola umum, tetapi juga berpotensi membawa masalah lisensi dan kualitas yang tidak diketahui. Makalah Nature mendorong komunitas untuk meminta kejelasan lebih lanjut tentang data yang digunakan pada setiap tahap dan bagian mana dari proses yang mengandalkan label sintetis.

Mengapa judul berita $294.000 menyebar dan mengapa hal itu penting

Angka 294.000 dolar mudah disampaikan dan cukup dramatis untuk menggerakkan pasar. Pada Januari, perilisan awal DeepSeek sudah memicu kekhawatiran bahwa pesaing berbiaya rendah akan menggeser para pemimpin AS. Investor menjual saham perusahaan pembuat cip dan mitra AI. Makalah yang ditelaah sejawat itu menghidupkan kembali tema tersebut melalui satu kalimat sederhana yang menyebar lebih cepat daripada catatan kaki. Banyak pembaca dan sejumlah wartawan menganggap pembelajaran penguatan sebagai keseluruhan ceritanya.

Makalah itu melakukan lebih dari sekadar membangkitkan antusiasme. Publikasi tersebut menetapkan standar transparansi dengan mencantumkan angka pasti dan rincian metode dalam catatan ilmiah yang terbuka untuk umum. Para penelaah mendorong DeepSeek untuk mengurangi bahasa antropomorfis serta memperjelas aspek keselamatan, sumber data, dan komputasi. Hal ini baik bagi sains dan industri. Informasi tersebut membantu komunitas memahami teknik mana yang paling bernilai dan biaya mana yang masih sulit ditekan.

Dampaknya bagi biaya AI dan persaingan

Ekonomi pengembangan model sedang berubah. Setelah bertahun-tahun berfokus pada peningkatan skala, kini banyak tim lebih menekankan penyempurnaan dan memberi model lebih banyak waktu untuk bernalar, alih-alih hanya memperbesar ukuran data dan jumlah parameter. Sebagian beban biaya pun bergeser ke tahap berikutnya, yaitu inferensi, ketika model berpikir lebih lama untuk setiap pertanyaan dan menggunakan lebih banyak komputasi untuk setiap jawaban. Dampak bersihnya tetap bisa berupa akses yang lebih murah bagi pengguna akhir jika peningkatan efisiensi melampaui tambahan waktu penalaran.

Arsitektur mixture of experts DeepSeek, penggunaan pembelajaran penguatan untuk penalaran, dan distilasi selektif merupakan bagian dari pergeseran industri yang lebih luas menuju pengembangan yang lebih modular. Model belajar dari satu sama lain, tim yang lebih kecil membangun di atas model dasar yang lebih besar, dan bobot terbuka memberi perusahaan rintisan langkah awal. Sebuah kajian kebijakan tentang tren ini di Eropa mencatat bahwa pergeseran tersebut dapat membantu perusahaan kecil bersaing, tetapi juga menyulitkan upaya menutup biaya tetap pelatihan dasar. Persaingan harga dapat meningkat, sementara para pengembang mencari cara berkelanjutan untuk memadukan AI dengan produk dan layanan.

Sejumlah peneliti mengingatkan bahwa angka pelatihan yang dipublikasikan kerap tidak mencakup seluruh biaya untuk menghasilkan sistem yang siap digunakan. Mereka menekankan perbedaan antara biaya satu proses akhir yang berhasil dan anggaran penuh yang mencakup pekerjaan data, uji coba yang gagal, evaluasi keselamatan, dan pekerjaan teknik selama berbulan-bulan.

Martin Vechev, direktur institut INSAIT yang berbasis di Swiss, memuji pencapaian teknis tersebut sekaligus mengingatkan agar angka dari satu kali proses tidak dianggap sebagai total biaya.

Vechev mengatakan: "Angka 5 hingga 6 juta dolar itu menyesatkan karena hanya mencakup satu kali proses pelatihan; pengembangan model seperti ini membutuhkan banyak proses dan eksperimen, sehingga biaya sebenarnya jauh lebih tinggi."

Pandangan tersebut sesuai dengan bukti seputar R1. Penghematan besar dalam proyek ini berasal dari pilihan arsitektur yang cerdas dan metode pembelajaran penguatan yang kuat, bukan dengan melewatkan bagian prapelatihan yang mahal. Hasil akhirnya menunjukkan jalur yang kredibel untuk mencapai performa tinggi dengan komputasi lebih rendah daripada beberapa pesaing, tetapi bukan metode yang memangkas biaya pelatihan model terdepan hingga di bawah 300.000 dolar.

Poin-Poin Utama

• Angka 294.000 dolar untuk DeepSeek R1 mencakup pembelajaran penguatan menggunakan 512 GPU H800 dan pembuatan data terkait, bukan pelatihan model secara menyeluruh.
• R1 bergantung pada model dasar V3, yang dilatih menggunakan 2.048 GPU H800 selama sekitar dua bulan, atau kira-kira 2,79 juta jam GPU.
• Perkiraan biaya sewa komputasi menempatkan prapelatihan V3 di angka hampir 5,58 juta dolar, dengan total biaya untuk menghasilkan R1 sekitar 5,87 juta dolar.
• Membeli perangkat keras sebanding akan jauh lebih mahal daripada menyewanya. Klaster kelas 2.000 GPU dibanderol lebih dari 51 juta dolar, belum termasuk biaya operasional.
• DeepSeek menggunakan GPU A100 untuk pekerjaan persiapan, kemudian H800 untuk proses utama pembelajaran penguatan R1.
• Skala komputasi R1 lebih mendekati model terbuka besar lainnya daripada yang disiratkan oleh judul berita awal, meskipun tampak hemat dibandingkan anggaran ratusan juta dolar yang dirumorkan untuk model tertutup.
• Pembelajaran penguatan mempertajam kemampuan penalaran dengan biaya relatif rendah, sementara bagian terberat tetap pada prapelatihan dan pengolahan data.
• Para pakar mengingatkan bahwa angka pelatihan yang diumumkan jarang mencakup biaya penelitian dan pengembangan, persiapan data, serta berbagai proses gagal yang meningkatkan biaya proyek sebenarnya.