Moonshot Merilis Bobot Kimi K3.1 Pro, Huawei dan Alibaba Tambahkan Dukungan untuk Penerapan

Model dengan 2,8 triliun parameter kini dapat dijalankan di luar API

Moonshot AI telah merilis seluruh bobot Kimi K3.1 Pro di Hugging Face, sehingga pengembang dan perusahaan dapat menjalankan model multimodal andalannya di infrastruktur komputasi sendiri. Pengumuman itu disampaikan pada dini hari di Beijing, 5 November, setelah model tersebut diperkenalkan pada 24 Oktober 2026 dan tersedia melalui produk Kimi serta antarmuka pemrograman aplikasi atau API-nya.

K3.1 Pro memiliki 2,8 triliun parameter, yakni pengaturan numerik yang menyimpan apa yang telah dipelajari model. Dengan desain mixture of experts, sekitar 104 miliar parameter diaktifkan pada setiap langkah inferensi, alih-alih menggunakan seluruh model sekaligus. Model ini mendukung konteks sekitar satu juta token dan dapat memahami informasi visual selain teks.

Huawei Ascend dan Alibaba Cloud sama-sama mengumumkan dukungan pada hari perilisan bobot. Penerapan mereka menggunakan kerangka kerja inferensi vLLM dan SGLang, yaitu perangkat lunak yang mengelola cara model terlatih memproses permintaan. Bagi perusahaan yang mempertimbangkan penerapan lokal, perilisan ini menyediakan bobot yang dapat diunduh sekaligus langkah awal untuk menjalankannya di sistem akselerator buatan China.

Dalam pengumuman peluncuran model Moonshot yang diperbarui pada 24 Oktober, perusahaan menyatakan bahwa seluruh bobot akan dirilis paling lambat 4 November; pengumuman perilisan publik menyusul pada 5 November. Moonshot sebelumnya telah membuka akses melalui kimi.com, Kimi App, Kimi Work, Kimi Code, dan Kimi API.

Perubahan praktisnya adalah kendali atas lokasi model dijalankan. Pelanggan API mengirimkan permintaan ke layanan penyedia. Organisasi yang menerapkan bobotnya dapat mengoperasikan model di infrastruktur yang mereka kelola, dengan tunduk pada lisensi Moonshot dan kebutuhan perangkat keras yang besar untuk menjalankannya.

Moonshot juga memperkenalkan Kimi Hosted Agents, layanan terkelola untuk menjaga agen AI tetap berjalan saat mengerjakan tugas berdurasi panjang. Secara bersama-sama, pengumuman ini menawarkan dua pilihan berbeda bagi perusahaan: mengelola model sendiri atau menyerahkan lebih banyak pekerjaan operasional kepada Kimi.

Apa yang baru, dan apa yang diwarisi dari K3?

Kimi K3.1 Pro dikembangkan dari basis K3 melalui pelatihan tambahan, bukan dengan memulai dari fondasi yang baru dilatih. Moonshot mengatakan telah meningkatkan sumber daya komputasi secara signifikan untuk pembelajaran penguatan, proses yang memberi penghargaan atas tindakan yang berhasil dan membantu model berkembang melalui percobaan berulang.

Moonshot menerapkan pelatihan tersebut pada ratusan bidang tugas, dengan perhatian khusus pada pemrograman, pembuatan 3D, riset keuangan, dan agen yang menyelesaikan pekerjaan melalui banyak langkah. Perubahan rekayasa mereka mencakup perangkat lunak pelatihan, pemrosesan konteks panjang, penjadwalan, serta lingkungan sandbox tempat kode yang dihasilkan dapat dijalankan.

Jendela konteks sekitar satu juta token diwarisi dari K3. Token adalah potongan-potongan yang digunakan model untuk membagi teks dan masukan lainnya. Jendela konteks yang lebih besar memungkinkan lebih banyak dokumen, instruksi, dan percakapan sebelumnya tetap tersedia saat permintaan diproses.

Urutan perilisan ini memisahkan akses ke layanan dari akses ke model itu sendiri:

• 16 Juli 2026: Kimi K3 diperkenalkan, menurut perbandingan model yang dipublikasikan.
• 24 Oktober 2026: Moonshot memperkenalkan K3.1 Pro melalui produk dan API-nya, dengan bobot dijadwalkan rilis paling lambat 4 November.
• 5 November: Moonshot mengumumkan perilisan bobot dan Kimi Hosted Agents; Huawei dan Alibaba mengumumkan dukungan penerapan.

Bobot terbuka disertai persyaratan operasional dan lisensi

Bobot tersebut memungkinkan organisasi dengan kapasitas komputasi yang memadai untuk mengunduh dan menjalankan K3.1 Pro secara mandiri. Perusahaan dapat mengonfigurasi sistem penyajian model sendiri, menghubungkannya dengan alat internal, serta mengembangkan adaptasi khusus sesuai lisensi yang berlaku.

Moonshot menggunakan lisensi khusus yang mengatur penggunaan komersial. Perilisan ini mencakup bobot model, sementara kode pelatihan dan dataset pelatihan asli tidak dipublikasikan. Dengan demikian, pengembang mendapatkan model terlatih dengan izin yang ditetapkan dalam ketentuan Moonshot, bukan paket pelatihan lengkap menurut definisi Open Source Initiative.

Ukuran model tetap menjadi pertimbangan operasional utama. Meskipun hanya sebagian jaringan mixture of experts yang aktif pada setiap langkah, penerapan tetap memerlukan akses ke seluruh kumpulan bobot. Permintaan yang panjang juga menghasilkan banyak data perhatian sementara yang harus disimpan selama model bekerja.

Huawei membagi beban memori ke berbagai sistem Ascend

Huawei mengatakan tim Ascend menyelesaikan adaptasi pada hari bobot K3.1 Pro tersedia, sehingga validasi penerapan dapat segera dilakukan. Dukungan mencakup sistem Atlas 800 A3, Atlas 900 A3 SuperPod, dan Ascend 950 supernode melalui vLLM Ascend dan SGLang.

Adaptasi tersebut menangani arsitektur perhatian hibrida model, termasuk perhatian sparse dan pemrosesan multimodal. Perhatian adalah mekanisme yang membantu model menentukan bagian masukan mana yang penting untuk langkah berikutnya. Perhatian sparse membatasi sebagian koneksi tersebut untuk mengurangi beban pemrosesan masukan yang sangat panjang.

Ascend menggunakan caching terdistribusi untuk membagi data model sementara ke beberapa unit pemrosesan neural atau NPU, sehingga mengurangi tekanan memori pada tiap akselerator. Huawei juga menjelaskan perubahan pada operasi matematika inti yang mengurangi penyalinan dan komputasi yang tidak perlu.

Operator penerapan dapat memuat bobot asli atau menggunakan presisi bit yang lebih rendah untuk komponen model yang berbeda, serta kuantisasi cache perhatian. Kuantisasi menyimpan angka dengan bit yang lebih sedikit sehingga kebutuhan memori berkurang. Huawei mengatakan implementasi ini mempertahankan caching awalan, yang menggunakan kembali masukan berulang; prefill bertahap, yang memproses prompt panjang dalam beberapa bagian; serta inferensi spekulatif, yang mempercepat pembuatan keluaran dengan memeriksa token yang diusulkan secara berkelompok.

Alibaba menawarkan jalur lain melalui platform SuperPoD

Alibaba Cloud mengatakan Lingjun Zhenwu M890 SuperPoD telah menyelesaikan adaptasi dan validasi di seluruh tumpukan perangkat lunak pada vLLM dan SGLang. Dukungan juga mencakup konfigurasi Zhenwu 810E, sehingga model ini memiliki opsi penerapan lain pada akselerator buatan China.

Alibaba Cloud, T-Head, dan tim Kimi bekerja sama mengembangkan tumpukan perangkat lunak T-Head SAIL, termasuk FlashMLA, operasi mixture of experts DeepGEMM, MegaMoE, dan MoonEP. Komponen-komponen ini menangani perhitungan perhatian serta distribusi pekerjaan di antara para ahli dan akselerator. Pelanggan dapat menerapkan model melalui instans SuperPoD bare metal khusus atau layanan REIN Alibaba, sementara akses API juga tersedia melalui platform AI Qwen.

Alibaba membuka uji coba dengan undangan untuk wilayah SuperPoD di Zhongwei, Ningxia, bersamaan dengan tersedianya instans pada hari peluncuran di Zhongwei dan Ulanqab. Konfigurasi Zhongwei menambahkan kartu jaringan Panmai 920 dari T-Head, yang menurut Alibaba mendukung PCIe 5.0, Ethernet PAM4 112G, throughput hingga 400 gigabit per detik, serta 400 juta paket per detik.

Rincian jaringan tersebut penting karena model sebesar ini harus memindahkan informasi dengan cepat di antara prosesor. Alibaba mengatakan switch PCIe terintegrasi pada kartu itu dapat mengurangi biaya sistem sekitar 30%. Perusahaan juga menyebut M890 SuperPoD melayani lebih dari 100 pelanggan besar dan memperkirakan penerusnya, V900, akan memiliki kinerja sekitar tiga kali lipat dari generasi saat ini; angka tersebut merupakan perkiraan perusahaan.

Hasil pemrograman menunjukkan peningkatan dalam pengerjaan berkelanjutan

Moonshot melaporkan skor 65,7% pada Terminal-Bench 4.0, yang menguji agen dalam tugas terminal di lingkungan komputasi nyata dengan batasan sumber daya. Perbandingan yang dipublikasikan menunjukkan GPT-6 Astra meraih 58,2% dan Claude Opus 5.5 meraih 66,4%, sehingga dalam pengujian tersebut K3.1 Pro terpaut 0,7 poin persentase dari yang terakhir.

Skor internal Kimi Code Bench 3.0 Long-horizon milik perusahaan naik dari 55,95% untuk K3 menjadi 61,2% untuk K3.1 Pro, meningkat 5,25 poin persentase. Pengujian ini berfokus pada perencanaan, penggunaan alat, dan penyelesaian masalah rekayasa melalui banyak langkah.

Evaluasi independen memberikan sudut pandang lain. Artificial Analysis mencatat kenaikan Intelligence Index dari 44 menjadi 55 dan hasil Terminal-Bench sekitar 67% untuk K3.1 Pro dibandingkan 13% untuk K3. Evaluasi terminal tersebut menggunakan kerangka kerja agen yang berbeda dari Moonshot, sehingga skornya menggambarkan pengaturan operasional yang berbeda.

Demonstrasi Moonshot menyoroti ketekunan selain kemampuan menghasilkan kode. Dalam salah satu uji internal, model mengerjakan simulasi berjalan yang dibuat dari 296 komponen rangka dan 402 komponen otot. Menurut perusahaan, dalam 167 tugas dan 420 peninjauan independen, model meningkatkan durasi berjalan terus-menerus tubuh simulasi menjadi 11,2 detik dan memperbaiki 36 kesalahan dalam perhitungan otot bahu.

Evaluasi Plotly terpisah melaporkan 42 jawaban benar dari 43 untuk K3.1 Pro, dibandingkan 35 untuk K3, dengan biaya lebih tinggi dan median waktu penyelesaian lebih lama. Karena itu, pembuatan token yang lebih cepat dan jawaban yang lebih baik dapat berjalan beriringan dengan waktu tunggu lebih panjang hingga tugas selesai.

Pembuatan 3D dan keuangan mendapat peningkatan khusus

K3.1 Pro meraih skor 92,7% dengan alat bantu pada BenchCAD, menurut Moonshot. Tolok ukur ini meminta model merekonstruksi objek 3D dari berbagai tampilan dengan menghasilkan kode desain berbantuan komputer. Dalam perbandingan perusahaan, Claude Opus 5.5 meraih 96,2% dan GPT-6 Astra 95,9%.

Moonshot mengatakan model ini dapat menulis dan menjalankan skrip untuk perangkat pemodelan profesional, termasuk Blender dan perangkat lunak CAD. Contohnya mencakup mesin turbofan FreeCAD yang berisi 2.100 objek solid dan lampu yang dirancang dalam lima bagian untuk pencetakan 3D. Situs web dan aplikasi Kimi juga menawarkan 3D Make untuk melihat pratinjau, menyunting, dan mengekspor model.

Pekerjaan keuangan juga menjadi sasaran utama. Moonshot melaporkan skor 64,4 pada OfficeQA Pro v2, yang menguji analisis dokumen keuangan nyata melalui penelusuran informasi, pemeriksaan lintas dokumen, dan penalaran numerik. Evaluasi internal mereka menunjukkan pemodelan keuangan meningkat 14%, riset keuangan 20%, dan operasi bisnis simulasi mencapai sekitar 4,2 kali skor K3.

Perbandingan yang dipublikasikan menyertakan angka dasar untuk dua pengujian tersebut: Financial Research meningkat dari 58,8 menjadi 70,4, sementara Business Operation naik dari 8,9 menjadi 37,0. Bagi pengguna bisnis, manfaat yang dituju adalah model yang dapat menuntaskan tugas mulai dari mencari informasi hingga melakukan perhitungan dan menghasilkan lembar kerja atau riset akhir.

Moonshot mempublikasikan dua hasil berbeda terkait kesalahan faktual

Pengumuman peluncuran Moonshot menyebut tingkat kesalahan klaim faktual tunggal pada Kimi Hallu Bench Hard turun dari 23,4% untuk K3 menjadi 8,3% untuk K3.1 Pro; panduan API-nya memberikan hasil uji tekanan berbeda, yakni turun dari 23,35% menjadi 6,85% pada percakapan anonim yang ditandai pengguna karena kesalahan faktual.

Kedua halaman tersebut juga memberikan angka berbeda pada tingkat jawaban. Pengumuman peluncuran menyebut proporsi jawaban yang mengandung setidaknya satu kesalahan faktual sekitar 42,4% dari tingkat K3, sementara panduan API menyebut sekitar 46,4%. Moonshot belum menjelaskan hubungan antara kedua evaluasi tersebut.

Kedua uraian itu membahas contoh sulit yang dipilih karena model rentan membuat kesalahan. Dalam penerapan keuangan dan bisnis, perhitungan, sitasi, serta pernyataan faktual tetap perlu diperiksa terhadap catatan sumber sebelum hasilnya ditindaklanjuti.

Perbandingan independen juga mencatat penurunan kecil pada salah satu pengujian konteks panjang: AA-LCR v1.1 turun dari 88,7% untuk K3 menjadi 86,3% untuk K3.1 Pro. Organisasi yang memproses dokumen panjang perlu mempertimbangkan akurasi penelusuran informasi selain kapasitas konteks model yang tidak berubah.

Agen terkelola dan akses API menawarkan kompromi berbeda

Kimi Hosted Agents menyediakan kerangka operasional, yang kerap disebut harness, di sekeliling model AI. Kerangka tersebut mengelola alat, eksekusi kode, konteks, izin, dan pemulihan saat tugas terhenti. Moonshot mengatakan layanan ini mendukung operasi sepanjang waktu, tugas berdurasi panjang, dan kolaborasi banyak agen.

Moonshot menyebut pemantauan internal dan respons operasional sebagai contoh penggunaan potensial, di samping asisten riset untuk pelanggan dan layanan dukungan. Perusahaan yang menggunakan layanan terkelola menentukan tugas dan menghubungkan alat, sementara Kimi memelihara runtime yang mendasarinya. Perusahaan yang menjalankan bobot sendiri bertanggung jawab atas pengaturan penyajian dan operasionalnya.

Bagi pelanggan API, panduan memulai cepat API Moonshot mensyaratkan pengisian saldo setidaknya 10 yuan untuk membuka akses K3.1 Pro. Voucher 15 yuan untuk pengguna baru terdaftar tidak dapat digunakan untuk model ini. Panduan tersebut menyediakan pengaturan penalaran low, high, dan max, dengan max sebagai bawaan, serta pilihan retensi cache lima menit atau satu jam.

Moonshot juga menawarkan K3.1 Pro Highspeed, yang menurut perusahaan menghadirkan kecerdasan setara dengan kecepatan keluaran sekitar dua hingga tiga kali lebih tinggi. Perbandingan yang dipublikasikan mencantumkan tarif standar masukan dan keluaran masing-masing $2 dan $10 per satu juta token, turun dari $3 dan $15 untuk K3, atau berkurang sepertiga sebelum biaya cache dan biaya lain yang berlaku. Total pengeluaran tetap bergantung pada jumlah token dan interaksi alat yang digunakan suatu tugas.

Pengembang perlu memperhatikan beberapa persyaratan integrasi khusus: pesan asisten yang lengkap harus dipertahankan selama pemanggilan alat, masukan visual memerlukan data base64 atau pengenal berkas yang diunggah alih-alih URL gambar publik, dan panduan tersebut menyarankan agar alat pencarian web tidak digunakan dalam produksi selama alat itu diperbarui.

Poin Utama

• Moonshot mengumumkan bobot Kimi K3.1 Pro pada 5 November setelah akses lebih dahulu melalui produk dan API.
• Model ini memiliki total 2,8 triliun parameter, sekitar 104 miliar parameter aktif per langkah inferensi, dan konteks sekitar satu juta token.
• Huawei Ascend dan Alibaba Cloud mengumumkan dukungan penerapan melalui vLLM dan SGLang.
• Moonshot melaporkan peningkatan dalam pemrograman, pemodelan 3D, dan keuangan, dengan hasil yang berbeda menurut tugas dan metode evaluasi.
• Penerapan mandiri membutuhkan sumber daya komputasi besar dan kepatuhan terhadap lisensi khusus Moonshot.
• Kimi Hosted Agents menawarkan alternatif terkelola untuk menjalankan tugas berdurasi panjang dan mengoordinasikan banyak agen.