Kimi K2 Thinking dari China Memacu AI Sumber Terbuka, Ungguli GPT 5 dalam Pengujian Utama

Model terbuka yang tangguh menantang model-model terdepan

Moonshot AI telah merilis Kimi K2 Thinking, model dengan bobot terbuka yang secara langsung menyasar jajaran tertinggi sistem penalaran. Perusahaan menyatakan model ini mengungguli sistem proprieter terkemuka dalam berbagai evaluasi berat yang mengukur penalaran bertahap, agen penelusuran web, dan rekayasa perangkat lunak. K2 Thinking tersedia melalui platform Moonshot dan Kimi.com, sementara bobot modelnya dipublikasikan di hub publik untuk dihosting sendiri dengan Lisensi MIT yang Dimodifikasi. Lisensi ini mengizinkan penggunaan komersial dengan kewajiban atribusi ringan untuk penerapan berskala sangat besar.

Desain model ini memadukan skala dengan efisiensi. K2 Thinking menggunakan arsitektur Mixture of Experts dengan total satu triliun parameter, sementara hanya sekitar 32 miliar parameter yang aktif untuk setiap token yang dihasilkan. Model ini mendukung jendela konteks 256.000 token dan dilatih untuk inferensi INT4 native menggunakan pelatihan yang mempertimbangkan kuantisasi. Konfigurasi tersebut mengurangi latensi dan kebutuhan memori, yang membantu menjelaskan harga kompetitifnya. Selain skor mentah, peluncuran ini mendorong model terbuka menuju perilaku agen. K2 Thinking menunjukkan perencanaan jangka panjang dan penggunaan alat terstruktur dalam 200 hingga 300 panggilan berurutan, serta dapat menghasilkan jejak penalaran yang transparan agar pengguna bisa memeriksa langkah-langkah antara. Kemampuan tersebut, ditambah biaya yang lebih rendah, meningkatkan tekanan terhadap pesaing tertutup.

Apa itu K2 Thinking dan cara kerjanya

K2 Thinking dibangun sebagai transformer Mixture of Experts. Sekumpulan besar modul pakar khusus berada di balik sebuah router yang memilih sejumlah kecil modul untuk setiap token. Ini mengurangi komputasi sekaligus mempertahankan kapasitas. Moonshot menjelaskan bahwa model ini memiliki 61 lapisan, 384 pakar, delapan pakar yang dipilih untuk setiap token, 64 kepala atensi, dimensi tersembunyi 7168, dan ukuran kosakata 160.000. Hanya sekitar 32 miliar parameter yang aktif pada satu waktu, sehingga inferensi tetap mudah dikelola meski kapasitas totalnya sangat tinggi. Mekanisme atensinya dijelaskan sebagai multi head latent attention dengan aktivasi SwiGLU. Pendekatan ini memusatkan pelatihan dan inferensi pada pakar yang paling relevan dengan konten dalam konteks, sehingga meningkatkan throughput dan akurasi.

Pakar sparse dan efisiensi

Mixture of Experts memungkinkan model berkembang hingga satu triliun parameter tanpa mengharuskan semua parameter bekerja untuk setiap token. Dalam praktiknya, ini berarti model dapat menunjukkan penalaran yang lebih mendalam dan cakupan pengetahuan yang lebih luas, sementara jejak memori dan waktu pemrosesan per langkah tetap berada dalam jangkauan akselerator saat ini. Jendela konteks 256 ribu token memungkinkan model memproses basis kode besar atau kumpulan materi riset yang panjang, lalu merencanakan banyak langkah saat memanggil alat. Desain ini sangat cocok untuk tugas agen, ketika sebuah sistem mungkin perlu mencari, membaca, menulis, dan memverifikasi hasil melalui puluhan atau ratusan tindakan.

INT4 native dan pelatihan yang mempertimbangkan kuantisasi

Moonshot melatih K2 Thinking dengan metode yang mempertimbangkan kuantisasi agar model dapat berjalan secara native dalam INT4 untuk penyimpanan bobot dan inferensi. INT4 menggunakan empat bit untuk setiap nilai parameter, bukan format berpresisi lebih tinggi, sehingga mengurangi kebutuhan memori dan mempercepat pembuatan keluaran. Perusahaan melaporkan peningkatan kecepatan generasi sekitar dua kali lipat dengan kehilangan kualitas minimal dibandingkan format berpresisi lebih tinggi, dan semua skor tolok ukur dilaporkan menggunakan INT4. Hal ini penting bagi biaya dan jangkauan. Penguji dari komunitas melaporkan bahwa model ini dapat dijalankan pada sistem desktop kelas atas, sementara Moonshot merekomendasikan mesin seperti vLLM, SGLang, dan KTransformers. Model ini juga mendukung API yang kompatibel dengan OpenAI dan Anthropic, sehingga integrasi lebih mudah bagi tim yang sudah menggunakan pola tersebut.

Tolok ukur yang menempatkan K2 Thinking di posisi teratas

Dalam berbagai pengujian publik, model ini mencatat hasil yang menempatkannya di antara sistem penalaran terbaik yang tersedia, dan meraih posisi teratas dalam beberapa pengujian. Angka yang dilaporkan mencakup 44,9 persen pada Humanity’s Last Exam dengan alat aktif, 23,9 persen dalam pengaturan teks saja, dan 51,0 persen dalam pengaturan berat; 60,2 persen pada BrowseComp untuk agen penelusuran web; 71,3 persen pada SWE Bench Verified untuk perbaikan bug perangkat lunak dengan alat; 83,1 persen pada LiveCodeBench v6; dan 56,3 persen pada Seal 0. Dalam matematika dan sains, model ini meraih 94,5 persen pada AIME25 tanpa alat, 99,1 persen pada AIME25 saat diizinkan menjalankan Python, 89,4 persen pada HMMT25 tanpa alat, serta sekitar 85 hingga 86 persen pada tes pengetahuan ilmiah GPQA Diamond. Skor yang dilaporkan lainnya meliputi 87,0 pada Frames, 47,4 pada FinSearchComp T3, dan 61,1 pada SWE Multilingual. Dalam banyak kategori ini, K2 Thinking menyamai atau melampaui GPT 5, sementara skor BrowseComp-nya unggul jauh dari Claude Sonnet 4.5.

Tugas pencarian dan penelusuran berbasis agen

BrowseComp menguji kemampuan model untuk merencanakan, menelusuri web, mengikuti tautan, merangkum temuan, dan memverifikasi jawaban. Skor BrowseComp K2 Thinking sebesar 60,2 persen melampaui hasil 54,9 persen yang dilaporkan untuk GPT 5 dan jauh mengungguli Claude Sonnet 4.5 yang meraih 24,1 persen. Model ini juga mencatat angka kuat pada Seal 0 dan Frames, yang mengukur pengumpulan informasi, perencanaan, dan konsistensi saat menggunakan alat. Hasil ini sejalan dengan sasaran desain model. Penalaran berselang memungkinkan model berhenti sejenak, berpikir, memanggil alat, lalu memperbarui rencana. Dukungan untuk 200 hingga 300 panggilan berurutan membantu mempertahankan konteks sepanjang banyak langkah, sementara jendela konteks yang besar menjaga materi kerja tetap berada dalam memori.

Pemrograman dan rekayasa perangkat lunak

SWE Bench Verified mengevaluasi kemampuan model membaca isu repositori, membuat patch, dan meluluskan tes. K2 Thinking melaporkan skor 71,3 persen dengan alat, hasil yang kuat untuk sistem dengan bobot terbuka. Pada LiveCodeBench v6, model ini meraih 83,1 persen, sedangkan pada SWE Multilingual skornya 61,1 persen. Demo komunitas menunjukkan bahwa model ini dapat membuat proyek fungsional dari satu prompt, termasuk gim dan aplikasi web lengkap, lalu menyempurnakannya melalui perbaikan berulang dengan pemanggilan alat. Konteks panjang membantu navigasi kode, sementara inferensi INT4 menekan latensi selama sesi pengembangan yang panjang.

Harga, akses, dan lisensi

K2 Thinking dirilis dengan Lisensi MIT yang Dimodifikasi. Penggunaan komersial diizinkan, dan penerapan berskala sangat besar harus mencantumkan atribusi ringan. Model ini tersedia untuk obrolan di Kimi.com dan dapat diakses melalui API di Kimi Open Platform. Untuk dihosting sendiri, tim dapat memperoleh bobot model dari hub model publik seperti Hugging Face di huggingface.co/moonshotai/Kimi-K2-Thinking, sementara dokumentasi platform tersedia di platform.moonshot.ai.

Harganya dirancang untuk lebih murah daripada alternatif tertutup. Moonshot mencantumkan harga sekitar 0.15 dolar per satu juta token untuk cache hit, sekitar 0.60 dolar per satu juta token untuk cache miss, dan sekitar 2.50 dolar per satu juta token untuk keluaran. Sebagai perbandingan, harga GPT 5 sekitar 1.25 dolar per satu juta token masukan dan 10 dolar per satu juta token keluaran. Dukungan INT4 native pada K2 Thinking menurunkan biaya komputasi, sementara konfigurasi Mixture of Experts memastikan hanya sebagian jaringan yang berjalan pada satu waktu. Di Kimi.com, mode obrolan standar menggunakan seperangkat alat terbatas agar pengalaman lebih ringan. Karena itu, hasil di situs mungkin tidak sebanding dengan tolok ukur agen sampai peluncuran mode Agent selesai.

Arti pentingnya bagi persaingan AI

Model terbuka semakin mendekati sistem tertutup terbaik. Kemenangan K2 Thinking dalam berbagai tolok ukur menandakan bahwa riset terbuka kini mampu bersaing di level tertinggi dalam penalaran, pemrograman, dan tugas agen. Hal ini menekan vendor proprieter untuk membedakan diri melalui keandalan, perangkat keselamatan, dukungan perusahaan, dan produk terintegrasi, bukan hanya skor utama. Bagi perusahaan, bobot terbuka memberi kendali atas data, kepatuhan, dan cakupan penerapan. Bagi pengembang, model ini menawarkan cara untuk bereksperimen dengan perilaku agen tingkat lanjut tanpa membayar tarif premium untuk setiap token.

Kehadiran AI China yang kian besar

Laboratorium di China bergerak lebih cepat dan semakin mendominasi perbincangan. Nama-nama seperti DeepSeek, Qwen, MiniMax, dan Kimi mulai mencuri perhatian dengan peluncuran yang berlangsung secara konsisten. Model MiniMax sebelumnya menetapkan laju tolok ukur terbuka dan acuan biaya yang lebih rendah. Kini K2 Thinking melangkah lebih jauh dalam penalaran jangka panjang dan perangkat agen. Para analis menyoroti bahwa tim-tim China mempercepat siklus umpan balik, mengandalkan penskalaan waktu pengujian, dan memanfaatkan frekuensi peluncuran sebagai keunggulan, meskipun beberapa tugas masih lebih mengunggulkan sistem tertutup terbaik. Persaingan juga bergeser dari obrolan menuju kecerdasan agen, yakni kemampuan sistem untuk merencanakan, menggunakan alat, dan menyelesaikan tujuan yang kompleks. K2 Thinking secara khusus dirancang untuk menghadapi pergeseran tersebut.

Kemampuan dan contoh di dunia nyata

Demo Moonshot dan pengujian pengguna menyoroti kemampuan model ini dalam menyelesaikan tugas panjang. Dalam salah satu demonstrasi, sistem menangani soal matematika tingkat doktoral dengan membaca makalah, mengambil rumus, menjalankan kode Python, dan memverifikasi hasil melalui lebih dari dua puluh langkah penalaran dan penggunaan alat sebelum memberikan solusi akhir. Demo lain menunjukkan model melakukan serangkaian pencarian untuk mengidentifikasi aktor Jimmy Gary Jr. dan memastikan peran film tertentu, tugas yang memerlukan pemeriksaan sumber secara saksama di banyak halaman web. Dalam sesi pemrograman, para penguji melaporkan bahwa K2 Thinking dapat membuat gim bergaya Space Invaders yang berfungsi hanya dalam satu kali proses, lalu menyempurnakannya melalui pemanggilan alat secara berulang. Penguji lain memperlihatkan model ini menyusun situs web lengkap, membangun komponen front-end, bahkan meniru antarmuka bergaya desktop untuk menangani berkas dan menu.

Pengalaman para pengembang

Penguji independen di forum pengembang menggambarkan keseimbangan antara kecepatan dan kendali. Seorang pengguna berpengalaman menjalankan model ini dengan perangkat keras yang tersedia bagi konsumen dan melaporkan kinerja stabil dalam rangkaian alat yang panjang serta prompt besar. Pengulas tersebut menambahkan bahwa jalur INT4 native meningkatkan kecepatan dengan kualitas yang tetap stabil.

Dalam pengujian saya, model ini menangani hingga 300 panggilan alat berurutan tanpa kehilangan koherensi, peningkatan besar dibandingkan model-model sebelumnya.

Penguji yang sama menyebutkan jendela konteks 256 ribu token yang mampu menangani proyek kode besar, kemampuan pemrograman multibahasa, dan peningkatan praktis dalam tugas front-end. Throughput yang dilaporkan pada mesin desktop kelas atas mencapai puluhan hingga ratusan token per detik, bergantung pada pengaturannya. Dengan demikian, siklus agen terasa cukup responsif untuk pekerjaan pengembangan.

Pandangan pakar

Nathan Lambert, peneliti AI yang mengikuti perkembangan model terbuka dan sistem agen, menilai K2 Thinking sebagai titik balik bagi model dengan bobot terbuka di tingkat performa tertinggi. Ia juga menyoroti cepatnya peluncuran dari laboratorium berbasis di China.

Peluncuran ini dinilai sebagai pencapaian model terbuka yang paling mendekati performa model tertutup terdepan.

Lambert juga menyoroti keunggulan kecepatan dalam merilis sistem dan iterasi baru di sisi terbuka, meskipun model tertutup masih unggul di beberapa bidang.

Model terbuka dirilis lebih cepat. Laboratorium di China merilis model mereka jauh lebih cepat daripada laboratorium Barat.

Hal yang masih perlu dibuktikan K2 Thinking

Keunggulan dalam tolok ukur tidak berarti unggul di semua aspek dalam lingkungan produksi. Sebagian pengguna melaporkan penurunan kemampuan mengingat sesekali dalam konteks yang sangat panjang, sebuah tantangan umum bagi sistem dengan konteks besar. Tolok ukur juga berbeda dalam anggaran alat yang diizinkan dan batas token penalaran, sehingga perbandingan bisa bergantung pada seberapa besar penskalaan waktu pengujian yang digunakan tiap tim. Menjalankan ratusan panggilan alat dalam satu sesi juga menimbulkan tantangan dalam penyediaan layanan, karena penyedia perlu menangani lebih banyak status, panggilan jaringan, dan log yang lebih besar.

Perusahaan akan mencermati stabilitas antarversi, keterulangan hasil dengan pengaturan tetap, dan perangkat keselamatan yang sesuai dengan alur kerja yang sudah ada. Keluaran jejak penalaran merupakan langkah yang bermanfaat karena memungkinkan tim memeriksa langkah-langkah antara. Namun, operator juga perlu menentukan seberapa banyak proses berpikir yang dicatat dan kapan konten sensitif harus disamarkan. Terakhir, desain terbuka model ini mendorong iterasi komunitas yang cepat. Ini merupakan keunggulan, tetapi juga berarti akan muncul banyak varian dengan kompromi berbeda dalam hal kecepatan, penggunaan memori, dan kualitas. Hasil awalnya menjanjikan, dan pengujian berkelanjutan di berbagai bahasa, bidang, dan perangkat keras akan menunjukkan keunggulan utama K2 Thinking.

Kesimpulan

• Moonshot AI merilis Kimi K2 Thinking dengan bobot terbuka dan Lisensi MIT yang Dimodifikasi, yang mengizinkan penggunaan komersial.
• Model ini menggunakan desain Mixture of Experts dengan total satu triliun parameter dan sekitar 32 miliar parameter aktif untuk setiap token.
• Inferensi INT4 native dari pelatihan yang mempertimbangkan kuantisasi menekan biaya dan latensi sekaligus mempertahankan kualitas.
• K2 Thinking melaporkan skor 44,9 persen pada Humanity’s Last Exam dengan alat dan 60,2 persen pada BrowseComp, mengungguli GPT 5 dalam tes agen tersebut.
• Skor pemrogramannya mencakup 71,3 persen pada SWE Bench Verified dan 83,1 persen pada LiveCodeBench v6.
• Sistem ini mendukung jendela konteks 256 ribu token dan dapat menjalankan 200 hingga 300 panggilan alat berurutan.
• Harganya sekitar 0.15 dolar per satu juta token untuk cache hit, 0.60 dolar untuk cache miss, dan 2.50 dolar untuk keluaran, jauh di bawah tarif GPT 5.
• Akses tersedia di Kimi.com, melalui API di Kimi Open Platform, serta melalui hub publik seperti Hugging Face.
• Model terbuka dari China, termasuk Kimi, DeepSeek, Qwen, dan MiniMax, mendorong peluncuran yang cepat dan skor tolok ukur yang lebih tinggi.
• Hal yang perlu dicermati meliputi keandalan dalam konteks panjang, dukungan hosting untuk siklus alat yang panjang, dan performa di dunia nyata dalam batasan produksi.