Alibaba merilis Qwen3-Next sebagai model AI open source yang lebih cepat, lebih murah, dan dapat dijalankan di perangkat konsumen

Model yang lebih cepat dan murah untuk pengembang dan perusahaan

Alibaba Cloud merilis keluarga model bahasa besar open source dengan arsitektur baru bernama Qwen3-Next. Model utamanya, Qwen3-Next-80B-A3B, memiliki 80 miliar parameter, tetapi mengusung pilihan desain yang memungkinkan sistem berjalan jauh lebih cepat dan dengan biaya jauh lebih rendah dibandingkan model Qwen sebelumnya. Alibaba mengatakan pelatihan model dasar baru ini membutuhkan kurang dari sepersepuluh komputasi yang digunakan untuk Qwen3-32B, pendahulunya dengan arsitektur padat yang dirilis pada April. Sementara itu, seri baru ini menyamai kualitas model Qwen3-235B yang lebih besar milik perusahaan tersebut pada banyak tugas.

Alibaba menyediakan model-model ini secara open source bagi pengembang, dengan akses unduh dan API melalui sejumlah pusat model besar serta layanan cloud miliknya sendiri. Perusahaan memosisikan Qwen sebagai ekosistem pengembang yang berkembang pesat. Strategi ini sejalan dengan langkah lebih luas kelompok-kelompok AI China yang merilis model berkualitas tinggi agar dapat diperiksa dan dikembangkan pihak lain. Langkah tersebut dapat memperluas adopsi tanpa bergantung pada infrastruktur terpusat berskala besar.

Selain klaim efisiensi pelatihan, Qwen3-Next menargetkan kecepatan dan kinerja konteks panjang saat inferensi. Dalam pengujian yang dibagikan Alibaba, arsitektur ini menghasilkan throughput lebih dari 10 kali lebih tinggi untuk prompt yang panjangnya melebihi 32.000 token dibandingkan rilis Qwen sebelumnya. Jendela konteksnya mencapai 256.000 token dan, dalam kondisi tertentu, dapat diperluas hingga 1 juta token. Dengan demikian, model ini lebih mampu menangani dokumen sepanjang buku, repositori kode berukuran besar, dan beban input berat lainnya.

Perubahan di balik layar Qwen3-Next

Generasi ini memperkenalkan beberapa komponen yang mulai menjadi perangkat standar untuk AI tingkat lanjut. Intinya adalah Mixture of Experts (MoE) yang sparse, sebuah desain yang melatih banyak jaringan pakar berukuran kecil, tetapi hanya menggunakan beberapa di antaranya untuk setiap token. Qwen3-Next memadukannya dengan mekanisme atensi hibrida untuk menangani urutan panjang, prediksi multi-token untuk mempercepat proses generasi, serta perbaikan pelatihan untuk mengatasi ketidakstabilan dalam reinforcement learning (RL). Pada model Qwen3-Next-80B-A3B-Base, hanya sekitar 3 miliar parameter yang aktif di setiap langkah, meskipun total parameter model mencapai 80 miliar.

Alibaba mengatakan model dasar ini mencapai kualitas yang serupa dengan, dan terkadang lebih baik daripada, Qwen3-32B berarsitektur padat, dengan penggunaan jam GPU untuk pelatihan kurang dari 10 persen. Saat inferensi, arsitektur ini menjaga penggunaan komputasi tetap rendah tanpa mengorbankan kapasitas. Karena itu, tim tersebut melaporkan peningkatan kecepatan yang signifikan pada konteks panjang serta profil biaya yang lebih baik untuk perangkat keras cloud maupun kelas konsumen.

Mixture of Experts dengan bahasa sederhana

Dalam Mixture of Experts, jaringan mempelajari banyak submodel khusus yang disebut pakar. Modul gerbang ringan menentukan pakar mana yang digunakan untuk setiap token. Qwen3-Next menggunakan tingkat sparsitas tinggi, yang berarti hanya sebagian kecil pakar yang aktif pada satu waktu. Sejumlah laporan menyebutkan 512 pakar, dengan 10 pakar aktif per token pada beberapa lapisan. Dengan demikian, biaya komputasi dan memori untuk setiap proses forward sebanding dengan jaringan padat yang jauh lebih kecil, sementara keseluruhan pakar memberi model kapasitas total yang besar.

Komprominya adalah pelatihan menjadi lebih kompleks dan penjadwalan diperlukan untuk memastikan penggunaan pakar tetap seimbang. Alibaba mengatakan telah mengatasi masalah stabilitas yang kerap muncul saat MoE sparse dipadukan dengan penyetelan halus bergaya RL. Bagi pengembang, hal yang penting adalah biaya runtime meningkat seiring jumlah parameter aktif, bukan jumlah keseluruhan parameter.

Atensi hibrida dan konteks panjang

Lapisan atensi adalah bagian transformer yang memungkinkan model meninjau token input dan menentukan hal yang penting. Atensi standar menjadi mahal ketika input semakin panjang karena biayanya meningkat sebanding dengan kuadrat panjang urutan. Qwen3-Next memadukan atensi standar dengan metode yang memperkirakan konteks secara lebih efisien, yang oleh tim tersebut disebut sebagai kombinasi Gated DeltaNet dan atensi klasik. Hasilnya adalah throughput lebih tinggi pada input panjang dan perlambatan yang lebih kecil saat prompt bertambah panjang. Alibaba melaporkan throughput lebih dari 10 kali lebih tinggi untuk panjang konteks di atas 32.000 token, jendela 256.000 token secara default, serta opsi perluasan hingga 1 juta token untuk kebutuhan khusus. Tim tersebut juga melaporkan peningkatan mendekati skala linear dalam sejumlah kondisi, termasuk proses prefill hingga sekitar 7 kali lebih cepat dan decode sekitar 4 kali lebih cepat pada konteks yang lebih pendek.

Prediksi multi-token dan decoding

Prediksi multi-token berupaya menebak beberapa token berikutnya sekaligus, lalu memperbaikinya jika tebakan keliru. Jika dipadukan dengan speculative decoding, cara ini mengurangi jumlah proses forward yang mahal untuk menghasilkan respons secara bertahap. Qwen3-Next mendukung pendekatan ini dan terintegrasi dengan tumpukan inferensi populer seperti SGLang dan vLLM, sehingga latensi layanan produksi dapat ditekan. Tim tersebut juga menyebut Zero Centered RMSNorm dan pilihan optimasi lain yang menstabilkan pelatihan. Jika dipadukan dengan MoE sparse, hasil akhirnya adalah generasi yang lebih cepat tanpa penurunan kualitas yang besar.

Dua varian model untuk instruksi dan penalaran

Saat peluncuran, Alibaba menyediakan dua model pascapelatihan yang dibangun di atas jaringan dasar. Qwen3-Next-80B-A3B-Instruct ditujukan untuk mengikuti instruksi sehari-hari, percakapan, dan penggunaan alat. Dalam pengujian perusahaan, kinerjanya mendekati model unggulan 235 miliar parameter pada banyak tugas umum dan menunjukkan kemampuan kuat saat prompt memuat konteks sangat panjang, hingga 256.000 token.

Qwen3-Next-80B-A3B-Thinking disetel untuk penalaran kompleks. Alibaba menyoroti skor yang melampaui model Qwen3 kelas menengah miliknya dan mengungguli Gemini 2.5 Flash Thinking, model tertutup, pada sejumlah tolok ukur yang dipilih untuk evaluasi. Perusahaan menyebut hasil 60,8 persen pada SuperGPQA, rangkaian pengujian tingkat pascasarjana yang sulit. Tolok ukur dapat menjadi petunjuk yang berguna, tetapi calon pengguna sebaiknya melakukan pengujian sendiri pada beban kerja khusus bidang, termasuk pemrograman, generasi berbantuan retrieval, matematika, dan perencanaan bertahap.

Kecepatan, biaya, dan kebutuhan perangkat keras

Peningkatan utama yang ditawarkan berkaitan dengan biaya dan waktu. Alibaba mengatakan pelatihan model dasar ini selesai dengan kebutuhan komputasi kurang dari 10 persen biaya komputasi Qwen3-32B. Saat inferensi, hanya sekitar 3 miliar parameter yang aktif per token, sehingga model dapat menjawab dengan tekanan lebih rendah pada memori GPU dan konsumsi energi. Hal ini menghasilkan kebutuhan perangkat keras yang lebih kecil untuk tingkat layanan tertentu, atau throughput permintaan yang lebih tinggi dengan konfigurasi yang sama.

Arsitektur ini unggul untuk prompt panjang. Alibaba melaporkan peningkatan throughput hingga satu orde magnitudo untuk input yang lebih panjang dari 32.000 token serta peningkatan yang solid pada urutan lebih pendek, termasuk proses prefill sekitar 7 kali lebih cepat dan decode sekitar 4 kali lebih cepat dalam sejumlah pengujian. Dengan jendela 256.000 token, analis dapat memasukkan seluruh kontrak, transkrip, atau berkas kode besar dalam satu permintaan, lalu meminta model merangkum, membandingkan, atau membuat perubahan. Perusahaan menekankan bahwa seri baru ini dioptimalkan agar berjalan baik di perangkat keras kelas konsumen, sehingga prototipe tingkat lanjut tidak lagi membutuhkan klaster besar.

Ketersediaan dan akses

Model-model Qwen3-Next dirilis agar dapat diakses secara luas. Model tersebut tersedia di pusat model umum seperti Hugging Face dan ModelScope, serta melalui Alibaba Cloud Model Studio untuk penerapan terkelola. Pengguna dapat mengakses endpoint yang dihosting atau mengunduh bobot model untuk inferensi lokal. Seri ini juga tersedia melalui NVIDIA API Catalog, dan beberapa variannya dicerminkan di Kaggle agar lebih mudah diuji coba.

Rilis ini hadir bersama perangkat pendukung seperti Qwen3-ASR-Flash, komponen transkripsi ucapan yang menurut tim tersebut mendukung 11 bahasa utama. Alibaba mendorong pengembang untuk meninjau ketentuan lisensi setiap model, terutama untuk penggunaan komersial atau dengan lalu lintas tinggi, lalu mengujinya dengan kumpulan data dan beban kerja mereka sendiri. Dukungan untuk kerangka kerja inferensi seperti SGLang dan vLLM, bersama pola aktivasi yang ramah perangkat keras, diharapkan mempercepat peralihan dari demo ke layanan yang andal.

Dampaknya terhadap persaingan AI

Langkah ini menegaskan persaingan yang lebih luas di antara laboratorium global untuk membuat model canggih dapat digunakan secara luas dengan biaya lebih rendah. Perusahaan-perusahaan China gencar mendorong AI open source untuk memperluas adopsi dan mengejar kemampuan para pesaing Barat. Alibaba mengatakan ekosistem Qwen telah menjadi salah satu komunitas open source terbesar bagi pengembang. Grup tersebut juga memperkenalkan Qwen3-Max, model dengan lebih dari 1 triliun parameter yang baru-baru ini menempati peringkat keenam di papan peringkat chatbot LMArena yang dikelola para peneliti. Selain Alibaba, perusahaan seperti DeepSeek dan Meituan juga merilis model dan layanan yang kompetitif.

Model dasar yang lebih murah dan cepat penting karena komputasi terbatas dan mahal. Pembatasan ekspor cip canggih menambah tekanan di China, sementara banyak tim di Amerika Serikat dan Eropa pun menghadapi kelangkaan GPU. Arsitektur yang membuat sebagian besar parameternya tidak aktif saat inferensi membuka peluang bagi laboratorium yang lebih kecil, perusahaan rintisan, dan universitas untuk menjalankan model berkualitas tinggi di server sederhana. Investor turut mencermati perkembangan ini, dengan kinerja saham Alibaba membaik tahun ini seiring perusahaan kembali memusatkan perhatian pada cloud dan AI. Dampak persaingan akan meluas seiring makin banyak organisasi mengadopsi AI open source dalam alur kerja sehari-hari.

Tolok ukur, transparansi, dan evaluasi cermat

Papan peringkat model berguna, tetapi dapat menyamarkan kompromi yang ada. Angka kecepatan bervariasi menurut ukuran batch, kerangka kerja, kuantisasi, dan perangkat keras. Akurasi berbeda-beda menurut bidang, gaya prompt, dan ketersediaan alat seperti interpreter kode atau sistem retrieval. Penyedia juga memilih rangkaian pengujiannya sendiri. Pengujian independen oleh komunitas dan pelanggan biasanya memberikan gambaran yang lebih menyeluruh tentang keunggulan dan kekurangan model.

Tim yang mengevaluasi Qwen3-Next sebaiknya tidak hanya memeriksa satu skor tolok ukur. Ukur akurasi konteks panjang, penggunaan alat, keandalan matematika dan kode, serta perilaku model saat dibatasi oleh persyaratan keselamatan. Pantau penggunaan memori dan throughput pada panjang konteks yang dibutuhkan. Jika aplikasi Anda mengandalkan jawaban yang berlandaskan sumber, padukan model dengan retrieval dan periksa jejak buktinya. Jika membutuhkan rantai penalaran yang konsisten, bandingkan varian Thinking dengan tumpukan yang saat ini digunakan.

Kasus penggunaan dan sektor yang berpotensi diuntungkan

Qwen3-Next tampaknya dirancang untuk aplikasi yang membutuhkan konteks panjang, respons cepat, dan kendali biaya yang ketat. Tim hukum dan keuangan dapat menganalisis kumpulan dokumen besar serta membuat ringkasan khusus yang mempertahankan sitasi. Pengelola dukungan pelanggan dapat menyatukan basis pengetahuan dan panduan pemecahan masalah yang panjang ke dalam satu asisten yang mampu bernalar berdasarkan ribuan halaman. Tim perangkat lunak dapat memasukkan repositori dan log untuk membantu peninjauan kode, refaktorisasi, dan pembuatan pengujian.

Peneliti dapat mengunggah makalah panjang dan kumpulan data untuk membandingkan metode serta hasil. Penyedia media dan pendidikan dapat mentranskripsikan dan menerjemahkan audio dengan Qwen3-ASR-Flash, lalu menggunakan model bahasa untuk membuat panduan belajar atau kerangka konten. Pemerintah dan industri yang diatur ketat serta membutuhkan penerapan lokal dapat memanfaatkan kemampuan menjalankan model canggih di server kelas konsumen, dengan pemantauan cermat, pencatatan audit, dan filter konten.

Kesimpulan

• Alibaba merilis Qwen3-Next dan membuka kode sumber keluarga Qwen3-Next-80B-A3B.
• Pelatihan menggunakan komputasi kurang dari 10 persen dibandingkan Qwen3-32B, dengan hasil yang menyamai atau melampauinya dalam pengujian.
• Berkat Mixture of Experts sparse, hanya sekitar 3 miliar dari total 80 miliar parameter yang aktif untuk setiap token.
• Throughput meningkat lebih dari 10 kali untuk prompt di atas 32.000 token, dengan jendela konteks 256.000 token.
• Dalam kondisi tertentu, konteks dapat diperluas hingga 1 juta token, dengan peningkatan kecepatan prefill dan decode yang dilaporkan pada konteks lebih pendek.
• Dua varian pascapelatihan mencakup kemampuan mengikuti instruksi dan penalaran kompleks; pengujian perusahaan menunjukkan kinerjanya melampaui sejumlah pesaing tertutup.
• Model tersedia di Hugging Face, ModelScope, Alibaba Cloud Model Studio, dan NVIDIA API Catalog.
• Akses open source dan kebutuhan perangkat keras yang lebih rendah memperluas adopsi di kalangan perusahaan rintisan, perusahaan besar, dan kelompok riset.