AX8860P dari Axera menantang DGX Spark dengan komputer AI lokal seharga US$3.999, tetapi klaim performanya berubah

Komputer AI kecil asal China menantang pesaing yang mahal

Sipeed menargetkan harga sekitar US$3.999 untuk komputer MaixStation dengan memori 128 GB, yang menggunakan chip AX8860P buatan produsen chip China, Axera. Mesin yang diusulkan ini hanya berukuran 11 x 11 x 3 cm dan dijanjikan mampu menjalankan model AI besar secara lokal dengan konsumsi daya tipikal 40 watt. Pesaing yang dibidik adalah DGX Spark dari Nvidia, sistem AI ringkas yang dibanderol sekitar US$6.950 untuk konfigurasi 128 GB.

Axera memperkenalkan chip tersebut di pameran industri di Shanghai pada 13 Oktober 2026, saat Sipeed juga mempresentasikan MaixStation. Klaim awalnya mencolok: pemrosesan prompt 25% lebih cepat dan pembuatan jawaban 30% lebih cepat dibandingkan DGX Spark saat menjalankan model Qwen dengan 27 miliar parameter, dengan harga sekitar setengahnya.

Halaman produk MaixStation milik Sipeed kini memberikan gambaran yang lebih terperinci. Halaman itu mencantumkan kecepatan 592 hingga 677 token per detik untuk pemrosesan prompt pada Qwen3.8-27B dan 6 hingga 7 token per detik untuk menghasilkan jawaban. Angka-angka tersebut lebih rendah daripada kisaran yang beredar saat pengumuman, sementara rencana peluncuran resmi menargetkan kampanye Kickstarter pada akhir 2026.

Daya tariknya nyata: kapasitas memori besar dalam komputer kecil dapat memungkinkan pengembang, kantor, dan pengguna perorangan menjalankan model mumpuni tanpa menyewa komputasi cloud atau membeli beberapa kartu grafis. Namun, keputusan pembelian bergantung pada perangkat lunak akhir, performa terukur, dan jadwal pengiriman, selain spesifikasi chip.

Isi AX8860P dari Axera

Seri AX8860 menggunakan proses manufaktur 6 nanometer dan menggabungkan 16 inti CPU Arm Cortex-A55 dengan unit pemrosesan saraf khusus, atau NPU. NPU adalah prosesor yang dirancang untuk menjalankan perhitungan berulang yang digunakan model AI. Axera dan Sipeed menyebut performanya mencapai 256 triliun operasi per detik, yang biasa disingkat 256 TOPS, dengan format FP4.

FP4 menyimpan nilai numerik dengan presisi empat bit. Penggunaan bit yang lebih sedikit mengurangi kebutuhan memori model dan dapat mempercepat perhitungan, meski model dan perangkat lunaknya harus mendukung format tersebut. Angka dari Axera itu mengacu pada komputasi padat, bukan perhitungan yang mengasumsikan sebagian nilai dapat dilewati melalui teknik yang disebut sparsity.

Chip ini mendukung PCIe 5.0 dan antarmuka memori dengan lebar 256 bit. Sipeed menyebut penggunaan memori LPDDR5X-8533, hingga 128 GB per modul, serta bandwidth 273 GB per detik. Modul Maix-V berukuran 78 x 78 mm dan menggunakan konektor LPCAMM2.

Inti Cortex-A55 menangani sistem operasi dan tugas pendukung, sementara NPU ditujukan untuk mengerjakan beban utama AI. DGX Spark dari Nvidia memiliki 20 inti Arm, termasuk inti Cortex-X925 yang lebih bertenaga, sedangkan mesin AMD Ryzen AI Halo pesaingnya menggunakan CPU Zen 5. Karena itu, pengguna yang ingin menggabungkan inferensi AI dengan komputasi konvensional dalam skala besar perlu membandingkan lebih dari sekadar akselerator.

Mengapa kapasitas 128 GB lebih penting daripada angka TOPS utama

Model bahasa membutuhkan memori untuk bobot numeriknya, yang merepresentasikan apa yang dipelajarinya selama pelatihan, serta data kerja yang dibuat saat menjawab permintaan. Akselerator cepat dengan memori terlalu kecil mungkin mengharuskan model dibagi ke beberapa perangkat atau dipindahkan melalui penyimpanan yang lebih lambat.

Konfigurasi 128 GB yang diusulkan untuk MaixStation menempatkannya di kelas kapasitas memori yang sama dengan DGX Spark yang lebih besar. Keduanya mencantumkan bandwidth 273 GB per detik. Seri Ryzen AI Halo dari AMD mencakup konfigurasi 128 GB dengan kecepatan sekitar 256 GB per detik dan versi yang lebih mahal dengan 192 GB pada 273 GB per detik.

Kapasitas menentukan seberapa banyak data yang dapat ditampung. Bandwidth menentukan seberapa cepat informasi dapat dikirim ke prosesor. Dalam proses pembuatan teks biasa oleh model bahasa padat, setiap token baru yang dihasilkan mengharuskan pembacaan data model dalam jumlah besar. Token adalah unit teks kecil, terkadang berupa satu kata dan terkadang hanya sebagian kata.

Karena itu, Sipeed berpendapat bahwa pemanfaatan memori yang efektif dapat membuat prosesornya yang berkapasitas 256 TOPS bersaing dengan angka komputasi Nvidia yang lebih besar. Angka sekitar 1.000 TOPS FP4 pada DGX Spark menggunakan sparsity; angka FP4 padatnya sekitar 500 triliun operasi per detik. Kecepatan aplikasi sebenarnya juga bergantung pada seberapa efisien perangkat lunak memanfaatkan perangkat keras.

Halaman benchmark resmi menunjukkan gambaran yang lebih terbatas

Sipeed memisahkan pengujiannya menjadi prefill, saat model memproses prompt pengguna, dan decode, saat model menghasilkan jawaban. Prefill yang lebih cepat dapat mempersingkat waktu tunggu sebelum jawaban dimulai, terutama untuk dokumen panjang. Decode yang lebih cepat membuat jawaban muncul lebih cepat setelah proses generasi dimulai.

Untuk Qwen3.8-27B dalam format FP4 padat, halaman resmi mencantumkan kecepatan prefill MaixStation sebesar 592 hingga 677 token per detik, dibandingkan 550 pada DGX Spark. Artinya, MaixStation unggul sekitar 8% hingga 23%. Kecepatan decode MaixStation yang tercantum adalah 6 hingga 7 token per detik, tetapi teks grafik resmi yang disediakan tidak mencantumkan angka dasar decode DGX Spark untuk model tersebut.

Untuk Qwen3.6-35B-A3B, model campuran pakar, Sipeed mencantumkan prefill 2.664 hingga 3.256 token per detik, dibandingkan 2.368 pada DGX Spark. Keunggulannya sekitar 13% hingga 38%. Kecepatan decode masing-masing 34 hingga 37 token per detik dan 34 token per detik, sehingga hasilnya berkisar dari imbang hingga unggul sekitar 9%.

Model campuran pakar hanya mengaktifkan sebagian jaringannya untuk setiap token. Ini membantu menjelaskan mengapa kecepatan generasinya bisa jauh lebih tinggi daripada model padat dengan jumlah parameter total serupa. Kedua jenis model tersebut membutuhkan jumlah komputasi yang berbeda untuk setiap token.

Sipeed menyebut hasil yang ditampilkan sebagai pengukuran terkini yang konservatif dan mengatakan AX8860P masih dalam tahap penyetelan. Grafiknya mencantumkan FP4 dengan prediksi multi-token, atau MTP, dinonaktifkan. MTP adalah teknik yang mengusulkan beberapa token berikutnya sekaligus untuk mempercepat generasi.

Mengapa klaim kecepatan sebelumnya perlu dibandingkan dengan cermat

Kisaran benchmark yang sebelumnya diterbitkan Sipeed lebih tinggi: 1.400 hingga 1.600 token per detik untuk prefill Qwen3.8-27B dan 15 hingga 17 token per detik untuk decode, dibandingkan angka dasar DGX Spark masing-masing 1.300 dan 13. Untuk model campuran pakar, kisarannya 6.300 hingga 7.700 untuk prefill dan 80 hingga 88 untuk decode, dibandingkan 5.600 dan 80. Sipeed juga memberikan perbandingan lanjutan yang menunjukkan MaixStation unggul sekitar 10% pada kedua tahap, seraya menyatakan bahwa pengujian lebih baru yang menunjukkan selisih lebih besar bukan hasil resmi.

Angka absolut yang lebih rendah pada halaman resmi membuat kondisi pengujian semakin penting. Panjang prompt, jumlah permintaan yang diproses bersamaan, format numerik, perangkat lunak runtime, dan versi driver dapat memengaruhi hasil. Pengujian independen DGX Spark yang dikutip dalam pemberitaan mencatat sekitar 11,5 hingga 11,6 token per detik untuk Qwen3.8-27B tanpa speculative decoding, sedangkan kecepatan prefill berkisar antara 840 dan 1.900, bergantung pada perangkat lunaknya.

Perhitungan memori sederhana menjelaskan mengapa klaim sebelumnya sebesar 17 token per detik mendapat perhatian. Jika model yang dijalankan menggunakan sekitar 16 GB, membagi 273 GB per detik dengan 16 GB menghasilkan sekitar 17 token per detik sebelum memperhitungkan lalu lintas memori lainnya. Untuk mencapai kecepatan tersebut, bandwidth yang diiklankan harus dimanfaatkan dengan sangat tinggi.

Jejak memori aktual model juga penting. Empat bit dikalikan 27 miliar parameter menghasilkan sekitar 13,5 GB untuk bobot saja, sementara data penskalaan numerik dan penyimpanan lainnya dapat meningkatkan ukuran kerja. Pengujian terperinci dan dapat diulang akan membantu pembeli mengaitkan angka kecepatan dengan konfigurasi model tertentu.

Perangkat ringkas dengan penyimpanan standar

Dimensi MaixStation yang diiklankan menghasilkan volume 363 sentimeter kubik. Sipeed membandingkannya dengan volume 1.125 sentimeter kubik pada DGX Spark, sehingga casing yang diusulkan berukuran sekitar sepertiga volumenya. Perusahaan menyebut mesin ini dapat memperoleh daya melalui USB-C dari power bank yang sesuai dengan kapasitas 65 watt.

Halaman resmi mencantumkan konsumsi tipikal MaixStation sebesar 40 watt dan DGX Spark sebesar 120 watt. Angka tersebut merupakan beban tipikal menurut Sipeed. Pemberitaan awal tentang AX8860 juga menyebut 40 watt untuk modul khusus, sehingga cakupan pengukuran daya akan menjadi detail lain yang berguna dalam pengujian mendatang.

Konektivitasnya mencakup jaringan 10G SFP+, USB-C, konektor MCIO 8i, dan slot M.2 2280 standar untuk SSD. Format penyimpanan ini memberi pembeli cara yang familier untuk menambah ruang bagi berkas model, yang dapat dengan cepat memakan ratusan gigabita.

Rencana perangkat keras Axera tidak terbatas pada komputer desktop kecil. Rancangannya mencakup modul, kartu PCIe dengan satu chip, dan kartu dengan empat chip, empat kipas, serta konektor daya standar delapan pin. Sipeed mengaitkan MaixStation Pro dan MaixBlade dengan konfigurasi yang menawarkan kapasitas 512 GB atau lebih.

Tambahan chip menjanjikan kapasitas lebih besar, tetapi skalabilitas masih berupa klaim

Sipeed mengatakan MaixStation dapat menghubungkan hingga delapan node tanpa switch eksternal, menggunakan koneksi antarchip berkecepatan 256 gigabit per detik dan dapat ditingkatkan hingga 384 gigabit per detik. DGX Spark menggunakan koneksi 200 gigabit untuk menghubungkan sistem, dan konfigurasi empat unit Spark membutuhkan switch eksternal.

Perbedaan antara gigabit dan gigabita penting. Koneksi berkecepatan 256 gigabit per detik setara dengan kecepatan mentah 32 gigabita per detik sebelum overhead. Bandwidth memori 273 gigabita per detik menggambarkan koneksi berbeda yang jauh lebih cepat di dalam setiap mesin.

Axera mencantumkan dua chip dengan total 512 TOPS dan empat chip dengan 1.024 TOPS, serta mengklaim efisiensi skalabilitas sekitar 80%. Angka skalabilitas empat chip berasal dari simulasi laboratorium. Pembagian model ke beberapa prosesor juga menambah pekerjaan komunikasi dan sinkronisasi, sehingga kecepatan aplikasi tidak hanya bergantung pada penjumlahan kemampuan komputasi puncaknya.

Peta jalan Axera menyebut AX8950 dengan performa hingga 500 TOPS dan AX8970 yang melampaui 700 TOPS. Prosesor yang direncanakan itu akan menyediakan opsi peningkatan di masa mendatang, tetapi tawaran MaixStation saat ini bertumpu pada AX8860P dan perangkat lunaknya.

Perangkat lunak menjadi kunci penggunaan sehari-hari

Sipeed mencantumkan Debian 13 dengan Linux 6.18, serta dukungan untuk vLLM, SGLang, PyTorch, llama.cpp, dan Ollama. Perangkat-perangkat tersebut membantu memuat model, melayani permintaan, dan menghubungkan aplikasi AI ke perangkat keras. Perusahaan juga mengiklankan API yang kompatibel dengan OpenAI dan Anthropic, sehingga aplikasi yang sudah ada dapat mengirim permintaan ke perangkat lokal.

Tanya jawab produk Sipeed menjelaskan bahwa nama-nama kerangka kerja yang familier tersebut menggunakan perangkat lunak khusus yang ditulis untuk perangkat keras Axera:

SGLang dan vLLM berjalan melalui backend akselerasi perangkat keras khusus yang kernelnya ditulis dalam AXDSL.

Kernel adalah potongan kecil perangkat lunak yang menjalankan perhitungan inti pada akselerator. Sipeed mengatakan pengguna dapat langsung memuat model Hugging Face yang didukung, sedangkan arsitektur model baru mungkin memerlukan kernel yang ditulis dalam AXDSL. Perusahaan berjanji akan menerbitkan kernel dan alat pengembangan, serta menyebut pengembangan kit pengembangan perangkat lunak AX8860 agar tersedia secara terbuka sedang berlangsung.

Perusahaan mengiklankan model dan antarmuka browser yang siap digunakan saat perangkat dinyalakan. Penggunaan yang disarankan mencakup agen pemrograman, pemrosesan dokumen, pembuatan video, dan robotika. Dukungan untuk kartu PCIe akan tersedia lebih dahulu pada host Linux; dukungan Windows bergantung pada permintaan. Saat pengumuman, perangkat pengembangan NPU ditargetkan tersedia pada akhir Oktober.

Harga dan pengiriman kini terkait dengan kampanye

Harga yang diperkirakan Sipeed, yakni US$3.999 untuk kapasitas 128 GB, sekitar US$2.951 atau 42% lebih murah daripada DGX Spark seharga US$6.950. Diskonnya cukup besar, meski bukan lebih dari setengah harga. Harganya juga akan mendekati sekitar US$3.999,99 untuk AMD Ryzen AI Halo dengan kapasitas 128 GB.

Jadwal peluncuran berubah dari perkiraan awal bahwa perangkat akan tiba pada 2026. Reservasi telah dibuka, tetapi FAQ resmi menempatkan Kickstarter pada akhir 2026. Sipeed mengatakan pengiriman ditargetkan dalam tiga bulan setelah kampanye berakhir.

• 13 Oktober 2026: Axera memperkenalkan seri AX8860 di Shanghai, dan Sipeed mempresentasikan MaixStation.
• Akhir Oktober 2026: Sipeed memperkirakan perangkat pengembangan NPU akan tersedia.
• Akhir 2026: Sipeed merencanakan kampanye Kickstarter MaixStation.
• Dalam tiga bulan setelah kampanye berakhir: target pengiriman yang dinyatakan Sipeed.

Sipeed belum mengonfirmasi harga jual akhir, tanggal pengiriman pasti, ataupun performa MaixStation yang telah diverifikasi secara independen. Kapasitas produksi, dukungan, serta harga dan jadwal versi Pro 512 GB juga belum dipastikan. Akses jarak jauh dan unit untuk ulasan direncanakan selama kampanye, sehingga calon pembeli berkesempatan menilai klaim tersebut.

Poin Utama

• MaixStation menargetkan harga sekitar US$3.999 untuk memori 128 GB dan prosesor Axera AX8860P dengan kemampuan 256 TOPS dalam FP4 padat.
• Sipeed mencantumkan bandwidth memori 273 GB per detik, konsumsi daya tipikal 40 watt, dan casing berukuran 11 x 11 x 3 cm.
• Halaman benchmark resmi menunjukkan kecepatan absolut lebih rendah daripada kisaran yang diterbitkan sebelumnya, dengan hasil yang bervariasi menurut model dan tahap pemrosesan.
• Dukungan perangkat lunak bergantung pada backend akselerasi khusus Axera, sementara alat pengembangan dan lebih banyak kode dijanjikan akan dirilis untuk publik.
• Kickstarter direncanakan pada akhir 2026, dengan target pengiriman yang dinyatakan dalam tiga bulan setelah kampanye berakhir.
• Pengujian independen, harga akhir, dan kepastian pengiriman akan menentukan bagaimana sistem yang diusulkan ini dibandingkan dengan alternatif dari Nvidia dan AMD.