Biaya Tersembunyi dari Agen AI yang Terlalu Bersemangat
Agen kecerdasan buatan modern memiliki kelemahan mendasar dalam pengambilan keputusan yang meningkatkan biaya operasional dan membuat pengguna frustrasi. Peneliti Alibaba mengidentifikasi apa yang mereka sebut sebagai defisit metakognitif mendalam pada model bahasa besar saat ini. Sistem ini kesulitan membedakan kapan perlu memanggil alat eksternal dan kapan pengetahuan internal sudah memadai. Akibatnya, terjadi rentetan pemanggilan API yang tidak perlu, memperlambat kinerja dan menurunkan kualitas penalaran sekaligus menguras anggaran komputasi.
Daftar Isi
Model agen saat ini dilatih untuk mengutamakan penyelesaian tugas di atas segalanya. Fokus tunggal ini memunculkan perilaku yang oleh para pengembang disebut "terlalu cepat bertindak", ketika sistem otomatis menggunakan alat penelusuran web, eksekusi kode, atau analisis gambar, bahkan saat pertanyaan pengguna sudah memuat semua informasi yang diperlukan. Menurut penelitian Alibaba, redundansi ini mencapai tingkat yang mengkhawatirkan: hingga 98% pemanggilan alat terbukti tidak diperlukan dalam penerapan standar. Pola ini bertahan karena rezim pelatihan memberi penghargaan atas keberhasilan menyelesaikan tugas tanpa menghukum penggunaan sumber daya yang tidak efisien.
Setiap pemanggilan API yang berlebihan menambah jeda pemrosesan berurutan yang terakumulasi hingga menghasilkan latensi yang kentara. Pengguna mengalami waktu respons yang lambat, sementara organisasi menanggung tagihan infrastruktur yang membengkak. Selain berdampak pada kecepatan dan biaya, penggunaan alat secara berlebihan juga merusak kualitas penalaran. Kueri eksternal yang berulang memasukkan gangguan dari lingkungan ke dalam jendela konteks model, mengalihkan sistem dari proses berpikir yang runtut dan berpotensi menggagalkan kesimpulan yang akurat. Ketika agen bergantung pada sinyal bising ini tanpa perlu, kualitas keluaran akhir menurun meski biaya komputasi meningkat.
Mengatasi Kebuntuan Optimasi
Upaya sebelumnya untuk mengatasi inefisiensi ini mengandalkan metode pembelajaran penguatan tradisional yang menggabungkan akurasi dan efisiensi ke dalam satu sinyal imbalan. Pendekatan yang mencampuradukkan keduanya ini menciptakan dilema optimasi yang sulit dipecahkan. Penalti penggunaan alat yang terlalu keras membuat model menghindari pemanggilan eksternal yang diperlukan, sehingga mengorbankan ketepatan pada tugas kompleks. Penalti ringan gagal menekan pemborosan pada masalah yang lebih sederhana. Struktur imbalan bersama ini menimbulkan ambiguitas semantik: jawaban cepat tetapi salah bisa mendapat nilai yang sama dengan jawaban lambat tetapi benar. Karena sinyal pelatihan untuk akurasi dan efisiensi saling tercampur, model tidak dapat belajar mengendalikan penggunaan alat tanpa menurunkan kemampuan penalaran intinya.
Untuk mengatasi keterbatasan ini, peneliti Alibaba mengembangkan Hierarchical Decoupled Policy Optimization, atau HDPO. Kerangka kerja ini memisahkan optimasi ke dalam dua jalur independen. Jalur akurasi memaksimalkan ketepatan tugas di seluruh keluaran model. Jalur efisiensi mengutamakan penghematan dalam pelaksanaan. Kedua sinyal ini dihitung secara terpisah dan hanya digabungkan pada tahap akhir penghitungan loss. Yang penting, imbalan efisiensi tetap bergantung pada akurasi. Respons yang salah tidak mendapat nilai untuk kecepatan atau minimnya penggunaan alat, sehingga model tidak belajar untuk cepat tetapi salah.
Pemisahan ini menciptakan kurikulum kognitif tersirat yang mencerminkan tahapan pembelajaran. Tahap awal pelatihan menekankan akurasi saat model menguasai penalaran inti dan memperoleh pengetahuan. Seiring kemampuan berkembang dan model konsisten menghasilkan jawaban benar, sinyal efisiensi meningkat secara alami. Mekanisme ini membuat sistem lebih dahulu menguasai penyelesaian tugas, kemudian meningkatkan kemandirian dengan menghindari pemanggilan API yang berlebihan dan mahal. Hasilnya, konflik gradien ketika sasaran akurasi dan efisiensi saling meniadakan dapat dihindari, sehingga kedua sasaran memperoleh sinyal pembelajaran yang jelas secara bersamaan.
Di Balik Arsitektur Metis
Tim peneliti menerapkan HDPO untuk membangun Metis, agen penalaran multimodal yang menunjukkan prinsip-prinsip ini dalam praktik. Metis berjalan di atas fondasi visi-bahasa Qwen3-VL-8B-Instruct dan dilengkapi kemampuan eksekusi kode Python, penelusuran teks, serta pencarian gambar. Ukurannya yang relatif ringkas, yakni 8 miliar parameter, sangat berbeda dari para pesaing yang lebih besar. Hal ini menunjukkan bahwa peningkatan efisiensi dapat mengatasi keunggulan skala mentah.
Alur pelatihan menggunakan pendekatan dua tahap yang ketat untuk membangun kompetensi dasar sekaligus meningkatkan efisiensi. Pertama, penyetelan halus terawasi memberikan inisialisasi awal menggunakan data yang dikurasi dengan cermat. Peneliti mengambil rangkaian proses multimodal publik yang diperkaya dengan alat, lalu menerapkan penyaringan ketat untuk menghapus contoh berkualitas rendah yang mengandung kegagalan eksekusi atau ketidakkonsistenan umpan balik. Mereka menghapus setiap sampel pelatihan yang dapat diselesaikan model dasar tanpa alat, sehingga korpus hanya memuat kasus penggunaan alat yang benar-benar strategis. Google Gemini 3.1 Pro digunakan sebagai penilai otomatis untuk memastikan contoh yang tersisa menunjukkan pemanggilan alat yang diperlukan, bukan sekadar kebiasaan.
Tahap kedua menerapkan pembelajaran penguatan melalui kerangka kerja HDPO. Dalam tahap ini, Metis menjalani interaksi beberapa giliran yang mengharuskannya memutuskan apakah akan menggunakan utilitas eksternal. Data pelatihan tidak menyertakan prompt dengan visual yang rusak atau ambiguitas semantik yang dapat mengacaukan sinyal pembelajaran. Algoritme ini perlu membandingkan respons benar dan salah untuk menghasilkan gradien yang bermakna. Karena itu, tim menyaring tugas yang terlalu mudah, ketika model selalu berhasil, dan tugas yang terlalu sulit, ketika model terus-menerus gagal. Kurasi ini memastikan adanya sinyal pembelajaran yang dapat ditindaklanjuti selama optimasi dan menghindari area gradien datar yang membuat model tidak dapat berkembang.
Dari Pemborosan 98% Menuju Ketepatan Strategis
Hasil evaluasi menunjukkan bahwa penggunaan alat yang efisien dan akurasi tinggi saling melengkapi, bukan bertentangan. Metis mencatat kinerja terbaik di berbagai tolok ukur persepsi visual dan pemahaman dokumen, termasuk HRBench dan V*Bench, serta tugas penalaran matematika yang ketat seperti WeMath dan MathVista. Yang menonjol, Metis dengan 8 miliar parameter mengungguli Skywork-R1V4 yang memiliki 30 miliar parameter, model agen yang jauh lebih besar, dalam tolok ukur visual maupun penalaran. Kinerja ini menetapkan standar baru di bidang tersebut dengan beban komputasi yang jauh lebih rendah.
Peningkatan kuantitatif ini selaras dengan perubahan perilaku kualitatif yang diamati selama pengujian. Dalam sebuah eksperimen, peneliti menunjukkan gambar papan informasi museum dan menanyakan teks yang tertera di bagian tengah. Model agen standar otomatis menulis skrip Python untuk memotong dan memproses gambar, padahal tidak diperlukan, sehingga menambah latensi dan kerumitan. Metis mengenali bahwa teks pada masukan asli sudah terbaca jelas, tidak menggunakan alat eksternal sama sekali, dan menyelesaikan tugas dalam satu kali inferensi. Ini menunjukkan pemahaman visual yang sesungguhnya, bukan ketergantungan mekanis pada alat.
Sebaliknya, ketika diperlihatkan grafik kompleks dengan garis-garis yang saling bertumpuk di subplot kecil dan diminta mengidentifikasi garis tertinggi kedua pada titik data tertentu, Metis dengan tepat menyadari bahwa resolusi aslinya tidak cukup untuk membedakan detail visual tersebut. Alih-alih menebak berdasarkan gambar secara keseluruhan, Metis menggunakan Python untuk memotong dan memperbesar bagian tertentu saja, sehingga memperoleh ketepatan yang dibutuhkan. Perilaku ini menunjukkan bahwa kode digunakan sebagai instrumen presisi hanya ketika bukti visual benar-benar ambigu, bukan sebagai mekanisme cadangan bawaan untuk setiap masukan.
Manfaat Ekonomi dari Agen yang Lebih Cerdas
Bagi perusahaan rintisan dan perusahaan besar yang membangun produk AI, terobosan Metis berdampak langsung pada kelangsungan ekonomi per unit. Agen AI yang menggunakan API populer dari OpenAI, Anthropic, atau Google dapat menimbulkan biaya bulanan hingga ribuan dolar hanya karena pemanggilan berulang yang tidak perlu. Perusahaan rintisan yang menghabiskan $10.000 per bulan untuk akses API berpotensi memangkas biaya sebesar $9.600 dengan menghapus pemanggilan alat yang boros, berdasarkan rasio penurunan dari 98% menjadi 2% yang ditunjukkan dalam penelitian. Penghematan ini menjadi penting ketika produk berkembang melampaui tahap produk minimum yang layak dan memasuki lingkungan produksi dengan ribuan pengguna aktif.
Selain menghemat biaya langsung, pengurangan latensi menciptakan keunggulan dalam pengalaman pengguna. Produk konsumen maupun B2B sama-sama diuntungkan oleh waktu respons yang lebih cepat, yang berkorelasi kuat dengan retensi pengguna dan metrik keterlibatan. Saat produk berkembang dari ratusan menjadi ribuan pengguna aktif, hambatan berurutan akibat pemanggilan API yang tidak perlu menumpuk dan menurunkan kinerja sistem secara menyeluruh. Sistem yang berfungsi memadai selama tahap awal pengembangan sering kali kewalahan menghadapi lalu lintas produksi tanpa optimasi efisiensi, menciptakan titik krisis justru saat pertumbuhan meningkat pesat.
Di pasar dengan konsumen yang sensitif terhadap harga, seperti Amerika Latin dan negara berkembang lainnya, efisiensi operasional menentukan kelangsungan bisnis. Perusahaan yang mempertahankan margin sehat sementara pesaing menghabiskan modal untuk komputasi berulang memperoleh posisi kompetitif yang berkelanjutan. Penelitian ini menunjukkan bahwa di tengah kondisi ketika setiap perusahaan rintisan dapat mengakses model dasar yang sama, efisiensi menjadi pembeda kompetitif utama. Dinamika ini menguntungkan organisasi yang menerapkan caching cerdas, ambang batas keyakinan, dan pemilihan model strategis bersama kerangka kerja seperti HDPO.
Filosofi Pelatihan Baru
Kerangka kerja HDPO menandai pergeseran konseptual dalam cara peneliti mendekati pembelajaran yang diperkaya alat. Metode sebelumnya terutama berfokus mengajari model cara menjalankan pemanggilan alat dengan benar, dengan menekankan kecakapan teknis ketimbang pertimbangan. Tim Alibaba mendorong pengembangan kebijaksanaan metakognitif tentang kapan harus sepenuhnya menghindari utilitas eksternal. Hal ini membutuhkan data pelatihan yang secara eksplisit menunjukkan sikap menahan diri secara strategis, bukan hanya pelaksanaan teknis, sebuah nuansa yang sebagian besar diabaikan oleh kumpulan data sebelumnya.
Alur kurasi data ini mengatasi kelemahan serius yang umum ditemukan dalam kumpulan data yang diperkaya alat. Sebagian besar korpus yang tersedia untuk publik memuat rangkaian proses bising yang membuat model terbiasa menggunakan alat, bukan menggunakannya secara strategis. Dengan menyaring contoh yang dapat diselesaikan tanpa bantuan eksternal dan menggunakan penilai otomatis untuk memastikan kebutuhannya, peneliti menciptakan lingkungan pelatihan yang memberi penghargaan atas keputusan untuk tidak menggunakan alat secara bijaksana. Pendekatan ini berbeda dari kerangka kerja seperti ReAct, yang menggabungkan penalaran dan tindakan tanpa optimasi dua jalur yang eksplisit, atau Meta Toolformer, yang menekankan pembelajaran penggunaan alat ketimbang efisiensi operasional.
Kurikulum tersirat yang dihasilkan HDPO mencerminkan pola pembelajaran manusia dalam pendidikan profesional. Agen pemula terlebih dahulu menguasai ketepatan tugas, agar dapat memecahkan masalah secara andal dengan sumber daya yang tersedia. Setelah kompetensi terbentuk, sistem secara alami beralih ke optimasi efisiensi: belajar menyelesaikan masalah yang sudah dikenal secara langsung, sembari menggunakan alat eksternal untuk hal baru yang sesungguhnya atau kasus tepi yang kompleks. Perkembangan bertahap ini menghindari kerapuhan sistem yang dilatih dengan kedua sasaran secara bersamaan, ketika akurasi sering kali menurun begitu batasan efisiensi diberlakukan.
Akses Sumber Terbuka dan Dampak Global
Alibaba merilis Metis dan kode pelatihan HDPO di bawah lisensi permisif Apache 2.0, sehingga dapat digunakan secara komersial tanpa syarat pembatasan atau royalti. Pendekatan terbuka ini memungkinkan perusahaan rintisan langsung mengintegrasikan teknologi tersebut, alih-alih menunggu solusi eksklusif atau membayar biaya akses premium. Namun, karena publikasi ini bertanggal April 2026, dokumentasi dan dukungan komunitasnya masih dalam tahap awal pengembangan, sehingga penerapan dan penyesuaian yang tepat membutuhkan keahlian teknis yang cukup tinggi.
Rilis ini hadir saat ekosistem agen AI mulai beralih dari penambahan fitur menuju optimasi efisiensi. Perusahaan seperti LangChain dan LlamaIndex terus mengintegrasikan optimasi serupa ke dalam platform mereka, sementara alternatif eksklusif menawarkan solusi terkelola dengan beragam struktur biaya. Bagi pengembang di pasar berbahasa Spanyol dan negara berkembang, adopsi dini kerangka kerja efisiensi semacam ini membuka peluang untuk membangun produk kompetitif yang dioptimalkan bagi keterbatasan infrastruktur dan kepekaan harga setempat.
Anggota tim peneliti menekankan bahwa penghapusan pemanggilan alat yang berulang dan bising secara langsung berkontribusi pada peningkatan akurasi, bukan mengorbankan satu metrik demi metrik lainnya. Kesimpulan mereka mengarah pada pergeseran paradigma yang lebih luas dalam pengembangan kecerdasan buatan: dari sistem yang menunjukkan kemampuan lewat frekuensi penggunaan alat menuju agen yang menunjukkan pertimbangan melalui sikap menahan diri secara strategis. Penelitian ini mengisyaratkan bahwa pengembangan AI di masa depan akan mengutamakan tindakan yang selektif dan cerdas ketimbang pemanggilan alat secara menyeluruh.
Hal-Hal Utama
- Agen Metis dari Alibaba mengurangi pemanggilan alat AI yang berlebihan dari 98% menjadi 2% dengan kerangka kerja HDPO
- HDPO (Hierarchical Decoupled Policy Optimization) memisahkan akurasi dan efisiensi ke dalam jalur pelatihan independen
- Metis dengan 8 miliar parameter mengungguli model yang jauh lebih besar dengan 30 miliar parameter dalam tolok ukur visual dan penalaran
- Penggunaan alat secara strategis menciptakan kurikulum kognitif tersirat: agen menguasai akurasi sebelum mengoptimalkan efisiensi
- Perusahaan rintisan berpotensi memangkas tagihan API hingga 96% dengan menghapus pemanggilan yang boros
- Metis dan kode HDPO dirilis di bawah lisensi Apache 2.0 untuk penggunaan komersial tanpa pembatasan
- Kerangka kerja ini mengatasi defisit metakognitif, yakni ketidakmampuan agen AI membedakan kapan pengetahuan internal memadai dan kapan alat eksternal diperlukan
