Meta baru saja meluncurkan dua model bahasa besar (LLM) baru, Llama 4 Scout dan Llama 4 Maverick, sebagai tambahan dalam seri Llama 4. Kedua model ini merupakan model “open-weight native,” yang berarti parameter bobot modelnya dapat diakses secara publik. Ini merupakan langkah signifikan dalam upaya Meta untuk mendorong transparansi dan kolaborasi dalam pengembangan AI.
Keunikan Llama 4 Scout dan Maverick terletak pada arsitektur Mixture of Experts (MoE) yang digunakan. MoE memungkinkan model untuk menggunakan beberapa sub-model khusus (experts) untuk menangani berbagai bagian input teks, sehingga meningkatkan efisiensi komputasi. Hal ini berbeda dengan model LLM tradisional yang menggunakan satu set parameter tunggal untuk semua input.
Kedua model tersebut dilatih dengan menggunakan sejumlah besar teks, gambar, dan video tanpa label. Pelatihan ini memungkinkan Llama 4 Scout dan Maverick untuk memiliki pemahaman yang lebih komprehensif tentang dunia visual, sehingga mampu memproses dan memahami informasi yang lebih beragam.
Perbedaan Llama 4 Scout dan Maverick
Daftar Isi
Meskipun keduanya dibangun dengan arsitektur MoE, Llama 4 Scout dan Maverick memiliki spesifikasi dan kemampuan yang berbeda. Scout dirancang untuk tugas-tugas yang lebih ringan dan efisien, membutuhkan hanya satu GPU Nvidia H100 untuk beroperasi. Model ini memiliki total 109 miliar parameter, dengan 17 miliar parameter aktif dan 16 experts. Keunggulannya terletak pada kemampuan meringkas dokumen dan penalaran berbasis kode besar, serta memiliki jendela konteks yang besar (10 juta token).
Sebaliknya, Llama 4 Maverick dirancang untuk tugas-tugas yang lebih kompleks dan menuntut. Ia membutuhkan satu sistem Nvidia H100 DGX atau setara untuk beroperasi. Model ini memiliki total 400 miliar parameter, dengan 17 miliar parameter aktif dan 128 experts. Kemampuannya termasuk menjadi asisten virtual yang tangguh, menghasilkan tulisan kreatif yang unggul, memecahkan masalah, penalaran, kemampuan multibahasa, menjawab pertanyaan kompleks, dan bahkan menganalisis gambar.
Keunggulan Maverick dibandingkan kompetitor
Hasil pengujian internal menunjukkan bahwa Llama 4 Maverick unggul dalam berbagai aspek dibandingkan dengan model-model LLM kompetitor seperti GPT-4.0 dan Gemini 2.0. Keunggulan ini meliputi kemampuan menghasilkan teks kreatif yang lebih baik, pemecahan masalah yang lebih efektif, dan kemampuan multibahasa yang lebih baik. Maverick juga menunjukkan kemampuan yang lebih baik dalam memahami konteks yang panjang dan dalam pengkodean.
Keunggulan Scout dalam pengolahan dokumen
Llama 4 Scout, meskipun lebih sederhana, memiliki keunggulan dalam pengolahan dokumen panjang berkat jendela konteksnya yang besar (10 juta token). Sebuah token adalah potongan kecil dari teks, dan jumlah token yang besar memungkinkan Scout untuk memproses dokumen dengan jutaan kata. Ini membuatnya sangat cocok untuk tugas-tugas seperti meringkas dokumen dan menjawab pertanyaan berdasarkan informasi dari dokumen yang sangat panjang.
Model LLM Behemoth: Masa Depan Pengembangan Meta
Meta juga sedang mengembangkan model LLM yang lebih canggih bernama Behemoth. Behemoth diprediksi akan menjadi model yang jauh lebih kuat daripada Maverick dan Scout, dengan 2 triliun parameter total, 288 miliar parameter aktif, dan 16 experts. Meta mengklaim bahwa Behemoth akan melampaui model-model AI pesaing seperti GPT-4.5, Claude 3.7 Sonnet, dan Gemini 2.0 Pro.
Peluncuran Llama 4 Scout dan Maverick, serta pengembangan Behemoth, menunjukkan komitmen Meta dalam mendorong perkembangan LLM yang lebih efisien dan andal. Akses publik terhadap parameter bobot model juga menunjukkan upaya Meta untuk membangun ekosistem AI yang lebih kolaboratif dan transparan.
Dengan kemampuan yang beragam dan spesifikasi yang berbeda, Llama 4 Scout dan Maverick menawarkan pilihan yang fleksibel bagi pengembang dan peneliti yang membutuhkan model LLM untuk berbagai aplikasi. Kehadiran model-model ini menandai babak baru dalam persaingan pengembangan LLM, dan menjanjikan inovasi lebih lanjut di masa mendatang.
