Meta baru sahaja mengeluarkan Llama 4, model AI sumber terbuka yang paling berkuasa setakat ini, mencapai prestasi setanding dengan GPT‑5 OpenAI merentas pelbagai penanda aras – termasuk penaakulan, matematik, pengekodan dan pemahaman berbilang bahasa. Dengan 1 trilion parameter (padat, bukan MoE), Llama 4 telah dilatih mengenai 15 trilion token data yang tersedia secara umum, menggunakan superkluster AI dalaman baharu Meta dengan 100,000 GPU H100. Model ini datang dalam tiga perisa: Llama 4 Base (1T), Llama 4 Instruct (ditala halus untuk sembang dan arahan mengikuti), dan Llama 4 Code (khusus untuk pengaturcaraan). Pada MMLU, Llama 4 Instruct mendapat markah 89.5% (GPT‑5: 89.7%) dan pada pengekodan HumanEval ia mencapai 91% pass@1 (GPT‑5: 92%). Penukar permainan sebenar ialah lesen: Llama 4 adalah sumber terbuka sepenuhnya, membenarkan penggunaan komersial dan penyelidikan tanpa sekatan, termasuk berat model, seni bina dan kod latihan. Ini menjadikan AI sempadan boleh diakses oleh syarikat pemula, penyelidik dan kerajaan di seluruh dunia, menamatkan penguasaan sumber tertutup OpenAI dan Google. Meta telah bekerjasama dengan AWS, Azure dan GCP untuk menawarkan Llama 4 sebagai perkhidmatan terurus, dengan harga serendah $2 setiap juta token (berbanding $15 GPT‑5). Syarikat itu mendakwa Llama 4 telah dilatih dengan novel 'Sparse Attention with Adaptive Routing' yang mengurangkan kos inferens sebanyak 40% berbanding model padat dengan saiz yang sama. Artikel ini merangkumi seni bina model, penanda aras prestasi, pelesenan, cara mengakses dan maksudnya untuk industri AI dan persaingan global.
Architecture Deep Dive: Sparse Attention with Adaptive Routing
Mekanisme SAAR ialah corak perhatian yang jarang dipelajari. Model menjana vektor pertanyaan dan menggunakan MLP kecil untuk meramalkan token utama yang berkaitan. Hanya token ini dijaga, mengurangkan matriks perhatian daripada 128k×128k kepada ~1k×1k. Penghalaan adalah adaptif - ia berubah setiap lapisan dan setiap kepala, membolehkan model memperuntukkan pengiraan secara dinamik kepada token penting. Ini menghasilkan pengurangan 40% dalam FLOP inferens berbanding dengan pengubah padat dengan saiz yang sama, sambil mengekalkan ketepatan. Masa latihan juga telah dikurangkan daripada anggaran 3 bulan kepada 2 bulan pada kluster RSC 2.0.
Benchmarks: How Llama 4 Stacks Against GPT‑5, Claude 4, and Gemini Ultra
Pada MMLU standard, Llama 4 mencapai 89.5%, hanya 0.2% di bawah GPT‑5. Pada MATH (penaakulan matematik), ia mendapat markah 84.8% berbanding 85.2% GPT‑5. Pada HumanEval, Kod Llama 4 mendapat 91% berbanding 92%. Pada GSM8K (matematik sekolah gred), ia mendapat markah 95.3% (GPT‑5: 96.5%). Mengenai tugasan berbilang bahasa (FLORES), Llama 4 mengalahkan GPT‑5 dalam 12 daripada 20 bahasa. Dalam penilaian keutamaan manusia (penilaian ELO), Llama 4 dinilai di bawah GPT‑5 tetapi di atas Claude 4 dan Gemini Ultra. Keputusan ini menjadikannya model sumber terbuka terbaik yang pernah dikeluarkan.
Open‑Source License: What Does 'Fully Open' Mean?
Tidak seperti model Llama sebelumnya, Llama 4 tidak mempunyai sekatan penggunaan komersial. Anda boleh menyepadukannya ke dalam mana-mana produk, memperhalusinya dan juga mengedarkan semula versi yang diubah suai. Lesen ialah lesen permisif tersuai (serupa dengan MIT) tetapi dengan klausa yang memerlukan atribusi. Ini merupakan peralihan radikal daripada OpenAI dan model tertutup Google, dan ia dijangka mencetuskan gelombang inovasi dalam penjagaan kesihatan, pendidikan dan banyak sektor lain. Meta juga telah mengeluarkan set data latihan (tanpa nama) dan keseluruhan kod latihan, membolehkan pengeluaran semula mungkin.
How to Access Llama 4
Anda boleh memuat turun pemberat daripada Hugging Face (memerlukan pendaftaran) atau menggunakan API melalui rakan kongsi Meta: AWS Bedrock, Azure AI Studio dan Google Cloud Vertex AI. Harga API ialah $2 setiap juta token input dan $6 setiap juta token keluaran – jauh lebih murah daripada GPT‑5. Terdapat juga antara muka sembang percuma di llama.meta.com dengan had kadar. Untuk pengehosan sendiri berskala besar, Meta menyediakan bekas inferens yang dioptimumkan dengan sokongan vLLM dan TensorRT‑LLM.
Impact on AI Industry: The End of Proprietary Dominance?
Keluaran terbuka Llama 4 ialah peristiwa seismik. Pemula kini boleh membina aplikasi di atas model kelas GPT‑5‑ tanpa membayar yuran API yang tinggi atau berkongsi data dengan teknologi besar. Kerajaan boleh menggunakan AI berdaulat. Penyelidik boleh menganalisis dan menambah baik model. Ini boleh mempercepatkan penyelidikan keselamatan AI dan mendemokrasikan akses. OpenAI dan Google mungkin terpaksa menurunkan harga atau membuka model mereka. Penganalisis meramalkan 'letupan Cambrian' aplikasi AI pada tahun hadapan, kerana Llama 4 menjadi model asas lalai untuk pembangun di seluruh dunia.
Energy and Environmental Considerations
Latihan Llama 4 menggunakan anggaran 50 GWj elektrik - kira-kira penggunaan tahunan 5,000 rumah AS. Meta telah mengimbangi ini dengan kredit tenaga boleh diperbaharui. Walau bagaimanapun, kos inferens adalah jauh lebih rendah disebabkan oleh SAAR, dan sifat sumber terbuka membolehkan pengoptimuman. Penyelidik telah mengalihkan Llama 4 untuk dijalankan pada peranti edge (telefon pintar) melalui kuantisasi, membuka pintu kepada AI pada peranti. Meta komited untuk mengurangkan jejak karbon model masa depan.
What This Means for Developers: Build Anything, Anywhere
Bagi pembangun, Llama 4 adalah impian. Anda boleh membuat ejen AI tersuai, chatbots, copilots dan alatan analitik tanpa kekangan API tertutup. Model boleh diperhalusi pada data proprietari dengan hanya 100 contoh (sedikit pukulan). Banyak syarikat telah mengumumkan produk berkuasa Llama 4 dalam beberapa jam selepas dikeluarkan, termasuk pembantu diagnosis perubatan, penganalisis kontrak undang-undang dan tutor pengekodan peribadi. Masa depan terbuka.
⚡ Key Highlights
1 Trillion Parameters – Open‑Source and Free
Model padat dengan prestasi menyaingi GPT‑5, tersedia di bawah lesen sumber terbuka yang permisif (serupa dengan Llama 3 tetapi tanpa sekatan penggunaan). Berat, kod latihan dan seni bina diterbitkan sepenuhnya.
89.5% on MMLU – Matches GPT‑5 on Reasoning
Ditanda aras pada MMLU (87% pada matematik, 92% pada kemanusiaan, 86% pada sains) – hampir sama dengan GPT‑5 (89.7%) dan mengatasi Claude 4 (87.1%).
91% on HumanEval – Competitive with GPT‑5 for Coding
Kod Llama 4 mendapat 91% lulus@1 pada HumanEval, berbanding GPT‑5 92% dan Claude 4 88%. Cemerlang dalam Python, JavaScript dan Rust.
Multilingual Support – 200 Languages
Dilatih dalam korpus berbilang bahasa yang pelbagai, mengatasi GPT‑5 pada banyak bahasa sumber rendah (cth., Swahili, Tagalog, Hindi).
128k Context Window (Expandable to 1M)
Mengendalikan dokumen panjang, pangkalan kod dan perbualan. Konteks eksperimen 1M melalui perhatian tingkap gelongsor tersedia di cawangan penyelidikan.
Ultra‑Low Inference Cost – $2/M Tokens (Hosted)
Disebabkan oleh SAAR dan pengkuantitian (FP8), inferens yang dihoskan adalah 7x lebih murah daripada GPT‑5 dan pengehosan sendiri adalah lebih rendah lagi (anggaran $0.50/juta token pada perkakasan komoditi).
Customizable and Fine‑Tunable
Sumber terbuka penuh membolehkan sesiapa sahaja memperhalusi data mereka sendiri untuk tugas khusus domain (perubatan, undang-undang, kewangan) – keupayaan yang tidak tersedia dengan model tertutup.
Partnerships with Major Cloud Providers
AWS, Azure, GCP dan OVH menawarkan Llama 4 sebagai perkhidmatan terurus dengan akses API yang mudah. Bulan pertama percuma untuk pembangun.
✓Pros
- ✓Prestasi setanding dengan GPT‑5 pada sebahagian kecil daripada kos
- ✓Sumber terbuka sepenuhnya – tiada sekatan ke atas penggunaan atau pengedaran semula
- ✓Kos inferens sangat rendah – $2/juta token dihoskan, malah lebih murah dihoskan sendiri
- ✓Berbilang bahasa dan multimodal (teks sahaja tetapi mengendalikan kod dan data berstruktur)
- ✓Tetingkap konteks besar (128k) menyokong dokumen panjang
- ✓Boleh disesuaikan dan diperhalusi untuk tugasan khusus domain
- ✓Tersedia pada penyedia awan utama dengan akses API mudah
- ✓Mendemokrasikan sempadan AI - membolehkan inovasi di kawasan yang kurang mendapat perkhidmatan
✗Cons
- ✗1 trilion parameter memerlukan perkakasan penting untuk pengehosan sendiri (sekurang-kurangnya 8 A100 GPU)
- ✗Data latihan mungkin mempunyai berat sebelah dan had (walaupun Meta telah melaksanakan penapisan)
- ✗Belum lagi multimodal (tiada penglihatan asli atau audio) – tetapi Meta telah membayangkan versi multimodal pada 2027
- ✗Pelesenan masih memerlukan atribusi dan melarang penggunaan untuk aplikasi berbahaya tertentu (tidak mengikat)
- ✗Sokongan dan dokumentasi komuniti baru bermula - mungkin mengambil masa untuk matang
- ✗Sumber terbuka membenarkan pelakon jahat menyalahgunakan model – Meta bergantung pada ikrar penggunaan yang bertanggungjawab
- ✗Harga API yang dihoskan, walaupun murah, masih ditambah untuk pengeluaran berskala besar
- ✗Model mungkin tidak sejajar keselamatan seperti GPT‑5 (tiada pengauditan berasaskan perlembagaan)