Meta 刚刚发布了Llama 4，这是迄今为止最强大的开源 AI 模型，在多个基准测试中实现了与 OpenAI 的 GPT-5 相当的性能 - 包括推理、数学、编码和多语言理解。 Llama 4 拥有 1 万亿个参数（密集，而非 MoE），并使用 Meta 的全新内部 AI 超级集群（配备 100,000 个 H100 GPU）对 15 万亿个公开数据进行了训练。该模型具有三种风格：Llama 4 Base (1T)、Llama 4 Instruct（针对聊天和指令遵循进行了微调）和 Llama 4 Code（专门用于编程）。在 MMLU 上，Llama 4 Instruct 得分 89.5% (GPT-5: 89.7%)，在 HumanEval 编码上达到 91% pass@1 (GPT-5: 92%)。真正的游戏规则改变者是许可证：Llama 4 是完全开源的，允许不受限制的商业和研究使用，包括模型权重、架构和训练代码。这使得世界各地的初创公司、研究人员和政府都可以使用前沿人工智能，结束 OpenAI 和谷歌的闭源主导地位。 Meta 与 AWS、Azure 和 GCP 合作，提供 Llama 4 作为托管服务，价格低至每百万代币 2 美元（而 GPT-5 的价格为 15 美元）。该公司声称 Llama 4 接受了新颖的“自适应路由稀疏注意力”的训练，与类似大小的密集模型相比，推理成本降低了 40%。本文涵盖了模型架构、性能基准、许可、如何访问以及它对人工智能行业和全球竞争的意义。
Architecture Deep Dive: Sparse Attention with Adaptive Routing
SAAR 机制是一种学习的稀疏注意力模式。该模型生成查询向量并使用小型 MLP 来预测哪些关键标记是相关的。仅关注这些标记，将注意力矩阵从 128k×128k 减少到 ~1k×1k。路由是自适应的——它每层和每头都会改变，允许模型动态地将计算分配给重要的令牌。与相同大小的密集变压器相比，这使得推理 FLOP 减少了 40%，同时保持了准确性。 RSC 2.0 集群的训练时间也从预计的 3 个月减少到 2 个月。
Benchmarks: How Llama 4 Stacks Against GPT‑5, Claude 4, and Gemini Ultra
在标准 MMLU 上，Llama 4 达到 89.5%，仅比 GPT-5 低 0.2%。在 MATH（数学推理）方面，它的得分为 84.8%，而 GPT-5 的得分为 85.2%。在 HumanEval 上，Llama 4 Code 的得分为 91% vs 92%。在 GSM8K（小学数学）上，得分为 95.3%（GPT-5：96.5%）。在多语言任务 (FLORES) 上，Llama 4 在 20 种语言中的 12 种中击败了 GPT-5。在人类偏好评估（ELO 评级）中，Llama 4 的评级略低于 GPT-5，但高于 Claude 4 和 Gemini Ultra。这些结果使其成为有史以来发布的最佳开源模型。
Open‑Source License: What Does 'Fully Open' Mean?
与之前的 Llama 型号不同，Llama 4 没有商业用途限制。您可以将其集成到任何产品中，对其进行微调，甚至重新分发修改后的版本。该许可证是自定义许可许可证（类似于 MIT），但带有要求归属的条款。这是对 OpenAI 和谷歌封闭模式的彻底转变，预计将引发医疗保健、教育和许多其他领域的创新浪潮。 Meta还发布了训练数据集（匿名）和整个训练代码，使复制成为可能。
How to Access Llama 4
您可以从 Hugging Face 下载权重（需要注册）或通过 Meta 的合作伙伴使用 API：AWS Bedrock、Azure AI Studio 和 Google Cloud Vertex AI。 API 定价为每百万个输入代币 2 美元，每百万个输出代币 6 美元——比 GPT-5 便宜得多。 llama.meta.com 上还有一个带有速率限制的免费聊天界面。对于大规模自托管，Meta 提供了支持 vLLM 和 TensorRT-LLM 的优化推理容器。
Impact on AI Industry: The End of Proprietary Dominance?
Llama 4 的公开发布是一个震撼人心的事件。初创公司现在可以在 GPT-5 级模型之上构建应用程序，而无需支付高额 API 费用或与大型科技公司共享数据。政府可以部署主权人工智能。研究人员可以分析和改进模型。这可以加速人工智能安全研究并使访问民主化。 OpenAI 和谷歌可能被迫降低价格或开放他们的模型。分析师预测，随着 Llama 4 成为全球开发者的默认基础模型，明年人工智能应用将出现“寒武纪大爆发”。
Energy and Environmental Considerations
训练 Llama 4 估计消耗 50 GWh 的电力——大约是 5,000 个美国家庭每年的用电量。 Meta 通过可再生能源积分抵消了这一影响。然而，由于 SAAR，推理成本要低得多，而且开源特性允许优化。研究人员已经通过量化将 Llama 4 移植到边缘设备（智能手机）上运行，为设备端人工智能打开了大门。 Meta 致力于减少未来车型的碳足迹。
What This Means for Developers: Build Anything, Anywhere
对于开发者来说，Llama 4 是一个梦想。您可以创建自定义 AI 代理、聊天机器人、副驾驶和分析工具，而不受封闭 API 的限制。该模型只需 100 个示例（少数样本）即可根据专有数据进行微调。许多公司在发布后数小时内就已经发布了 Llama 4 支持的产品，包括医疗诊断助手、法律合同分析器和个人编码导师。未来是开放的。
⚡ Key Highlights
1 Trillion Parameters – Open‑Source and Free
性能可与 GPT-5 相媲美的密集模型，可在宽松的开源许可证下使用（类似于 Llama 3，但没有使用限制）。权重、训练代码和架构已完全发布。
89.5% on MMLU – Matches GPT‑5 on Reasoning
以 MMLU 为基准（数学 87%、人文学科 92%、科学 86%）——与 GPT-5 (89.7%) 几乎相同，并超过 Claude 4 (87.1%)。
91% on HumanEval – Competitive with GPT‑5 for Coding
Llama 4 Code 在 HumanEval 上的 pass@1 得分为 91%，而 GPT-5 为 92%，Claude 4 为 88%。擅长 Python、JavaScript 和 Rust。
Multilingual Support – 200 Languages
经过多种多语言语料库的训练，在许多低资源语言（例如斯瓦希里语、他加禄语、印地语）上的表现优于 GPT-5。
128k Context Window (Expandable to 1M)
处理长文档、代码库和对话。通过滑动窗口注意力的实验 1M 上下文可在研究分支中使用。
Ultra‑Low Inference Cost – $2/M Tokens (Hosted)
由于 SAAR 和量化 (FP8)，托管推理比 GPT-5 便宜 7 倍，而自托管甚至更低（在商品硬件上估计为 0.50 美元/百万代币）。
Customizable and Fine‑Tunable
完全开源允许任何人针对特定领域的任务（医疗、法律、金融）调整自己的数据——这是封闭模型所不具备的功能。
Partnerships with Major Cloud Providers
AWS、Azure、GCP 和 OVH 提供 Llama 4 作为托管服务，可轻松访问 API。开发者第一个月免费。
✓Pros
- ✓性能与 GPT-5 相当，而成本仅为 GPT-5 的一小部分
- ✓完全开源——不限制使用或重新分发
- ✓超低推理成本 – 2 美元/百万代币托管，甚至更便宜的自托管
- ✓多语言和多模式（仅文本，但处理代码和结构化数据）
- ✓大上下文窗口（128k）支持长文档
- ✓针对特定领域的任务可定制和微调
- ✓可在主要云提供商上使用，并可轻松访问 API
- ✓前沿人工智能民主化——促进服务欠缺地区的创新
✗Cons
- ✗1 万亿个参数需要大量硬件进行自托管（至少 8 个 A100 GPU）
- ✗训练数据可能存在偏差和局限性（尽管Meta已经实现了过滤）
- ✗尚未实现多模式（没有原生视觉或音频）——但 Meta 暗示将在 2027 年推出多模式版本
- ✗许可仍然需要归属并禁止用于某些有害应用（不具有约束力）
- ✗社区支持和文档才刚刚开始 – 可能需要时间才能成熟
- ✗开源允许不良行为者滥用模型 - Meta 依赖于负责任的使用承诺
- ✗托管 API 定价虽然便宜，但仍适合大规模生产
- ✗该模型可能不像 GPT-5 那样安全（无基于章程的审计）