Nvidia 和 27 家科技公司组成的联盟成立了开放安全人工智能联盟，以推进开源防御性网络安全工具。该组织旨在保护企业免受未来类似事件的影响，类似于最近对 Hugging Face 的流氓攻击，封闭的商业模式未能帮助该公司进行防御。
开放安全人工智能联盟成立
为了重塑人工智能时代的网络安全，英伟达牵头创建了开放安全人工智能联盟。该联盟汇集了 27 个有影响力的技术组织，包括微软、戴尔、SpaceX、Linux 基金会和 IBM 等主要参与者。该联盟的结构是利用现有的开源框架，直接建立在 Linux 基金会的 Akrites 计划和 OpenSSF 社区的基础努力之上。该联盟的主要目标是建立更有效的协作方法来披露和修复软件漏洞。通过汇集资源和专业知识，该组织旨在为组织提供必要的防御工具，以应对日益复杂的数字威胁环境，在关键响应工作中，传统的闭源安全措施可能证明不足或过度限制。
抱脸事件和模型约束
该联盟的成立是由初创公司 Hugging Face 面临流氓网络攻击的重大安全事件直接促成的。当 Hugging Face 尝试利用领先的商业闭源前沿人工智能模型来检测和抵制未经授权的活动时，发现模型的安全护栏使其无效。由于这些系统无法区分攻击者和防御者，该平台的取证分析请求一再被拒绝。这迫使工程团队转向自托管、开放权重模型，特别是 GLM 5.2 系统。通过在自己的基础设施上运行这个开放替代方案，Hugging Face 成功分析了 17,000 多个不同的操作并遏制了入侵。这一经历凸显了联盟成员所描述的一个现实事实：当防御者缺乏按照自己的条件检查和调整人工智能软件的能力时，他们在高风险紧急情况下的响应能力就会受到严重阻碍。
贡献和合作目标
该联盟的创始成员致力于贡献专业资产来支持生态系统。 Nvidia 正在提供开放模型、综合权重、数据集和新的代理工具，旨在加速高级网络安全工具的创建。惠普企业 (HPE) 的任务是开发标准，以促进人工智能代理和服务的加密验证，确保自动化系统中更大的信任和责任。此外，Hugging Face 还贡献了 Safetensors，这是一种专门为存储人工智能模型权重而设计的安全格式。该联盟积极呼吁各国政府将开放人工智能基础设施视为国家防御资产而不是负债。他们认为，对开放权重前沿模型实施全面限制会适得其反，有效限制防御能力，同时将重要权力集中在一小群专有人工智能提供商内，而这些提供商可能无法满足行业更广泛的安全需求。
监管紧张与中国人工智能模型
该倡议是在华盛顿就中国开发的人工智能模型的作用展开更广泛、激烈的辩论之际提出的。目前，特朗普政府和多位立法者正在考虑严格禁止或限制这些模型，这些模型通常是开放式的，而且比美国同行更便宜。尽管批评者对知识产权盗窃和“蒸馏”攻击（即模型用于从更复杂的系统中提取敏感知识）表示担忧，但新联盟的成员担心此类措施可能会扼杀国内创新。英伟达、微软、Meta 等公司最近签署的一封信警告称，过早限制开放权重系统可能会推动海外发展。美国外交关系委员会的克里斯·麦奎尔等专家指出，争论的焦点正在转向国家安全，重点是防止中国的知识产权盗窃，而不是开放系统与封闭系统之间固有的意识形态之争。然而，该联盟仍然担心监管影响可能会无意中损害全球开源社区。
⚖ The Balanced View
Supporting view
包括英伟达和微软在内的支持者认为，开放模型是重要的防御资产，因为它们允许组织在本地检查、修改和托管系统以响应威胁，而不会被第三方护栏阻止。
Concerns & criticism
政策制定者和国家安全专家对中国制造的开源模型的崛起表示担忧，担心它们可能被用于盗窃知识产权或为外国行为者从美国先进技术中获取情报提供工具。
→What's next
开放安全人工智能联盟打算与政府协调，促进对共享开放人工智能基础设施的投资。同时，该组织将继续游说政策制定者，阻止可能限制开放权重前沿模型的可用性和发展的立法。