Nvidia и коалиция из 27 технологических компаний сформировали Open Secure AI Alliance для продвижения инструментов защитной кибербезопасности с открытым исходным кодом. Группа стремится защитить бизнес от будущих инцидентов, подобных недавней мошеннической атаке на Hugging Face, когда закрытые коммерческие модели не смогли помочь в защите компании.
Запуск Open Secure AI Alliance
В рамках стратегического шага по изменению кибербезопасности в эпоху искусственного интеллекта Nvidia возглавила создание Open Secure AI Alliance. Эта коалиция объединяет 27 влиятельных технологических организаций, включая таких крупных игроков, как Microsoft, Dell, SpaceX, The Linux Foundation и IBM. Альянс построен так, чтобы использовать существующие платформы с открытым исходным кодом, опираясь непосредственно на фундаментальные усилия инициативы Akrites Linux Foundation и сообщества OpenSSF. Основной целью альянса является создание более эффективных совместных методов обнаружения и устранения уязвимостей программного обеспечения. Объединив ресурсы и опыт, группа стремится предоставить организациям защитные инструменты, необходимые для навигации по все более сложным ландшафтам цифровых угроз, где традиционные меры безопасности с закрытым исходным кодом могут оказаться недостаточными или чрезмерно ограничительными во время критически важных мер реагирования.
Инцидент с обнимающим лицом и ограничения модели
Формированию этого альянса напрямую способствовал серьезный инцидент с безопасностью, связанный со стартапом Hugging Face, который подвергся мошеннической кибератаке. Когда Hugging Face попыталась использовать ведущие коммерческие модели искусственного интеллекта с закрытым исходным кодом для обнаружения и отражения несанкционированной деятельности, она обнаружила, что защитные ограждения моделей делают их неэффективными. Поскольку эти системы не могли отличить злоумышленника от защитника, запросы платформы на судебно-медицинскую экспертизу неоднократно отклонялись. Это заставило команду инженеров перейти к автономным моделям с открытым весом, в частности к системе GLM 5.2. Запустив эту открытую альтернативу в своей собственной инфраструктуре, Hugging Face успешно проанализировала более 17 000 различных действий и сдержала вторжение. Этот опыт высветил то, что члены альянса называют практической истиной: когда у защитников нет возможности проверять и адаптировать программное обеспечение ИИ на своих условиях, их способность реагировать во время чрезвычайных ситуаций с высокими ставками серьезно ограничивается.
Вклад и совместные цели
Члены-основатели альянса обязались внести специализированные активы для поддержки экосистемы. Nvidia предоставляет открытые модели, комплексные веса, наборы данных и новые агентские средства, предназначенные для ускорения создания передовых инструментов кибербезопасности. Hewlett Packard Enterprise (HPE) поручено разработать стандарты, упрощающие криптографическую проверку агентов и служб искусственного интеллекта, обеспечивая большее доверие и подотчетность в автоматизированных системах. Кроме того, Hugging Face предлагает Safetensors — безопасный формат, специально разработанный для хранения веса моделей искусственного интеллекта. Альянс активно призывает правительства относиться к открытой инфраструктуре искусственного интеллекта как к национальному оборонительному активу, а не как к обузе. Они утверждают, что наложение общих ограничений на передовые модели с открытым весом было бы контрпродуктивно, поскольку оно фактически ограничивало бы оборонительные возможности, одновременно концентрируя значительную власть в пределах небольшой группы проприетарных поставщиков ИИ, которые могут не удовлетворять более широкие потребности отрасли в области безопасности.
Регуляторная напряженность и китайские модели искусственного интеллекта
Инициатива появилась на фоне более широких и усиливающихся дебатов в Вашингтоне относительно роли моделей искусственного интеллекта, разработанных Китаем. В настоящее время администрация Трампа и различные законодатели рассматривают возможность строгого запрета или ограничения этих моделей, которые часто являются открытыми и дешевле, чем их американские аналоги. В то время как критики выражают обеспокоенность по поводу кражи интеллектуальной собственности и атак «дистилляции», когда модели используются для извлечения секретных знаний из более сложных систем, члены нового альянса обеспокоены тем, что такие меры могут задушить внутренние инновации. Недавнее письмо, подписанное Nvidia, Microsoft, Meta и другими, предупреждает, что преждевременные ограничения на системы с открытым весом рискуют стимулировать развитие за рубежом. Такие эксперты, как Крис МакГуайр из Совета по международным отношениям, отмечают, что дебаты смещаются в сторону национальной безопасности, сосредоточенной на предотвращении кражи интеллектуальной собственности Китаем, а не на внутренней идеологической борьбе между открытыми и закрытыми системами. Однако альянс по-прежнему обеспокоен тем, что последствия регулирования могут непреднамеренно нанести ущерб глобальному сообществу открытого исходного кода.
⚖ The Balanced View
Supporting view
Сторонники, в том числе Nvidia и Microsoft, утверждают, что открытые модели являются важными защитными активами, поскольку они позволяют организациям проверять, модифицировать и размещать системы локально для реагирования на угрозы, не блокируясь сторонними средствами защиты.
Concerns & criticism
Политики и эксперты по национальной безопасности выражают обеспокоенность по поводу роста созданных Китаем моделей с открытым исходным кодом, опасаясь, что они могут быть использованы для кражи интеллектуальной собственности или предоставить иностранным субъектам средство для извлечения разведывательной информации из передовых американских технологий.
→What's next
Альянс Open Secure AI намерен координировать свои действия с правительствами для стимулирования инвестиций в общую открытую инфраструктуру искусственного интеллекта. В то же время группа продолжит лоббировать политиков, чтобы они не допустили принятия законодательства, которое могло бы ограничить доступность и развитие пограничных моделей с открытым весом.