После кибератаки на Hugging Face, которая выявила ограничения в ограниченных моделях искусственного интеллекта, коалиция технологических гигантов сформировала Open Secure AI Alliance для продвижения инструментов с открытым весом для киберзащиты. Одновременно с этим Microsoft представила собственную экономичную модель искусственного интеллекта, предназначенную для выявления и устранения уязвимостей кибербезопасности.
Рост угроз агентного ИИ
Недавнее исследование CDW, в котором приняли участие 951 ИТ-руководитель, подчеркивает сдвиг в сторону киберугроз, управляемых искусственным интеллектом, для борьбы с которыми многие организации в настоящее время плохо подготовлены. Согласно отчету, 43% компаний уже сталкивались с фишинговыми схемами, усиленными искусственным интеллектом, а 37% столкнулись с вредоносным ПО, дополненным искусственным интеллектом. Как часто отмечают эксперты по безопасности, взлом все чаще рассматривается как неизбежность, а не как возможность. Природа этих угроз быстро меняется; вместо изолированных попыток дипфейков, которые только 8% респондентов назвали главным риском, злоумышленники развертывают автономные агентные системы, которые могут обнаруживать и использовать уязвимости в больших масштабах. В ответ примерно 41% компаний стремятся внедрить системы обнаружения угроз на основе искусственного интеллекта, чтобы противостоять новой волне высокоскоростных автоматизированных атак.
Случай с обнимающимся лицом и открытые модели
Уязвимость нынешних защитных стратегий была недавно подчеркнута, когда стартап Hugging Face, занимающийся искусственным интеллектом, подвергся атаке со стороны агентных моделей. Во время инцидента компания обнаружила, что стандартные модели искусственного интеллекта на границе США были неэффективны, поскольку их защитные ограждения не позволяли им идентифицировать и заблокировать агрессора. Следовательно, Hugging Face пришлось полагаться на автономную китайскую модель с открытым весом для проведения судебно-медицинской экспертизы. Это событие послужило катализатором для формирования Open Secure AI Alliance, возглавляемого Nvidia. Альянс утверждает, что для того, чтобы защитники кибербезопасности могли действовать с необходимой скоростью, они должны иметь возможность проверять, адаптировать и использовать передовые системы искусственного интеллекта в своей собственной инфраструктуре, а не быть привязанными к закрытым проприетарным платформам.
Стремление к суверенитету и безопасности
Создание Open Secure AI Alliance совпадает с растущими геополитическими дебатами относительно китайских моделей искусственного интеллекта. В то время как технологические гиганты, такие как Microsoft, Meta и Nvidia, выступают за экосистему с открытым исходным кодом, некоторые политики и регуляторы обеспокоены «дистилляцией» — процессом, в котором китайские модели извлекают запатентованные знания из передовых систем США. Министр финансов США Скотт Бессент уже намекнул на потенциальные санкции против компаний, занимающихся подобной деятельностью. Лидеры отрасли сейчас идут по канату, призывая Вашингтон избегать преждевременных ограничений, которые могут помешать инновациям. Они утверждают, что сообщество открытого исходного кода обеспечивает прозрачность, необходимую для безопасности, тогда как строгое закрытие этих моделей вынудит компании полагаться на инфраструктуру, которую они не смогут полностью контролировать или проверять во время реального кризиса безопасности.
Новая инициатива Microsoft по кибербезопасности
Параллельно с этим Microsoft представила новую модель искусственного интеллекта MAI-Cyber-1-Flash, специально созданную для обнаружения уязвимостей кибербезопасности. Эта модель представляет собой стратегическую попытку оживить бизнес Microsoft в области безопасности под руководством исполнительного директора Хайете Галлот. По данным Microsoft, в сочетании с GPT-5.4 от OpenAI модель превосходит конкурирующие решения от Anthropic и Google в тесте CyberGym. Помимо самой модели, Microsoft внедряет «Project Perception», набор агентов искусственного интеллекта, предназначенных для обнаружения и устранения недостатков системы, публичная предварительная версия которого запланирована на 3 августа. Генеральный директор Мустафа Сулейман подчеркнул экономическую эффективность инструмента, отметив, что он обеспечивает высокую производительность за половину стоимости существующих вариантов, что потенциально позволит компаниям лучше укомплектовать свои операционные центры безопасности (SOC) за счет снижения технического барьера для входа.
⚖ The Balanced View
Supporting view
Сторонники моделей открытого веса, в том числе Nvidia и Microsoft, утверждают, что они необходимы для защиты, поскольку позволяют компаниям проверять и самостоятельно размещать системы без вмешательства жестких ограждений, которые сокращают время реагирования во время активной атаки.
Concerns & criticism
Правительственные чиновники и политические аналитики выражают серьезную обеспокоенность по поводу того, что китайские компании могут использовать открытые модели для «перегонки» — кражи интеллектуальной собственности у пограничных моделей США — что может привести к возможным санкциям или запретам со стороны правительства на конкретные транзакции, связанные с ИИ.
→What's next
Ожидается, что Open Secure AI Alliance начнет работу над обнаружением и устранением уязвимостей с использованием открытых технологий. Между тем, отрасль будет внимательно следить за тем, вводит ли правительство США формальные ограничения на использование или размещение разработанных в Китае моделей искусственного интеллекта.