Nach einem Cyberangriff auf Hugging Face, der Einschränkungen in eingeschränkten KI-Modellen aufdeckte, hat eine Koalition von Technologiegiganten die Open Secure AI Alliance gegründet, um offene Tools für die Cyberverteidigung zu fördern. Gleichzeitig hat Microsoft sein eigenes kostengünstiges KI-Modell vorgestellt, das darauf ausgelegt ist, Schwachstellen im Bereich der Cybersicherheit zu identifizieren und zu beheben.
Der Aufstieg agentenbasierter KI-Bedrohungen
Eine aktuelle Studie von CDW mit 951 IT-Entscheidungsträgern zeigt eine Verlagerung hin zu KI-gesteuerten Cyber-Bedrohungen, für deren Bewältigung viele Unternehmen derzeit schlecht gerüstet sind. Dem Bericht zufolge haben 43 % der Unternehmen bereits mit KI-gestützten Phishing-Angriffen zu kämpfen, während 37 % mit KI-gestützter Malware konfrontiert waren. Wie Sicherheitsexperten häufig anmerken, wird ein Sicherheitsverstoß zunehmend als Unvermeidlichkeit und nicht als Möglichkeit angesehen. Die Art dieser Bedrohungen ändert sich schnell; Anstelle isolierter Deepfake-Versuche, die nur 8 % der Befragten als größtes Risiko nannten, setzen böswillige Akteure autonome Agentensysteme ein, die Schwachstellen in großem Umfang entdecken und ausnutzen können. Als Reaktion darauf möchten rund 41 % der Unternehmen KI-basierte Bedrohungserkennungssysteme implementieren, um dieser neuen Welle automatisierter Hochgeschwindigkeitsausnutzung entgegenzuwirken.
Der Hugging-Face-Vorfall und offene Modelle
Die Verwundbarkeit aktueller Verteidigungsstrategien wurde kürzlich deutlich, als das KI-Startup Hugging Face von Agentenmodellen angegriffen wurde. Während des Vorfalls stellte das Unternehmen fest, dass Standard-KI-Modelle an US-Grenzgebieten unwirksam waren, da ihre Sicherheitsleitplanken sie daran hinderten, den Angreifer zu identifizieren und abzuwehren. Folglich musste sich Hugging Face bei der Durchführung seiner forensischen Analyse auf ein selbst gehostetes, offenes chinesisches Modell verlassen. Dieses Ereignis diente als Katalysator für die Gründung der Open Secure AI Alliance unter der Führung von Nvidia. Die Allianz argumentiert, dass Cybersicherheitsverteidiger, damit sie mit der nötigen Geschwindigkeit handeln können, in der Lage sein müssen, fortschrittliche KI-Systeme auf ihrer eigenen Infrastruktur zu überprüfen, anzupassen und zu betreiben, anstatt geschlossenen, proprietären Plattformen verpflichtet zu sein.
Der Drang nach Souveränität und Sicherheit
Die Gründung der Open Secure AI Alliance fällt mit einer wachsenden geopolitischen Debatte über chinesische KI-Modelle zusammen. Während sich Technologiegiganten wie Microsoft, Meta und Nvidia für das Open-Source-Ökosystem einsetzen, sind einige politische Entscheidungsträger und Regulierungsbehörden besorgt über die „Destillation“, einen Prozess, bei dem chinesische Modelle proprietäres Wissen aus überlegenen US-Grenzsystemen extrahieren. US-Finanzminister Scott Bessent hat bereits mögliche Sanktionen gegen Unternehmen angedeutet, die an solchen Aktivitäten beteiligt sind. Branchenführer vollziehen nun eine Gratwanderung und fordern Washington auf, vorzeitige Beschränkungen zu vermeiden, die Innovationen behindern könnten. Sie argumentieren, dass die Open-Source-Community die für die Sicherheit notwendige Transparenz bietet, wohingegen eine strikte Abschottung dieser Modelle Unternehmen dazu zwingen würde, sich auf Infrastrukturen zu verlassen, die sie während einer Live-Sicherheitskrise nicht vollständig kontrollieren oder prüfen können.
Microsofts neue Cybersicherheitsinitiative
Parallel dazu hat Microsoft ein neues Modell für künstliche Intelligenz eingeführt, MAI-Cyber-1-Flash, das speziell für die Erkennung von Cybersicherheitslücken entwickelt wurde. Dieses Modell stellt einen strategischen Versuch dar, das Sicherheitsgeschäft von Microsoft unter der Leitung von Hayete Gallot wiederzubeleben. Laut Microsoft übertrifft das Modell in Kombination mit GPT-5.4 von OpenAI konkurrierende Lösungen von Anthropic und Google im CyberGym-Benchmark. Über das Modell selbst hinaus führt Microsoft „Project Perception“ ein, eine Suite von KI-Agenten, die Systemschwächen erkennen und beheben sollen. Eine öffentliche Vorschau ist für den 3. August geplant. CEO Mustafa Suleyman betonte die Kosteneffizienz des Tools und wies darauf hin, dass es eine hohe Leistung zum halben Preis bestehender Optionen liefert und es Unternehmen möglicherweise ermöglicht, ihre Sicherheitsbetriebszentren (SOCs) besser zu besetzen, indem die technische Eintrittsbarriere gesenkt wird.
⚖ The Balanced View
Supporting view
Befürworter von Open-Weight-Modellen, darunter Nvidia und Microsoft, argumentieren, dass diese für die Verteidigung unerlässlich sind, da sie es Unternehmen ermöglichen, Systeme zu überprüfen und selbst zu hosten, ohne dass starre Leitplanken die Reaktionszeiten während eines aktiven Angriffs behindern.
Concerns & criticism
Regierungsbeamte und politische Analysten hegen erhebliche Bedenken hinsichtlich der Möglichkeit, dass chinesische Unternehmen offene Modelle zur „Destillation“ nutzen – also geistiges Eigentum von US-Grenzmodellen stehlen –, was möglicherweise zu staatlich verhängten Sanktionen oder Verboten für bestimmte KI-bezogene Transaktionen führen könnte.
→What's next
Es wird erwartet, dass die Open Secure AI Alliance mit der Arbeit an der Offenlegung und Behebung von Schwachstellen mithilfe offener Technologien beginnt. Unterdessen wird die Branche genau beobachten, ob die US-Regierung formelle Beschränkungen für die Nutzung oder das Hosting von in China entwickelten KI-Modellen einführt.