Nvidia and Tech Consortium Launch Open Secure AI Alliance Following Cyberattack

In einem strategischen Schritt zur Neugestaltung der Cybersicherheit im Zeitalter der künstlichen Intelligenz hat Nvidia die Gründung der Open Secure AI Alliance vorangetrieben. Diese Koalition vereint 27 einflussreiche Technologieorganisationen, darunter große Player wie Microsoft, Dell, SpaceX, The Linux Foundation und IBM. Die Allianz ist so strukturiert, dass sie bestehende Open-Source-Frameworks nutzt und direkt auf den grundlegenden Bemühungen der Akrites-Initiative der Linux Foundation und der OpenSSF-Community aufbaut. Das Hauptziel der Allianz besteht darin, effektivere, kollaborative Methoden zur Offenlegung und Behebung von Softwareschwachstellen zu etablieren. Durch die Bündelung von Ressourcen und Fachwissen möchte die Gruppe Organisationen mit den Verteidigungsinstrumenten ausstatten, die sie für den Umgang mit immer komplexer werdenden digitalen Bedrohungslandschaften benötigen, in denen sich traditionelle, geschlossene Sicherheitsmaßnahmen bei kritischen Reaktionsbemühungen möglicherweise als unzureichend oder übermäßig restriktiv erweisen.

Die Bildung dieser Allianz wurde direkt durch einen bedeutenden Sicherheitsvorfall ausgelöst, an dem das Startup Hugging Face beteiligt war, das einem betrügerischen Cyberangriff ausgesetzt war. Als Hugging Face versuchte, führende kommerzielle Closed-Source-Frontier-KI-Modelle zu nutzen, um die unbefugte Aktivität zu erkennen und abzuwehren, stellte sich heraus, dass die Sicherheitsleitplanken der Modelle sie unwirksam machten. Da diese Systeme nicht zwischen Angreifer und Verteidiger unterscheiden konnten, wurden die forensischen Analyseanfragen der Plattform wiederholt abgelehnt. Dies zwang das Ingenieurteam dazu, auf selbstgehostete Open-Weight-Modelle umzusteigen, insbesondere auf das GLM 5.2-System. Durch die Ausführung dieser offenen Alternative auf seiner eigenen Infrastruktur konnte Hugging Face über 17.000 verschiedene Aktionen erfolgreich analysieren und den Einbruch eindämmen. Diese Erfahrung machte deutlich, was die Mitglieder der Allianz als praktische Wahrheit bezeichnen: Wenn Verteidiger nicht in der Lage sind, KI-Software nach ihren eigenen Vorstellungen zu überprüfen und anzupassen, ist ihre Fähigkeit, in Notfällen mit hohem Risiko zu reagieren, erheblich eingeschränkt.

Die Gründungsmitglieder der Allianz haben sich verpflichtet, spezielle Vermögenswerte zur Stärkung des Ökosystems beizusteuern. Nvidia stellt offene Modelle, umfassende Gewichtungen, Datensätze und neue Agent-Harnesses bereit, die die Entwicklung fortschrittlicher Cybersicherheitstools beschleunigen sollen. Hewlett Packard Enterprise (HPE) hat die Aufgabe, Standards zu entwickeln, um die kryptografische Überprüfung von KI-Agenten und -Diensten zu erleichtern und so mehr Vertrauen und Verantwortlichkeit in automatisierten Systemen sicherzustellen. Darüber hinaus steuert Hugging Face Safetensors bei, ein sicheres Format, das speziell für die Speicherung von KI-Modellgewichten entwickelt wurde. Das Bündnis fordert die Regierungen aktiv dazu auf, die offene KI-Infrastruktur als nationales Verteidigungsgut und nicht als Belastung zu betrachten. Sie argumentieren, dass die Einführung allgemeiner Beschränkungen für Open-Weight-Frontier-Modelle kontraproduktiv wäre, da die Verteidigungsfähigkeiten effektiv eingeschränkt würden und gleichzeitig erhebliche Macht auf eine kleine Gruppe proprietärer KI-Anbieter konzentriert würde, die möglicherweise nicht den breiteren Sicherheitsbedürfnissen der Branche gerecht würden.

Die Initiative kommt inmitten einer breiteren, sich intensivierenden Debatte in Washington über die Rolle der in China entwickelten KI-Modelle. Derzeit erwägen die Trump-Administration und verschiedene Gesetzgeber strikte Verbote oder Beschränkungen für diese Modelle, die oft ein offenes Gewicht haben und billiger sind als ihre amerikanischen Pendants. Während Kritiker Bedenken hinsichtlich des Diebstahls von geistigem Eigentum und „Destillations“-Angriffen äußern, bei denen Modelle verwendet werden, um sensibles Wissen aus komplexeren Systemen zu extrahieren, befürchten Mitglieder der neuen Allianz, dass solche Maßnahmen inländische Innovationen unterdrücken könnten. Ein kürzlich von Nvidia, Microsoft, Meta und anderen unterzeichneter Brief warnt davor, dass vorzeitige Beschränkungen für Open-Weight-Systeme die Entwicklung im Ausland vorantreiben könnten. Experten wie Chris McGuire vom Council on Foreign Relations stellen fest, dass sich die Debatte hin zu einem Fokus auf die nationale Sicherheit verlagert, der sich auf die Verhinderung des Diebstahls von geistigem Eigentum durch China konzentriert und nicht auf einen inhärenten ideologischen Kampf zwischen offenen und geschlossenen Systemen. Die Allianz ist jedoch weiterhin besorgt, dass regulatorische Folgen unbeabsichtigt der globalen Open-Source-Community schaden könnten.