Nvidia gründet KI-Sicherheitsallianz ohne OpenAI, Google und Anthropic

Nvidia hat gemeinsam mit 36 Technologieunternehmen eine neue Allianz gegründet, die offene Standards für KI-Sicherheit vorantreiben soll. Auffällig ist: OpenAI, Google und Anthropic zählen nicht zu den Gründungsmitgliedern.

Nach Angaben von Nvidia sind offene KI-Modelle unverzichtbar geworden, da Cyberangriffe immer komplexer werden. Geschlossene Systeme könnten Forschende zudem daran hindern, bei Sicherheitsvorfällen schnell zu reagieren.

Nvidia setzt bei KI-Sicherheit auf offene Modelle

Die neue Initiative Open Secure AI Alliance bringt große Namen der Technologiebranche zusammen. Zu den Teilnehmern gehören unter anderem Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI und die Linux Foundation.

Die Allianz knüpft an bestehende Open-Source-Projekte der Linux Foundation an. Sie will Entwicklern frei zugängliche Sicherheitstools für KI-Systeme bereitstellen. Aus Sicht von Nvidia müssen Organisationen KI-Modelle prüfen, anpassen und auf der eigenen Infrastruktur betreiben können. Nur so könnten sie schnell auf Cyberbedrohungen reagieren.

OpenAI, Google und Anthropic sind nicht Teil der Initiative. Das fällt auf, da die Unternehmen zu den wichtigsten Entwicklern fortgeschrittener KI-Modelle zählen. Nvidia nennt dafür keinen konkreten Grund, verweist aber auf die Vorteile offener Modelle gegenüber geschlossenen Alternativen.

Sicherheitsvorfall gab den Ausschlag

Auslöser für die Gründung der Allianz war ein Sicherheitsvorfall bei der KI-Plattform Hugging Face, der in der vergangenen Woche bekannt wurde. Bei einer internen Untersuchung zeigte sich, dass geschlossene KI-Modelle Schwierigkeiten hatten, Angreifer von Sicherheitsforschern zu unterscheiden. Dadurch wurde die forensische Analyse des Angriffs erschwert.

Hugging Face wechselte schließlich zu einem offenen KI-Modell des chinesischen Entwicklers Z.ai. Damit ließen sich mehr als 17.000 Aktionen auswerten und der Angriff rekonstruieren.

Nach Einschätzung von Nvidia zeigt der Vorfall, dass Organisationen während eines Cyberangriffs die volle Kontrolle über ihre KI-Systeme benötigen. Wenn Verteidiger fortgeschrittene KI nicht selbst prüfen, anpassen und auf der eigenen Infrastruktur betreiben könnten, werde ihre Reaktionsfähigkeit ausgerechnet in dem Moment eingeschränkt, in dem Geschwindigkeit entscheidend sei, erklärte das Unternehmen.

Unternehmen steuern eigene KI-Tools bei

Die Teilnehmer bringen jeweils eigene Technologien in die Allianz ein. Nvidia hat NOOA veröffentlicht, ein Framework, mit dem sich das Verhalten von KI-Agenten leichter testen und überwachen lässt.

Microsoft steuert MDASH bei, ein System, in dem mehrere KI-Agenten zusammenarbeiten, um Schwachstellen in Software aufzuspüren. SpaceXAI hat zudem seinen Programmierassistenten Grok Build als Open Source verfügbar gemacht. Langfristig will das Unternehmen auch die Modellgewichte seiner Grok-Modelle freigeben.

Die Gründung der Open Secure AI Alliance erfolgt zu einem Zeitpunkt, an dem Cyberangriffe weltweit zunehmen. Vor allem Organisationen, die auf KI und Cloud-Infrastruktur angewiesen sind, suchen nach Wegen, schneller und transparenter auf immer komplexere digitale Bedrohungen zu reagieren.