US-Regierung testet KI-Modelle von Google, Microsoft und xAI

Google, Microsoft und xAI von Elon Musk gewähren der US-Regierung künftig Einblick in ihre neuesten KI-Modelle. Die drei Technologiegiganten gewähren Washington frühzeitigen Zugang zu ihren leistungsfähigsten Systemen, sodass Regierungswissenschaftler sie auf nationale Sicherheitsrisiken prüfen können, bevor die Öffentlichkeit sie nutzt.

Drei Giganten öffnen ihre Türen

Das Center for AI Standards and Innovation (CAISI), ein Teil des US-Handelsministeriums, gab die Vereinbarungen gestern bekannt. Die drei Unternehmen liefern sogenannte Frontier-Modelle, die fortschrittlichsten KI-Systeme, die noch nicht auf dem Markt sind.

„Unabhängige, rigorose Messwissenschaft ist entscheidend, um Frontier-KI und ihre Auswirkungen auf die nationale Sicherheit zu verstehen“, erklärte CAISI-Direktor Chris Fall.

„Diese umfassenden Kooperationen mit der Industrie helfen uns, unsere Arbeit im öffentlichen Interesse in einem entscheidenden Moment zu verstärken.“

Der direkte Auslöser war die Konkurrenz von Anthropic. Letzten Monat enthüllte das Unternehmen, dass sein neues Claude Mythos-Modell überraschend effektiv bei der Identifizierung von Schwachstellen in der Cybersicherheit war.

Das alarmierte Washington. Mozilla konnte mit Mythos 271 Schwachstellen in seinem Firefox-Browser identifizieren und beheben. Anthropic entschied sich daher, das Modell nicht weit zu verbreiten, sondern es nur einem ausgewählten Partnerkreis zur Verfügung zu stellen.

OpenAI und Anthropic arbeiteten bereits freiwillig mit CAISI zusammen, um ihre unveröffentlichten Modelle auf Schwachstellen zu testen. Diese Gruppe wird nun deutlich erweitert.

Was suchen die Wissenschaftler?

Der Fokus liegt auf konkreten Bedrohungen. Die Wissenschaftler konzentrieren sich darauf, dass fortschrittliche Modelle für Cyberangriffe auf die amerikanische Infrastruktur eingesetzt werden könnten.

Auch wollen sie verhindern, dass Gegner KI für die Entwicklung chemischer oder biologischer Waffen nutzen oder die Daten korrumpieren, mit denen amerikanische KI trainiert wird.

Entwickler liefern ihre Modelle oft ohne die üblichen Sicherheitsfilter aus. So kann CAISI wirklich unter die Haube schauen. Das Zentrum hat inzwischen mehr als vierzig Evaluierungen durchgeführt.

Trump vollzieht Kehrtwende

Es ist eine bemerkenswerte Kehrtwende für Präsident Donald Trump, der stets auf möglichst wenige Vorschriften für den KI-Sektor drängte. An seinem ersten Arbeitstag hob er ein Dekret seines Vorgängers Joe Biden aus dem Jahr 2023 auf, das Entwickler verpflichtete, Sicherheitstests mit der Regierung vor der öffentlichen Freigabe zu teilen.

Laut The New York Times sprach das Weiße Haus letzte Woche mit Führungskräften von Anthropic, Google und OpenAI über ein neues Dekret. Darin soll eine Arbeitsgruppe eingerichtet werden, die fortschrittliche Modelle im Vorfeld prüft. Mit diesem Schritt scheint Trump doch seine eigene „großartige Errungenschaft“ an die Leine legen zu wollen.