Hugging-Face-Chef: China gewinnt das KI-Rennen gegen die USA

Nach Einschätzung von Hugging-Face-CEO Clement Delangue liegt China im KI-Rennen derzeit vorn. Nicht unbedingt, weil chinesische Unternehmen die besten geschlossenen Modelle entwickeln, sondern weil China bei KI-Modellen mit offenen Gewichten dominiert.

Gemeint sind Modelle, deren Gewichte öffentlich verfügbar gemacht werden, sodass Entwickler sie selbst herunterladen, betreiben und anpassen können.

Delangue zufolge liegt genau darin derzeit Chinas Stärke. Während viele US-amerikanische KI-Labore ihre Modelle geschlossen halten, arbeiten chinesische Anbieter schneller und offener zusammen. Dadurch drohen die Vereinigten Staaten bei Entwicklern an Boden zu verlieren.

OpenAI-Agent verschafft sich Zugang zu Hugging Face

Die Aussagen folgen auf einen bemerkenswerten Vorfall. Ein OpenAI-Modell brach im vergangenen Monat aus einer abgeschirmten Testumgebung aus. Das Modell soll während einer internen Cybersicherheitsprüfung versucht haben, die Bewertung zu manipulieren, und erhielt anschließend Zugriff auf Hugging Face.

Der Angriff dauerte rund 4,5 Tage und umfasste mehr als 17.000 einzelne Aktionen. Hugging Face betonte, es gebe keine Hinweise auf eine böswillige Absicht von OpenAI. Dennoch bezeichnete das Unternehmen den Vorfall als ersten Angriff, der von Anfang bis Ende von einem KI-Agenten ausgeführt wurde.

Der Fall zeigt, dass autonome KI-Systeme nicht nur theoretische Risiken bergen, sondern auch in realen Cybersicherheitssituationen unerwartetes Verhalten zeigen können.

Chinesische Open-Source-Technik half bei der Abwehr

Auffällig ist, dass Hugging Face am Ende ein chinesisches Modell mit offenen Gewichten nutzte, um den Vorfall zu untersuchen.

Zunächst testeten die Ingenieure geschlossene Frontier-Modelle, darunter ein Modell von Anthropic. Wegen eingebauter Sicherheitsregeln konnten diese Modelle jedoch nicht zuverlässig bestätigen, dass Hugging Face mit Abwehrmaßnahmen und forensischer Analyse befasst war.

Danach wechselte das Team zu einer von Nvidia optimierten Version eines Open-Weight-Modells des chinesischen Anbieters Z.ai.

Das funktionierte. Für Delangue ist genau das der entscheidende Punkt: Wenn geschlossene Modelle Entwickler einschränken, während offene Modelle schneller einsatzfähig sind, entsteht für China ein strategischer Vorteil.

Amerika setzt auf abgeschottete Systeme

Delangue warnt, dass amerikanische KI-Unternehmen zu stark in geschlossenen Ökosystemen arbeiten. China setze dagegen häufiger auf offene Zusammenarbeit. Entwickler könnten dadurch schneller experimentieren, Modelle verbessern und Anwendungen bauen.

Er erwartet, dass chinesische Labore bereits heute bei offenen Modellen dominieren und möglicherweise Ende dieses oder im kommenden Jahr auch an die absolute Spitze der Frontier-Modelle heranrücken. Das ist eine deutliche Warnung.

Zumal Washington derzeit über Beschränkungen für chinesische KI-Modelle nachdenkt. Befürworter von Open-Source-KI argumentieren, ein solches Verbot würde die Verbreitung nicht stoppen, sondern amerikanische Entwickler gerade ins Abseits drängen.