König Charles lädt Nvidia, OpenAI und Anthropic zum KI-Gipfel in den Palast

In dieser Woche dreht sich erneut vieles um KI, diesmal jedoch nicht um neue Modelle oder Milliardeninvestitionen. Der britische König Charles empfängt Spitzenmanager von Nvidia, OpenAI, Anthropic und Google DeepMind zu Gesprächen über die Zukunft der Technologie. Im Mittelpunkt steht die Frage, ob gemeinsame Grundsätze nötig sind, um KI sicher weiterzuentwickeln. Auch der britische KI-Minister nimmt teil.

Mit dem Treffen schaltet sich Charles in eine Debatte ein, die in der KI-Branche immer lauter geführt wird. OpenAI-Chef Sam Altman, Elon Musk und Anthropic-CEO Dario Amodei plädierten in den vergangenen Tagen allesamt für mehr Vorsicht bei der Entwicklung der leistungsfähigsten KI-Modelle.

Charles versammelt die KI-Spitze an einem Tisch

Sprecher des Buckingham Palace sagen, bei dem Gespräch gehe es darum, wie KI der Gesellschaft helfen könne, ohne die Würde des Menschen aus dem Blick zu verlieren. Zudem werde erörtert, ob Unternehmen gemeinsame Prinzipien brauchen, um die Technologie sicher weiterzuentwickeln.

Der Zeitpunkt ist kein Zufall. Amodei rief am Wochenende ausdrücklich dazu auf, die Entwicklung der leistungsfähigsten Modelle zu verlangsamen. In der vergangenen Woche teilte Anthropic zudem mit, dass seine Claude-Modelle bereits unter anderem für Cyberoperationen, Betrug, Überwachung und Aktivitäten im Zusammenhang mit Waffen eingesetzt worden seien.

Das Vereinigte Königreich versucht dabei, einen Mittelweg einzuschlagen. Das Land reguliert KI weniger streng als die Europäische Union, verfügt seit 2023 aber über ein AI Security Institute. Dieses Institut erhält vor der Veröffentlichung Zugang zu bestimmten neuen Modellen, um mögliche Risiken zu untersuchen.

Trump will die KI-Entwicklung nicht bremsen

Globale Vereinbarungen dürften vorerst schwierig bleiben. Präsident Donald Trump wies die Forderungen nach einer Verlangsamung am Sonntag zurück. Nach seiner Darstellung würde ein Abbremsen vor allem China die Chance geben, die Vereinigten Staaten zu überholen.

Hinzu kommt ein enormer finanzieller Anreiz. KI-Unternehmen sammeln Milliarden ein und erreichen Bewertungen, die sich nur rechtfertigen lassen, wenn sich die Technologie rasch weiter verbessert. Das führt zu einem heiklen Widerspruch. Dieselben Unternehmen, die Anlegern enormes Wachstum in Aussicht stellen, verlangen zugleich mehr Zeit, um die Sicherheit ihrer Technologie zu gewährleisten.

Charles kann diesen Widerspruch nicht auflösen. Doch sein Treffen zeigt, wie groß die KI-Debatte inzwischen geworden ist. Was als Debatte zwischen Forschern und Techunternehmen begann, steht nun sogar im Buckingham Palace auf der Tagesordnung.