Anthropic verklagt Pentagon, um Schwarze Liste zu vermeiden

Das AI-Unternehmen Anthropic, Entwickler des Chatbots Claude, hat eine Klage gegen das US-Verteidigungsministerium eingereicht. Das Pentagon plant, Anthropic auf die schwarze Liste zu setzen, weil das Unternehmen sich weigert, Einschränkungen für seine KI zu entfernen. Anthropic zieht klare Grenzen: keine autonomen Waffen und keine Überwachung von US-Bürgern.

Pentagon bestraft Anthropic wegen Verweigerung

Verteidigungsminister Pete Hegseth setzte Anthropic letzte Woche offiziell auf die schwarze Liste der nationalen Sicherheitskette. Dadurch wird die Nutzung der Technologie des Unternehmens durch amerikanische Regierungsbehörden stark eingeschränkt.

Der Grund: Anthropic weigert sich, die sogenannten Schutzmaßnahmen anzupassen. Das Unternehmen hat eingebaute Einschränkungen, die verhindern, dass seine KI für autonome Waffen oder umfangreiche Überwachung von Bürgern eingesetzt wird.

Laut Pentagon sollten private Unternehmen dem Militär nicht vorschreiben, wie es Technologie nutzen darf. Die amerikanische Gesetzgebung bestimmt, was erlaubt ist, nicht die Bedingungen eines KI-Unternehmens, so das Verteidigungsministerium.

Anthropic argumentiert, dass die Maßnahme rechtswidrig ist und Grundrechte verletzt.

Trump beendet Zusammenarbeit, OpenAI nutzt die Gelegenheit

Präsident Trump ordnete an, die Zusammenarbeit mit Anthropic vollständig einzustellen. Eine Übergangszeit von sechs Monaten dient dem Abbau laufender Projekte. Das trifft Anthropic hart: Das Pentagon hat im vergangenen Jahr Deals von bis zu 200 Millionen Dollar mit mehreren KI-Unternehmen abgeschlossen, darunter Anthropic, OpenAI und Google.

Der Zeitpunkt der nachfolgenden Ereignisse ist bezeichnend. Kurz nach der Entscheidung verkündete OpenAI, dass seine Technologie im amerikanischen Verteidigungsnetzwerk künftig breiter eingesetzt wird. CEO Sam Altman erklärte, OpenAI teile das Prinzip, dass Menschen stets die Kontrolle über Waffensysteme behalten müssten, doch das Unternehmen zieht bei weitem nicht dieselben harten Linien wie Anthropic.

Wer bestimmt den Einsatz von AI im Krieg?

Die Klage wirft eine grundlegende Frage auf. Dürfen Technologieunternehmen Grenzen für den militärischen Einsatz ihrer eigenen Technologie setzen? Oder liegt die Entscheidung bei der Regierung?

Anthropic ist der Ansicht, dass die aktuellen AI-Systeme nicht zuverlässig genug für vollständig autonome Waffen sind. Das Risiko unkontrollierter Eskalationen sei zu hoch. Auch bei der innerstaatlichen Überwachung zieht das Unternehmen eine klare Linie: Der Einsatz von AI zur Überwachung von US-Bürgern sei laut Anthropic eine Verletzung grundlegender Rechte.

Das Pentagon fordert maximale Flexibilität und ist der Meinung, dass ein privates Unternehmen diese Entscheidung nicht treffen darf. Der Fall, der bei einem Bundesgericht in Kalifornien eingereicht wurde, könnte festlegen, wie viel Macht Technologieunternehmen über ihre eigene Technologie behalten, sobald diese in militärische Hände gerät.