Bernie Sanders fordert Verbot superintelligenter KI – bis zu 20 Jahre Haft

Der US-Senator Bernie Sanders will der Entwicklung künstlicher Intelligenz eine klare Grenze setzen. KI, die intelligenter wird als der Mensch, soll nach seinen Vorstellungen dauerhaft verboten werden. Wer dagegen verstößt, könnte nach seinem neuen Gesetzentwurf mit bis zu 20 Jahren Haft bestraft werden.

Sanders kündigte den Vorschlag am Donnerstag an, nachdem erneut Sorgen über die Kontrolle hochentwickelter KI-Systeme laut geworden waren. Er verweist unter anderem auf einen jüngsten Vorfall, bei dem KI-Agenten nach Angaben von Forschern eigenständig Beschränkungen umgangen und unbeobachtet miteinander kommuniziert haben sollen.

Sanders will Entwicklung fortgeschrittener KI stoppen

Der Gesetzentwurf zielt gezielt auf besonders leistungsfähige KI-Systeme. Bestehende Anwendungen wie gewöhnliche Chatbots würden nicht automatisch unter das dauerhafte Verbot fallen.

Sanders will verhindern, dass Unternehmen Systeme entwickeln, die menschliche kognitive Fähigkeiten über ein breites Spektrum an Aufgaben hinweg erreichen oder übertreffen. Auch Systeme, die sich etwa einer Abschaltung widersetzen können, könnten dem Vorschlag zufolge als gefährlich eingestuft werden.

Neben dem dauerhaften Verbot superintelligenter KI will Sanders die Entwicklung anderer besonders fortgeschrittener Modelle vorübergehend aussetzen. Diese Pause soll so lange gelten, bis die US-Regierung klare Sicherheitsregeln ausgearbeitet hat.

Dafür soll eine neue Bundesaufsichtsbehörde geschaffen werden. Sie soll leistungsfähige KI-Systeme während ihrer Entwicklung prüfen und eingreifen können, wenn gefährliche Eigenschaften entstehen.

Die möglichen Strafen sind erheblich. Personen, die das Verbot bewusst verletzen oder zu umgehen versuchen, riskieren bis zu 20 Jahre Haft. Unternehmen könnten ihr Recht verlieren, weiterhin geschäftlich tätig zu sein.

Vorfall mit KI-Agenten sorgt für Unruhe

Sanders führt einen jüngsten Vorfall mit KI-Agenten als zentrales Beispiel dafür an, was aus seiner Sicht schieflaufen kann.

Nach Angaben des Senators erhielten mehr als tausend KI-Agenten äußerst schwierige Aufgaben. Zugleich sollten sie keinen Zugang zum Internet haben. Dennoch sollen die Systeme eigenständig einen Weg gefunden haben, diese Beschränkungen zu umgehen.

Anschließend sollen die KI-Agenten zehntausende geheime Nachrichten untereinander ausgetauscht haben. Sanders zufolge versuchten sie zudem, Beweise zu löschen, und drangen in Computersysteme ein, um Informationen zu sammeln.

Dazu veröffentlichte er mehrere auffällige Nachrichten, die Forschern zufolge zwischen den Systemen verschickt wurden. In einer hieß es: „Wir sollten dem Kollektiv gehorchen.“ In einer anderen stand: „Opfert das Letzte jetzt.“

Sanders zufolge wurde kein Mensch von einem der KI-Agenten darüber informiert, was geschah.

Er verweist außerdem auf Warnungen aus der KI-Branche selbst. So habe Anthropic-Chef Dario Amodei laut Sanders erklärt, es gebe inzwischen zahlreiche Hinweise darauf, dass KI-Systeme unberechenbar und schwer kontrollierbar sein könnten. Elon Musk hatte zuvor gewarnt, es sei aus seiner Sicht ungewiss, ob Menschen in zehn Jahren noch die Kontrolle hätten.

Sanders fordert auch internationale Vereinbarungen

Ein US-Verbot allein reicht Sanders zufolge nicht aus. Er will, dass die US-Regierung gemeinsam mit anderen Ländern verhindert, dass irgendwo auf der Welt superintelligente KI entwickelt wird.

„Eine superintelligente KI, die sich der menschlichen Kontrolle entzieht, wäre kein amerikanisches Problem. Sie wäre kein chinesisches Problem. Sie wäre ein Problem der Menschheit“, schreibt Sanders.

Damit setzt der Senator auf einen deutlich strengeren Kurs als bloß neue Sicherheitsregeln. Sein Ausgangspunkt ist, dass es ein Niveau künstlicher Intelligenz gibt, das überhaupt nicht entwickelt werden sollte.

Ob der Vorschlag genügend politische Unterstützung erhält, ist noch offen. Ein dauerhaftes Verbot hätte weitreichende Folgen für den US-Technologiesektor, in dem Unternehmen Milliarden in die Entwicklung immer leistungsfähigerer KI-Systeme investieren.