DeepMind-Gründer warnt: Sicherheit darf bei KI nicht zurückfallen

Künstliche Intelligenz entwickelt sich rasant. Shane Legg, Mitgründer von Google DeepMind, sieht darin ein erhebliches Risiko. Die Fähigkeiten von KI dürften aus seiner Sicht niemals schneller wachsen als die Systeme, mit denen die Technologie sicher und kontrollierbar gehalten wird.

Die Warnung kommt zu einem Zeitpunkt, an dem die Debatte über allgemeine künstliche Intelligenz immer ernster geführt wird. Legg hält es für möglich, dass bereits in wenigen Jahren eine erste Form davon Realität wird.

DeepMind-Mitgründer warnt vor KI-Risiken

„Wir erleben gerade eine Phase, in der die Fähigkeiten sehr, sehr schnell zunehmen“, sagte Legg in einem Gespräch mit der Financial Times. „Aber wir dürfen nicht zulassen, dass die Fähigkeiten der Sicherheit vorauslaufen.“

Die Sorgen nehmen zu, weil moderne KI-Systeme immer eigenständiger arbeiten können. Sie schreiben unter anderem Software, erledigen Aufgaben autonom und unterstützen Forscher bei der Entwicklung neuer KI-Systeme.

Gerade dieser letzte Punkt macht die Entwicklung heikel. KI-Unternehmen warnen vor einem Szenario, in dem leistungsfähige Systeme am Ende dazu beitragen könnten, neue KI zu verbessern. Dadurch wächst die Sorge, dass sich die Technologie schneller entwickelt als die Mittel, mit denen Menschen sie nachvollziehen und kontrollieren können.

Auch Dario Amodei, Chef des KI-Unternehmens Anthropic, sprach sich zuletzt für mehr Vorsicht aus. Er will die Einführung der leistungsfähigsten KI-Modelle wegen möglicher Sicherheitsrisiken verlangsamen, ohne die Entwicklung vollständig zu stoppen.

Legg bezeichnet diesen Ansatz als „interessant“ und „bedenkenswert“. Zugleich betont er, dass noch geklärt werden müsse, wie ein solcher Ansatz in der Praxis funktionieren würde.

Ist AGI bereits Realität?

Zusätzliche Dringlichkeit erhält die Debatte durch immer leistungsfähigere Modelle. OpenAI-Präsident Greg Brockman erklärte in diesem Monat, das neue GPT-6 Astra bedeute, dass „wir nun im AGI-Zeitalter angekommen sind“. Nvidia-Chef Jensen Huang ging noch weiter und sagte, AGI sei aus seiner Sicht bereits da.

Legg ist davon nicht überzeugt.

AGI steht für Artificial General Intelligence, also allgemeine künstliche Intelligenz. Google DeepMind verwendet den Begriff für ein System, das über sämtliche kognitiven Fähigkeiten des menschlichen Gehirns verfügt.

Nach Ansicht von Legg ist es zu früh, von einem bereits existierenden solchen System zu sprechen. Er bezweifelt sogar, dass Astra OpenAIs eigener Definition von AGI entspricht, wonach ein System den Großteil wirtschaftlich wertvoller Denkarbeit übernehmen können muss.

„Diese Systeme leisten natürlich ziemlich Unglaubliches, aber aus meiner Sicht sind sie noch nicht einmal an dem Punkt, an dem sie der eigenen Definition gerecht werden“, sagte Legg.

An seiner eigenen Einschätzung ändert das nichts. Legg geht weiterhin von einer Wahrscheinlichkeit von 50 Prozent aus, dass 2028 eine „minimale“ Form von AGI erreicht wird.

Neues Institut soll AGI-Debatte breiter aufstellen

Parallel zu seiner Warnung startet Legg das DeepMind Institute. Google DeepMind will damit die öffentliche Debatte über leistungsfähige künstliche Intelligenz erweitern und technische Forschung für Menschen außerhalb der KI-Branche verständlicher machen.

Legg zufolge ist der Zeitpunkt dafür jetzt gekommen. „Die öffentliche Debatte nimmt nun wirklich Fahrt auf. Die Menschen nehmen die Möglichkeit einer leistungsfähigen allgemeinen Intelligenz sehr, sehr ernst.“

Das Institut befasst sich nicht nur mit Technologie. Auch Themen wie Wissenschaft, Bildung, Gesellschaft, Regulierung, Philosophie und menschliches Wohlergehen sollen eine Rolle spielen. Neben Google-Mitarbeitern sollen auch externe Fachleute Beiträge leisten.

Die ersten drei Veröffentlichungen behandeln KI-Sicherheit, Wirtschaftspolitik und Grundsätze für eine neue Form utopischen Denkens.

In einem dieser Beiträge warnen die DeepMind-Forscher Rohin Shah und Anca Dragan ausdrücklich vor abnehmender Transparenz bei leistungsfähigen KI-Modellen. Kommerzieller Wettbewerb und der Druck, neue Modelle schnell auf den Markt zu bringen, könnten Unternehmen aus ihrer Sicht weniger Anreize geben, offenzulegen, wie ihre Systeme Schlussfolgerungen ziehen. Regulierung könne helfen, dieses Problem anzugehen.

Google-Manager James Manyika beschreibt den Anspruch des Unternehmens anders. Der einzige KI-Wettlauf, an dem Google teilnehmen wolle, sei „der Wettlauf um den richtigen Umgang mit KI“.