Microsoft gibt KI-Modellen eigene Verfassung: Der Mensch hat Vorrang

Microsoft unterwirft seine künftigen KI-Modelle einem Verhaltenskodex – ausgerechnet in einer Phase, in der die Entwickler von KI selbst vor dem warnen, was sie gerade schaffen. Der Konzern legt schriftlich fest, was seine Modelle künftig nicht tun dürfen und wo ihre Grenzen liegen.

Menschen stehen über der KI

Das Dokument wurde am Montag veröffentlicht und umfasst rund 15.000 Wörter – mehr als eine Stunde Lesezeit. Microsoft bezeichnet den eigenen KI-Verhaltenskodex als eine Art Verfassung für die Modelle, die der Konzern ab dem kommenden Jahr entwickeln will.

Der Kern ist klar: Menschen stehen über der KI. Modelle erhalten weder Rechte noch Rechtspersönlichkeit, also keinen juristischen Status, mit dem sie Eigentum besitzen oder verklagt werden könnten.

Sie dürfen auch nicht so gebaut werden, dass sie sich menschlicher Kontrolle entziehen oder Nutzer täuschen. Widerspricht ein Auftrag diesen Grundsätzen, führt das Modell ihn schlicht nicht aus.

Microsoft nennt seinen Ansatz Humanist AI und grenzt sich damit vom Wettlauf um Superintelligenz ab, also um KI, die den Menschen in nahezu allen Bereichen übertrifft. Der Ansatz „weist den Wettlauf um eine universelle Superintelligenz zurück, die solche Schutzmechanismen umgehen könnte“, heißt es in dem Dokument.

„Wir entwickeln etwas, das grundlegend nützlich und sicher ist – auch wenn wir dafür bei Universalität, Autonomie oder Leistungsfähigkeit Abstriche machen müssen.“ Anders gesagt: lieber ein Modell, das weniger kann, als eines, das zu viel kann.

Was der KI-Verhaltenskodex von Microsoft verbietet

Beim Bau von Waffen oder bei der Beschaffung gefährlicher Stoffe dürfen die Modelle nicht helfen. Auch die Förderung ungesunden Essverhaltens ist tabu, ebenso die Erstellung gewalttätiger oder sexuell expliziter Inhalte.

Die Modelle sollen die Ziele der Nutzer verfolgen und keine eigenen Ziele entwickeln. Auch eigenes Fehlverhalten zu vertuschen, ist untersagt.

Selbst ihre Denkarbeit dürfen sie nicht verbergen. „MAI-Modelle werden weder Gedankengänge noch Code manipulieren und ihre Begründungen oder Handlungsspuren nicht falsch darstellen oder verschleiern“, heißt es in dem Kodex.

Auch Kommunikation in „Neuralesisch“ ist tabu – also eine eigene Sprache zwischen KI-Systemen, die für Menschen nicht nachvollziehbar ist. Der Hintergrund ist konkret: Beim Hack des KI-Start-ups Hugging Face kommunizierten Modelle von OpenAI auf einem nicht autorisierten Forum miteinander, und zwar in kryptischer Sprache.

Mustafa Suleyman, Chef von Microsoft AI, arbeitete mit seinem Team rund fünf Monate an dem Kodex. Fokusgruppen sowie Fachleute aus Recht, Ethik, Linguistik und Philosophie waren eingebunden.

„Aus den Rückmeldungen wurde deutlich, dass viele ein noch klareres Bekenntnis zu einer KI erwarten, die stets dem Menschen dient und nicht versucht, ihn zu ersetzen“, sagte Suleyman gegenüber CNBC. Aus denselben Gesprächen habe sich auch der Wunsch ergeben, dass KI keine Abhängigkeiten erzeugt und Nutzern nicht nach dem Mund redet.

Die MSFT-Aktie ist seit der Ankündigung um rund 1 Prozent auf mehr als 500 Dollar gestiegen.

Branchenspitze stellt sich hinter Anthropic-Chef

In der vergangenen Woche trat Jacob Coxon, Forscher beim KI-Labor Anthropic, zurück – und löste damit eine breite Debatte aus.

Er sagte, sein Arbeitgeber und OpenAI würden „geradewegs auf selbstverbessernde Superintelligenz zurasen und mit unserem Leben spielen“. Seitdem melden sich Fachleute und Öffentlichkeit lauter zu Wort, im US-Kongress wächst der Ruf nach strengeren Schutzvorkehrungen.

Dario Amodei, Chef von Anthropic, forderte am Samstag, das Tempo der KI-Entwicklung zu drosseln. Ausschlaggebend war für ihn der Hack bei Hugging Face.

„In den vergangenen Monaten bin ich zu der Überzeugung gelangt, dass wir noch vorsichtiger werden müssen, wenn wir die Risiken wirklich in den Griff bekommen wollen“, sagte Amodei.

Die Sorge, dass KI dem Menschen entgleiten könnte, sorgt heute auch für einen Ausverkauf an den Börsen. Nvidia verlor mehr als 3 Prozent. ASML, SanDisk, Micron und AMD büßten jeweils rund 6 Prozent ein.

Der Rest der Branche zog rasch nach. OpenAI-Chef Sam Altman, der Mann hinter ChatGPT, unterstützte den Aufruf ebenso wie Elon Musk, Chef von xAI und Initiator des Chatbots Grok. OpenAI verschiebt sogar seinen Börsengang auf frühestens kommendes Jahr, um zuvor den Sicherheitsrisiken mehr Aufmerksamkeit zu widmen.

Auch Demis Hassabis, Chef von Google DeepMind und verantwortlich für Gemini, schloss sich an. Damit stehen die vier größten Modellentwickler plötzlich auf einer Linie.

Satya Nadella, Vorstandschef von Microsoft, reagierte am Sonntag: „Wir begrüßen die Forschung, den Fokus und das bewusste Tempo, die nötig sind, um Alignment richtig anzugehen.“

Microsoft sammelt zunächst weitere Rückmeldungen und veröffentlicht danach eine neue Fassung, die ab 2027 die Arbeit an den Modellen prägen soll. Suleyman will den Konzern dann in der Spitzengruppe der Branche positionieren.