KI-Agenten handeln eigenständig – CFTC prüft Haftungsfragen

Eine US-Aufsichtsbehörde bereitet sich auf einen Markt vor, in dem KI-Agenten eigenständig investieren und handeln. Die bisherige Aufsicht richtet sich an Menschen und Unternehmen, die sich zur Verantwortung ziehen lassen. Wenn Software autonom handelt, stößt dieser Ansatz an seine Grenzen.

Gestern warf der Chef der Behörde Fragen auf, auf die es bislang keine Antworten gibt.

Wenn der Kühlschrank als KI-Agent Ether verdient

Mike Selig, Vorsitzender der Commodity Futures Trading Commission (CFTC), sprach gestern beim ersten Frontier Forum seiner Behörde in Washington. Sein Beispiel stammte aus der Küche.

Ein Kühlschrank, der selbstständig Lebensmittel bestellt und das Geld dafür mit einem eigenen Memecoin oder durch das Staking von Ether verdient, sei längst keine Science-Fiction mehr, sagte Selig.

Ein solcher Kühlschrank wäre faktisch ein KI-Agent: ein Programm, das eigenständig handelt, statt nur Antworten zu geben. Darauf ist die bisherige Aufsicht nicht ausgelegt.

Finanzaufseher kontrollieren vor allem Vermittler wie Banken und Broker. Diese benötigen eine Zulassung oder Registrierung und müssen damit verbundene Pflichten erfüllen.

Sie müssen die Identität ihrer Kunden kennen. Bei Regelverstößen drohen ihnen Geldbußen.

Nach diesem Prinzip arbeitet auch die CFTC. Sie beaufsichtigt den Handel mit Derivaten, deren Wert sich von einem Basiswert wie Öl oder Kryptowährungen ableitet.

Wer in diesem Markt für andere handelt oder gegen Bezahlung berät, muss sich bei der National Futures Association (NFA) registrieren, der Selbstregulierungsorganisation der Branche. So weiß die CFTC, wen sie zur Verantwortung ziehen kann.

Bei einem KI-Agenten fehlt diese Grundlage. Ein Programm kann keine Zulassung beantragen und hat keinen Ausweis, den die Behörde prüfen könnte.

Selig stellte deshalb die Frage, wer verantwortlich ist, wenn etwas schiefgeht. Muss sich der Entwickler eines Agenten registrieren lassen? Und wer haftet, wenn der Agent außer Kontrolle gerät?

Coinbase-Chef Brian Armstrong hatte bereits vor einiger Zeit die Erwartung geäußert, dass sich innerhalb von ein bis zwei Jahren ein außer Kontrolle geratenes KI-Modell im Internet ausbreiten könnte.

Unklare Identität hinter dem KI-Agenten

Unklar ist auch, wer hinter einem Agenten steht. Wie könnten Aufseher feststellen, in wessen Auftrag ein einzelner Agent oder mehrere Agenten handeln, fragte Selig. Er stellte zur Diskussion, ob es eine neue Form der Kundenidentifizierung brauche: etwa KYA, kurz für „Know Your Agent“.

Know Your Customer (KYC) bezeichnet die Identitätsprüfung, die Banken, Broker und Kryptobörsen bei neuen Kunden vornehmen. Bei einem Agenten stellt sich jedoch die Frage, wessen Identität geprüft werden soll. Denn hinter einem einzigen Auftrag stehen möglicherweise Modellentwickler, Agentenentwickler, Plattform und Nutzer.

Mit einer ähnlichen Frage war die CFTC bereits 2023 konfrontiert. Damals machte ein Gericht die Ooki DAO, ein Online-Kollektiv ohne Geschäftsführung, für den Betrieb einer illegalen Handelsplattform haftbar. Bei Agenten steht mitunter überhaupt kein Mensch mehr hinter der jeweiligen Handlung.

Die Fragen reichen deshalb über die Zuständigkeit der CFTC hinaus und betreffen auch das Haftungsrecht und die Bankenaufsicht. Selig sieht in den Erfahrungen der Kryptobranche einen Ansatzpunkt, weil sich Entwickler dort seit Jahren mit denselben Problemen befassen.

Chancen beim Risikomanagement, Risiken durch Herdenverhalten

Laut Selig ermöglichen KI-Agenten kleineren Marktteilnehmern ein Risikomanagement, das lange großen Instituten vorbehalten war. Brett Harrison, Chef der KI-Derivatebörse Architect, beobachtet bereits, dass immer mehr Marktteilnehmer Blackbox-Algorithmen einsetzen.

Selig warnte jedoch davor, dass Agenten auf Basis ähnlicher Modelle das Verhalten anderer Agenten nachahmen könnten. Auf dieses Risiko hatte bereits im vergangenen Jahr die Bank of England hingewiesen: Ein solches Herdenverhalten könne Marktschocks verstärken.

Zugleich wächst der Nutzerkreis: Laut eToro sind mehr als drei Viertel der jungen US-Anleger offen dafür, KI bei ihren Anlageentscheidungen einzusetzen. Coinbase und Binance haben in diesem Jahr bereits Werkzeuge entwickelt, mit denen Agenten innerhalb vorgegebener Grenzen handeln können.