Unbefugte Nutzer erhalten Zugang zu Anthropics Mythos-Modell

Eine kleine Gruppe unbefugter Nutzer hat sich Zugang zu Mythos verschafft, dem neuesten und leistungsstärksten KI-Modell von Anthropic. Das Unternehmen gibt an, dass das Modell so fortgeschritten ist, dass es Schwachstellen in nahezu jedem großen Betriebssystem und jeder wichtigen Webbrowser aufspüren und ausnutzen kann.

Aus diesem Grund hält Anthropic Mythos normalerweise streng unter Verschluss. Dennoch gab es bereits Probleme, als das Unternehmen ankündigte, das Modell für begrenzte Tests verfügbar zu machen. Binnen kurzer Zeit gelang es einigen Nutzern, sich unbefugt Zugang zu verschaffen.

Wie sie eindrangen

Die Gruppe, die auf einem geschlossenen Discord-Kanal aktiv ist, auf dem Informationen über unveröffentlichte KI-Modelle geteilt werden, nutzte eine Kombination aus Zugang und Recherche. Ein Mitglied arbeitete als Vertragspartner bei einem externen Partner von Anthropic und hatte dadurch bereits begrenzten Zugang zu internen Systemen.

Von dieser Position aus versuchten sie, herauszufinden, wo Mythos online zu finden war. Dabei nutzten sie Muster, die Anthropic zuvor bei anderen Modellen angewandt hatte.

Zusätzliche Informationen stammten aus einem kürzlichen Datenleck bei Mercor, einem KI-Trainings-Startup, das mit mehreren großen Entwicklern zusammenarbeitet. Die Gruppe setzte dann bekannte Forschungsmethoden ein. Mit Bots durchsuchten sie das Internet, unter anderem Plattformen wie GitHub, wo versehentlich Informationen von Anthropic öffentlich geworden waren.

Nicht bösartig, aber besorgniserregend

Der Gruppe zufolge wird Mythos nicht für Cyberangriffe genutzt. Sie verwenden das Modell hauptsächlich, um einfache Websites zu erstellen und die Möglichkeiten zu erkunden, ohne aufzufallen. Ein Beteiligter sagt, es gehe um Neugier, nicht um böse Absichten.

Dennoch wirft der Vorfall ernste Fragen auf. Wenn eine kleine Gruppe von Hobbyisten am Tag der Ankündigung Zugang erlangen konnte, bleibt fraglich, wer sonst noch eingedrungen ist und mit welchem Ziel. Die Gruppe behauptet zudem, Zugang zu mehreren anderen unveröffentlichten Modellen von Anthropic zu haben.

Anthropic untersucht die Sicherheitslücke

Anthropic teilt mit, dass es einen Bericht über unbefugten Zugang zu Mythos über die Infrastruktur eines externen Partners untersucht. Das Unternehmen betont, dass es bislang keinen Beweis gibt, dass der Zugang über die Lieferantenumgebung hinausging oder dass die eigenen Systeme kompromittiert wurden.

Das Modell wird derzeit nur mit einer begrenzten Anzahl von Unternehmen über das Project Glasswing geteilt. In diesem Programm dürfen Softwareunternehmen ihre Systeme auf Schwachstellen testen. Unter anderem nehmen Apple, Amazon und Cisco daran teil. Zudem stellt Amazon Mythos über seine Bedrock-Plattform zur Verfügung, jedoch nur für eine ausgewählte Gruppe von autorisierten Partnern.

Wachsende Interesse von Regierungen und Banken

Der Zeitpunkt macht den Vorfall besonders heikel. In den vergangenen Tagen haben immer mehr Finanzinstitute und Regierungsstellen auf beiden Seiten des Atlantiks Zugang zu Mythos angefordert. Sie wollen ihre eigenen Systeme vor möglichen Missbrauch durch dieselbe Technologie schützen.