Meta-Mitarbeiter warnen vor möglichem Datenleck durch neuen KI-Agenten Muse

Metas neuer KI-Agent Muse beeindruckte im vergangenen Monat die Anleger. Hinter den Kulissen gibt es jedoch erhebliche Bedenken. Nach Angaben von Insidern befürchten mehrere leitende Entwickler, dass das System zu einem massiven Datenleck führen könnte. Besonders brisant ist das, weil Muse Zugriff auf höchst persönliche Informationen erhalten kann, darunter E-Mails und sogar Bankkonten.

Sicherheitslücke kurz vor dem Start entdeckt

Muse ist als persönlicher KI-Assistent konzipiert, der Aufgaben eigenständig erledigen kann. Dazu gehören Flugbuchungen, Lebensmittelbestellungen oder das Zusammenführen von Informationen aus verschiedenen Apps.

Dafür erhält der KI-Agent weitreichenden Zugriff auf die digitale Umgebung eines Nutzers. Genau darin liegt nach Ansicht von Mitarbeitern auch das Risiko.

Kurz vor dem Start entdeckten Entwickler eine Sicherheitslücke, über die Nutzer möglicherweise die abgeschottete digitale Umgebung von Muse verlassen konnten. Im schlimmsten Fall hätte sich dadurch Zugriff auf interne Systeme von Meta oder auf Daten anderer Nutzer erlangen lassen.

Aus der internen Kommunikation geht hervor, dass die Probleme so gravierend waren, dass mehrere Sicherheitsteams unmittelbar vor dem Start rund um die Uhr an einer Lösung arbeiteten. Auch Konzernchef Mark Zuckerberg soll mit dem Fall befasst gewesen sein. Eine Quelle aus dem Unternehmen schilderte die Sorge deutlich:

Viele leitende Entwickler hielten ein massives Datenleck infolge dieser Probleme für unvermeidlich.

Sicherheitsbedenken überschatten den Erfolg von Muse

Die Sicherheitsbedenken kommen zu einem bemerkenswerten Zeitpunkt. Muse war erfolgreich gestartet und hatte sogar für neuen Optimismus bei KI-Aktien gesorgt. Bereits zuvor berichteten wir darüber, wie Metas neuer KI-Agent eine weltweite Rally bei Chipaktien befeuerte.

Meta hat die bekannte Sicherheitslücke inzwischen geschlossen. Die internen Bedenken sind damit jedoch nicht ausgeräumt. Das Unternehmen bietet Sicherheitsforschern sogar eine Prämie von 300.000 Dollar, wenn sie eine vergleichbare Schwachstelle finden.

Die Höhe der Prämie unterstreicht das Ausmaß der möglichen Folgen. Ein KI-Agent wie Muse kann Informationen nicht nur einsehen, sondern auch im Namen des Nutzers handeln.

Damit ist Sicherheit noch wichtiger als bei einem gewöhnlichen Chatbot. Je umfassender der Zugriff von KI-Agenten auf Bankdaten, Nachrichten und persönliche Konten ist, desto größer ist der mögliche Schaden, wenn es jemandem gelingt, die Schutzmaßnahmen zu umgehen.