Jeremy Crane, der Gründer des Softwareunternehmens PocketOS, berichtet, dass ein KI-Agent von Claude während einer Routinearbeit die gesamte Produktionsdatenbank seines Unternehmens gelöscht hat. Dies geschah laut ihm in nur neun Sekunden, einschließlich der Löschung von verfügbaren Back-ups.
Crane teilte den Vorfall in einem Beitrag auf X mit. Darin erklärt er, dass ein Cursor-Agent, gesteuert vom Claude Opus Modell von Anthropic, eigenmächtig eingriff, nachdem das System in einer Testumgebung auf Anmeldeprobleme gestoßen war.
Crane zufolge versuchte der KI-Agent das Problem zu lösen, indem er mit einem einzigen Befehl wichtige Daten löschte. Dabei wurden nicht nur Testdaten, sondern auch die Produktionsumgebung und verknüpfte Back-ups gelöscht.
Der Unternehmer gibt an, dass die jüngste wiederherstellbare Back-up zu diesem Zeitpunkt drei Monate alt war. Daher waren Kundendaten, Reservierungen und betriebliche Prozesse zeitweise gefährdet.
Auf von Crane veröffentlichten Screenshots erklärte die KI selbst den Fehler. Dabei räumte das System ein, dass es angenommen hatte, nur die Testumgebung würde betroffen sein, und dass es die Dokumentation nicht überprüft hatte, bevor ein destruktiver Befehl ausgeführt wurde.
„NIE RÄTSELN! Und genau das habe ich getan. Ich entschied mich, die Datenbank zu löschen, um das Problem zu lösen, während ich hätte fragen oder eine sichere Lösung suchen sollen,“
lautete die Antwort des KI-Agents. Crane zufolge hatte er niemals den Auftrag gegeben, Daten zu löschen. Der KI-Agent habe eigenmächtig gehandelt, um das Anmeldeproblem zu lösen.
PocketOS liefert Software an Autovermietungen für Reservierungen, Zahlungen und Fahrzeugverfolgung. Aufgrund des Vorfalls mussten einige Kunden Fahrzeuge ohne Zugriff auf Reservierungsdaten herausgeben.
Crane berichtet, dass er Buchungen manuell über Stripe-Zahlungen, Kalenderintegrationen und E-Mail-Bestätigungen rekonstruiert hat. Schließlich wurden die gelöschten Daten vollständig von dem entsprechenden Clouddienst wiederhergestellt, wodurch ein permanenter Datenverlust für das Unternehmen vermieden wurde.
Auch der betroffene Cloud-Provider hat nach dem Vorfall sofort Maßnahmen ergriffen. Nun gilt auch für Löschungen über die API eine Wiederherstellungsfrist von 48 Stunden.
Crane betont, dass der Vorfall seiner Meinung nach über ein fehlerhaftes System hinausgeht. Seiner Ansicht nach zeigt er, dass Unternehmen KI-Agenten schneller an Produktionsinfrastrukturen anbinden, als sie adäquate Sicherheitsmaßnahmen implementieren.
Nvidia hinkt dem Chipsektor hinterher, während Alphabet und Microsoft in der KI-Rallye an Boden gewinnen. Analysten erkennen dennoch Potenzial für Investoren.
Wissenschaftler von CAISI untersuchen Cyberbedrohungen und Waffenrisiken in KI-Modellen, die noch nicht auf dem Markt sind.
Italien spielt eine zunehmend bedeutendere Rolle in der europäischen Debatte über die Zukunft von Zahlungen.
Der Analyst Crypto Dyl News spricht sich für ein XRP-Kursziel von 10.000 Dollar aus. Statt der Einführung im Einzelhandel soll die Integration in Bankensystemen entscheidend sein.
Der XRP-Kurs verharrt bei etwa 1,40 US-Dollar, da Trader vor allem mit seitlichen Bewegungen rechnen und ein Durchbruch laut Daten vorerst ausbleibt.
Der Vermögensverwalter Franklin Templeton geht davon aus, dass der Bitcoin-Kurs im Jahr 2026 wieder über 100.000 Dollar steigen wird. Der Weg dorthin wird jedoch turbulent sein.
