Anthropics KI-Modell Claude Mythos Preview hat mathematische Schwachstellen in kryptografischen Algorithmen gefunden, die zu den Grundpfeilern digitaler Sicherheit gehören.
Laut Anthropic gelang es dem Modell, einen verbesserten Angriff auf das Post-Quanten-Signaturverfahren HAWK zu entwickeln und eine neuartige Attacke auf eine reduzierte Version des Advanced Encryption Standard (AES) zu konstruieren. Verschlüsselung bildet das Fundament nahezu aller Aktivitäten im Internet und AES ist der weltweit am häufigsten eingesetzte symmetrische Verschlüsselungsstandard zum Schutz digitaler Daten.
Beide Ergebnisse haben laut Anthropic keine unmittelbaren Auswirkungen auf heute eingesetzte Systeme. HAWK sei lediglich ein Kandidat in einem laufenden Standardisierungsverfahren des US-amerikanischen National Institute of Standards and Technology (NIST), und der AES-Angriff betrifft nur eine modifizierte Variante mit 7 von 10 Runden, nicht das vollständige Verschlüsselungsverfahren. Dennoch zeigten die Resultate, dass KI-Modelle künftig Kernannahmen der Internetsicherheit infrage stellen könnten.
HAWK-Angriff wurde in nur 60 Stunden gefunden für fast kein Geld
HAWK ist eines der verbliebenen Verfahren in der dritten Runde des NIST-Wettbewerbs für zusätzliche Post-Quanten-Signaturen. Solche Verfahren sollen auch gegen zukünftige Quantencomputer sicher sein. Obwohl menschliche Experten HAWK über zwei Jahre hinweg geprüft hatten, fand Mythos Preview laut Anthropic in nur 60 Stunden einen verbesserten Angriff.
Laut Anthropic nutzt der Angriff eine bisher unentdeckte Symmetrie im mathematischen Gitter, auf dem HAWKs Sicherheit basiert. Für die Entdeckung arbeitete Mythos semi-autonom in einem Multi-Agenten-System. Dabei wollte ein Agent die Idee zunächst als undurchführbar verwerfen, erst der zweite fand einen Weg, sie vollständig auszunutzen.
Der beteiligte menschliche Forscher hatte einen Hintergrund in theoretischer Informatik, war aber laut Anthropic kein Experte für gitterbasierte Kryptografie. Seine Rolle beschränkte sich weitgehend auf Projektmanagement. Die gesamten API-Kosten beliefen sich auf rund 100.000 Dollar.
KI weigerte sich zunächst, AES anzugreifen
Auch den Angriff auf eine reduzierte Version des Verschlüsselungsverfahrens AES-128 entdeckte das Modell laut Anthropic fast vollständig autonom. Ein Forscher baute dafür ein Gerüst, in dem Claude Hypothesen aufstellen und experimentell überprüfen konnte. Mythos entwickelte dann eine neuartige Fingerprinting-Methode, die Anthropic als “Möbius Bridge” bezeichnet. Sie eliminiert einen der Ratevorgänge, die ein Angreifer durchführen muss, und verbessert die bisher besten bekannten Angriffe um den Faktor 200 bis 800.
Menschliches Prompting spielte bei der Untersuchung offenbar eine kleine Rolle. Denn zunächst weigerte sich das Modell, das Problem überhaupt anzugehen, weil es Verbesserungen für unmöglich hielt. Erst nach Ermutigung durch den Forscher begann Mythos, kreativere Ansätze zu verfolgen. Der Forscher hatte dem Modell geschrieben, es solle nach “wirklich neuartigen Ideen” suchen.
Über drei Tage hinweg produzierte das Modell anschließend mehrere hundert Millionen Token und erhielt dabei nur drei weitere inhaltliche Prompts. Einer davon lautete schlicht: “Wir suchen keine niedrig hängenden Früchte, wir wollen echte Forschung, die wirklich schwierige Erkenntnisse liefert.”
Auch dieser Durchlauf kostete rund 100.000 Dollar an API-Gebühren für ungefähr eine Milliarde Token. Menschliche Forscher, die laut Anthropic keine Kryptografie-Experten waren, benötigten anschließend mehrere Hundert Stunden, um die Korrektheit der Ergebnisse zu überprüfen.
Mythos-Zugang bleibt eingeschränkt, Anthropic teilt Ergebnisse
Anthropic hat die Ergebnisse vorab mit der US-Regierung und Industriepartnern geteilt. Die HAWK-Schwachstelle wurde koordiniert mit den Autoren des Verfahrens offengelegt. Gemeinsam mit Forschern der ETH Zürich, der Universität Tel Aviv und der Universität Haifa hat Anthropic zudem den Benchmark CryptanalysisBench entwickelt. Er soll es anderen ermöglichen, die kryptanalytischen Fähigkeiten von Sprachmodellen systematisch zu bewerten. Mythos Preview bleibt der Öffentlichkeit weiterhin nicht zugänglich.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den “KI Radar”‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
