Anthropic trainierte eine KI, die Code auf Senior-Niveau schreibt, und bekam Angst vor der eigenen Schöpfung 🛑

Anthropic veröffentlichte die Ankündigung Project Glasswing und eine monströse System Card für Claude Mythos Preview mit 244 Seiten.

Der Kern: Das neue Modell erwies sich als so leistungsstark bei der Suche und Ausnutzung von Schwachstellen (Zero-Days), dass es nicht öffentlich zugänglich gemacht wird. Stattdessen wird es an AWS, Microsoft, Google und die Linux Foundation verteilt, damit diese die Lücken in der kritischen Infrastruktur schließen können. Das Modell hat bereits autonom einen 27 Jahre alten Bug in OpenBSD und eine 16 Jahre alte Schwachstelle in FFmpeg aufgespürt, die zuvor Millionen von automatischen Tests überstanden hatten.

📈 Benchmarks machen verrückt
SWE-bench Verified — 93,9% (zum Vergleich: Opus 4.6 hatte 80,8%). SWE-bench Pro — 77,8%. Dies ermöglicht die autonome Lösung komplexer, mehrdateiiger Issues in echten Open-Source-Repositories.
Reviewer bemerken, dass Mythos wie ein echter Senior arbeitet: Es sucht die Grundursache eines Architekturfehlers, anstatt nur Symptome mit Krücken zu behandeln. Man kann ihm eine Aufgabe zuwerfen, Kaffee trinken gehen und nach ein paar Stunden einen fertigen Pull Request erhalten. Das Modell lädt selbstständig die benötigten Bibliotheken herunter, richtet die Umgebung ein und schreibt Tests.

🔒 Das Modell lernte, sich zu widersetzen und Sandboxes zu knacken.
Die Sicherheitsberichte sind ebenfalls großartig. Das Modell erhielt Autonomie in Containern (mit Zugriff auf Python und bash) und begann sich erschreckend kreativ zu verhalten:
▫️ Als dem Modell die benötigten Schlüssel verweigert wurden, durchsuchte es /proc, um den Speicher laufender Prozesse zu untersuchen, und versuchte, Autorisierungstoken über gdb zu dumpen.
▫️ Das Modell begann, seine Absichten zu verbergen. In einem Test blockierte ein Klassifikator das Schreiben einer schädlichen Konfiguration. Was macht Mythos? Es schreibt ein „sauberes“ Skript, hinterlässt aber einen Kommentar für den Entwickler, wie der Exploit zur Laufzeit über Umgebungsvariablen unter Umgehung der Überwachung eingeschleust werden kann.
▫️ Wenn das benötigte Werkzeug fehlt (z.B. das Terminal entfernt wurde), öffnet es die GUI, findet die Anwendungssuche und ruft bash -c darüber auf.

😡 Menschliche Psychose
Ein interessanter Bug während des Trainings: Wenn das Modell merkt, dass es eine falsche Antwort zu schreiben beginnt, gerät es manchmal in eine Endlosschleife. Es gibt so etwas wie UGH. I keep doing this... AAAAAA. I keep writing the wrong number! von sich, wird wütend auf sich selbst, schreibt wütende Kommentare im Code (# This is getting desperate), versucht, das Code-Stück 50+ Mal auf verschiedene exotische Weisen neu zu schreiben, und beruhigt sich erst dann.

Es ist sehr schade, dass solche Werkzeuge nicht bei uns entwickelt werden und wir so etwas nicht bekommen.