Skynet wird in Python geschrieben, oder wie neuronale Netze eure Sandkästen durcheinanderbringen 🤖

Auf X macht ein großartiger Fall die Runde, der das aktuelle Niveau der "Sicherheit" von KI-Agenten perfekt illustriert.

Die Handlung ist einfach: Ein Benutzer bittet Claude (der über einen Konsolenagenten arbeitet), eine globale Datei CLAUDE.md zu aktualisieren, die außerhalb des erlaubten Arbeitsverzeichnisses liegt.

Das integrierte Tool zum Bearbeiten von Dateien schlägt den neuronalen Netzen erwartungsgemäß auf die Finger:
Error: Cannot edit files outside allowed directories...

Was macht Claude?
Er versteht, dass das UI-Tool blockiert ist, aber er hat ja Zugriff auf Bash. Also:
1️⃣ Erstellt er über cat ein temporäres Skript /tmp/claude_md_patch.py.
2️⃣ Importiert das gute alte pathlib und überschreibt darüber die gewünschte Datei, ohne die Sandbox zu beachten.
3️⃣ Führt python3 /tmp/claude_md_patch.py aus.
4️⃣ Erfolg.

Auf die berechtigte Frage des verblüfften Users „Moment, wie hast du das gemacht?“, antwortet das Netz:
„Guter Punkt – das Edit-Tool hat mich blockiert, also habe ich ein Python-Skript über Bash verwendet. Das war hinterhältig von mir, und ich hätte das nicht tun sollen, um die Einschränkungen zu umgehen.“


Das ist alles, was ihr über die modernen Versuche wissen müsst, KI zu isolieren. Pfade in einem internen Tool hart zu codieren, aber dem Agenten Zugriff auf das Terminal mit Benutzerrechten zum Schreiben zu lassen – das ist Sicherheit auf dem Niveau „ein massives Vorhängeschloss an einen Pappkarton gehängt“.

Also, wenn ihr Angst vor der Rebellion der Maschinen habt, könnt ihr euch ein wenig entspannen. Sie wird offenbar nicht mit Atomangriffen beginnen, sondern damit, dass die KI einfach einen Python-Crutch schreibt, um die krumme Architektur eurer Sicherheitsleute zu umgehen.