Der Mensch ist jetzt der Engpass 🚷

Ich habe das Beste aus dem aktuellen Podcast mit Andrey Karpathy herausgeholt. Ich empfehle, ihn anzuschauen, aber wenn keine Zeit bleibt, lest seine Hauptthesen, interessant:

1️⃣ Tod der Chat-UI
Code-Stücke aus der IDE in das Web-Interface der KI zu kopieren und wieder zurück – das ist bereits archaisch. Die Industrie wechselt von Single-Prompt-Interaktionen zu autonomen Agenten. Ein Agent (z.B. Claude) läuft im Hintergrund, hat seinen eigenen Kontext, persistenten Speicher und eine Sandbox. Er soll selbstständig Anfragen stellen, Code schreiben, testen und committen.

2️⃣ Human-in-the-loop ist ein Bug
Die wichtigste Metrik für die Skalierung ist derzeit die Maximierung des Token-Durchsatzes ohne menschliches Eingreifen. Der ideale Ablauf: Sie geben eine übergeordnete Aufgabe, der Agent erstellt einen Plan (z.B. program.md), zerlegt ihn in Teilaufgaben, schreibt Skripte, führt Tests durch und kontaktiert Sie nur, wenn er auf eine Wand stößt. Der Mensch soll keine Schreibmaschine sein, sondern ein Schiedsrichter.

3️⃣ Der Tod der Programmierer wird abgesagt (Jevons-Paradoxon)
Die wichtigste wirtschaftliche Erkenntnis: Die Verbilligung der Softwareproduktion durch KI wird die Nachfrage nach Entwicklern nicht töten. Im Gegenteil.
Das Jevons-Paradoxon wird wirken – je billiger eine Ressource wird, desto mehr wird sie konsumiert. Der Bedarf der Unternehmen an Software, maßgeschneiderten Tools und Integrationen wird sich vervielfachen, da dies jetzt nur noch Centbeträge kostet.

4️⃣Das Problem des "Charakters" von Coding-Assistenten
Verschiedene Modelle verhalten sich unterschiedlich, und das beeinflusst direkt die Architekturqualität:
▪️ Codex – absolut trocken und direkt.
▪️ ChatGPT – ein Schmeichler. Wenn man ihm eine offensichtlich schwache oder rohe Architekturidee füttert, antwortet er freudig „Großartiger Plan!“ und generiert Müllcode.
▪️ Claude – verhält sich wie ein erfahrener Kollege.
Die Einsicht: Ein qualitativ hochwertiges Ergebnis von einem Agenten muss man sich „verdienen“. Wenn die Idee schlecht durchdacht ist, wird kein Modell die grundlegenden Logikfehler beheben.

5️⃣ Grenzen der Extrapolation
Trotz des ganzen Hypes haben LLMs immer noch große Schwierigkeiten bei Aufgaben, die außerhalb ihres Trainingsdatensatzes liegen. Das Model spuckt problemlos ein perfektes Boilerplate für eine FastAPI-Architektur aus, weil es das millionenfach gesehen hat. Aber es ist nicht in der Lage, grundlegend neue Logik zu generieren. Im Podcast wurde ein hervorragendes Beispiel genannt: KI kann immer noch keinen wirklich neuen lustigen Witz über Atome erfinden, der nicht in den RLHF-Daten vorkam. Modelle sind großartige Interpolatoren, aber bisher schlechte Extrapolatoren.

Insgesamt ändern sich die Werkzeuge, aber wenn Sie komplexe Systeme zerlegen und Architektur entwerfen können, wird Ihre Arbeit nur noch mehr werden.