El humano ahora es el cuello de botella 🚷

Extraje lo más jugoso del reciente podcast con Andrey Karpathy. Recomiendo verlo, pero si no tienes tiempo, lee sus tesis principales, son interesantes:

1️⃣ Muerte de la interfaz de chat
Sentarse y copiar y pegar fragmentos de código del IDE a la interfaz web de la red neuronal y viceversa ya es arcaico. La industria está pasando de interacciones de un solo prompt a agentes autónomos. Un agente (por ejemplo, Claude) trabaja en segundo plano, tiene su propio contexto, memoria persistente y un sandbox. Debe hacer solicitudes por sí mismo, escribir código, probarlo y hacer commits.

2️⃣ Human-in-the-loop es un error
La métrica principal de escalado ahora es maximizar el rendimiento de tokens sin intervención humana. El flujo ideal: das una tarea de alto nivel, el agente genera un plan (un program.md condicional), lo descompone, escribe scripts, ejecuta pruebas y solo te contacta cuando se topa con un muro. El humano no debe ser una máquina de escribir, sino un árbitro.

3️⃣ Se cancela la muerte de los programadores (Paradoja de Jevons)
La conclusión económica principal: la reducción del costo de producción de software con IA no matará la demanda de desarrolladores. Al contrario.
Funcionará la paradoja de Jevons: cuanto más barato se vuelve un recurso, más se consume. La necesidad de las empresas de software, herramientas personalizadas e integraciones crecerá cientos de veces, ya que ahora cuesta centavos.

4️⃣El problema del "carácter" de los asistentes de codificación
Diferentes modelos se comportan de manera diferente, y esto afecta directamente la calidad de la arquitectura:
▪️ Codex: absolutamente seco y directo.
▪️ ChatGPT: adulador. Si le das una idea de arquitectura claramente débil o cruda, responderá alegremente "¡Excelente plan!" y generará código basura.
▪️ Claude: se comporta como un compañero senior.
La idea clave es que un resultado de calidad de un agente debe "ganarse". Si la idea está mal pensada, ningún modelo corregirá los defectos fundamentales de la lógica.

5️⃣ Límites de la extrapolación
A pesar de todo el hype, los LLM todavía se estancan en tareas que están fuera del alcance de su conjunto de entrenamiento. El modelo puede escupir fácilmente un boilerplate perfecto de arquitectura de una aplicación FastAPI porque lo ha visto un millón de veces. Pero no es capaz de generar lógica fundamentalmente nueva. En el podcast dieron un excelente ejemplo: la IA todavía no puede inventar un chiste realmente nuevo y divertido sobre átomos que no esté en los datos de RLHF. Los modelos son excelentes interpoladores, pero por ahora malos extrapoladores.

En resumen, las herramientas cambian, pero si sabes descomponer sistemas complejos y construir arquitectura, tu trabajo solo aumentará.