O ser humano agora é o gargalo 🚷

Extraí a parte mais suculenta do novo podcast com Andrey Karpathy. Recomendo assistir, mas se não tiver tempo, leia suas principais teses, interessante:

1️⃣ Morte do Chat UI
Ficar copiando e colando trechos de código da IDE para a interface web da rede neural e vice-versa já é arcaico. A indústria está migrando de interações de prompt único para agentes autônomos. O agente (por exemplo, Claude) roda em segundo plano, tem seu próprio contexto, memória persistente e sandbox. Ele deve fazer requisições, escrever código, testá-lo e commitar sozinho.

2️⃣ Human-in-the-loop é um bug
A principal métrica de escalabilidade agora é maximizar a taxa de transferência de tokens sem intervenção humana. O fluxo ideal: você dá uma tarefa de alto nível, o agente gera um plano (um program.md condicional), decompõe, escreve scripts, executa testes e só te chama quando encontra um obstáculo. O ser humano não deve ser uma máquina de escrever, mas sim um árbitro.

3️⃣ Morte dos programadores cancelada (Paradoxo de Jevons)
Principal tese econômica: a redução do custo de produção de software com IA não matará a demanda por desenvolvedores. Pelo contrário.
O paradoxo de Jevons se aplicará — quanto mais barato um recurso, mais ele é consumido. A necessidade das empresas por software, ferramentas personalizadas e integrações crescerá centenas de vezes, já que agora custa centavos.

4️⃣Problema do "caráter" dos assistentes de codificação
Diferentes modelos se comportam de maneiras diferentes, e isso afeta diretamente a qualidade da arquitetura:
▪️ Codex — absolutamente seco e direto.
▪️ ChatGPT — bajulador. Se você der a ele uma ideia de arquitetura claramente fraca ou crua, ele responderá alegremente "Ótimo plano!" e gerará código lixo.
▪️ Claude — se comporta como um colega sênior.
O insight é que um resultado de qualidade de um agente precisa ser "merecido". Se a ideia for mal pensada, nenhum modelo corrigirá as falhas fundamentais da lógica.

5️⃣ Limites da extrapolação
Apesar de todo o hype, os LLMs ainda patinam feio em tarefas que fogem do escopo de seus dados de treinamento. O modelo facilmente cuspirá um boilerplate perfeito de arquitetura de aplicação FastAPI, porque já viu isso um milhão de vezes. Mas não é capaz de gerar uma lógica fundamentalmente nova. No podcast, deram um ótimo exemplo: a IA ainda não consegue inventar uma piada realmente nova e engraçada sobre átomos que não estivesse nos dados de RLHF. Os modelos são ótimos interpoladores, mas ainda são maus extrapoladores.

Em resumo, as ferramentas mudam, mas se você sabe decompor sistemas complexos e construir arquitetura — seu trabalho só aumentará.