Singularidade no horizonte: código que escreve código que treina código 🔮

Jack Clark (cofundador da Anthropic) publicou um ensaio-análise sobre o estado atual da indústria de IA.

Sua tese principal: com probabilidade >60%, até o final de 2028 veremos um ciclo de P&D completamente automatizado. Ou seja, o melhor modelo será capaz de treinar autonomamente sua próxima versão, mais inteligente, sem a participação de sacos de carne.

Parece o início de um sci-fi barato, mas Clark explica tudo com métricas. Se olharmos os dados agregados dos benchmarks, fica um pouco desconfortável ver quão rápido o horizonte da competência humana está se fechando.

1️⃣ Saturação dos benchmarks de engenharia
SWE-Bench (resolução de issues reais do GitHub). No final de 2023, o melhor resultado era míseros 2% do Claude 2. Agora, o Claude Mythos Preview atinge 93,9%. Na prática, o benchmark foi superado.
O timeframe de autonomia (METR) cresceu de 4 minutos do GPT-4 em 2023 para 12 horas de trabalho contínuo do Opus 4.6 hoje. Isso é um dia inteiro de trabalho de um desenvolvedor pleno que não sai para fumar. Até o final de 2026, espera-se um salto para 100 horas. Isso é suficiente para a rede neural não apenas corrigir um bug, mas reescrever a arquitetura do serviço enquanto você está ocupado com outra coisa.

2️⃣ Automação da rotina de cientistas de dados
Benchmark MLE-Bench (competições Kaggle offline). O melhor sistema baseado no Gemini3 atinge 64,4%.
CORE-Bench (reprodução de artigos científicos de ML a partir do repositório). O modelo instala dependências, monta o ambiente, executa o código e verifica os resultados. Pontuação — 95,5%.

3️⃣ O mais importante: IA está entrando na otimização pesada
Redes neurais aprenderam a escrever e otimizar kernels de GPU (Triton/CUDA). A Anthropic mede como os modelos otimizam código para treinar LLMs em CPU. Em um ano, a aceleração saltou de 2,9x (Opus 4) para 52x (Claude Mythos Preview). Um humano levaria um dia inteiro de trabalho para obter esse resultado.
Surgiu o PostTrainBench — onde grandes modelos fazem fine-tuning de pesos pequenos open-source. Atualmente, agentes de IA já atingem ~50% do desempenho de engenheiros de ML de ponta dos melhores laboratórios.

Sim, os modelos ainda não têm "criatividade" para criar novos paradigmas (como transformers), mas não precisam disso. A escalabilidade extensiva por meio de equipes autônomas de agentes de IA será mais que suficiente.

Tudo pode levar a que grandes empresas sejam "grandes" em capital (precisam de muitos GPUs), mas muito pequenas em pessoas. Para que manter um quadro de 50 engenheiros se um arquiteto pode gerenciar um enxame de 500 agentes sintéticos que não se esgotam e escrevem código na velocidade da luz? Bem, isso se tudo correr conforme o cenário ideal e não houver cisnes negros.

Acreditamos?