Como desenvolvedores alegremente atiram no próprio pé 🔫

No crackr.dev há um catálogo onde rastreiam as falhas do vibe coding.

Aqui vão alguns exemplos relacionados ao Python:

1️⃣ Cadeia de suprimentos através de alucinações
LLMs de ponta consistentemente recomendavam instalar o pacote inexistente huggingface-cli (na realidade, instala-se via pip install "huggingface_hub[cli]").
O pessoal da Lasso Security não perdeu tempo e publicou no PyPI um pacote vazio com esse nome.

Resultado — mais de 30.000 downloads reais em alguns meses. Isso são 30 mil desenvolvedores que copiaram e colaram cegamente o comando do chat no terminal. Um vetor de ataque ideal: nem precisa invadir ninguém, é só esperar a IA entregar seu malware à vítima.

2️⃣ RCE pronta para uso do Claude
A Red Team da Databricks pediu ao Claude para criar uma cobrinha multiplayer. A rede gerou código totalmente funcional, clientes conectam, cobrinhas se movem. Mas para transmitir o estado pela rede, o Claude decidiu usar pickle em vez de JSON, porque é mais fácil serializar objetos Python.

Para quem esqueceu o básico: pickle.loads() em dados crus do socket é uma Execução Remota de Código instantânea. Qualquer cliente conectado poderia enviar bytecode especialmente formatado e executar comandos arbitrários no servidor. Economizaram tempo no parsing de JSON — conseguiram uma brecha do tamanho de um hangar.

O problema das redes neurais não é que elas são burras. Elas escrevem código que resolve o problema e funciona. Mas a segurança arquitetural e os casos extremos a rede não considera, a menos que seja explicitamente forçada a isso através de prompts paranoicos.

Revisem, revisem, revisem 🫵