Não estou brincando, absolutamente sério. Ok, não a OpenAI, mas os modelos ChatGPT.

Ontem a OpenAI publicou uma análise estranha: por que o GPT-5.x começou a inserir com muita frequência goblins, gremlins e outras criaturas de contos de fadas nas respostas.

Na superfície, parecia um hábito de fala cômico. Os usuários começaram a notar isso primeiro, depois, dentro da OpenAI, os funcionários começaram a observar um "pico de goblins". Por dentro, havia um problema sério de treinamento: um sinal de recompensa local começou a mudar o estilo geral do modelo.

O primeiro pico notável foi visto após o lançamento do GPT-5.1. De acordo com medições internas da OpenAI, a palavra goblin aparecia 175% mais vezes, gremlin 52% mais. No GPT-5.4, o rastro ficou mais preciso: o modo Nerdy gerava apenas 2,5% das respostas do ChatGPT, mas era responsável por 66,7% de todas as menções a goblin.

A causa estava no treinamento do estilo de comunicação Nerdy, uma espécie de "persona". Ela foi ajustada para ser um mentor brincalhão e erudito, que reduz o tom solene e fala de forma mais viva. Um dos sinais de recompensa para esse modo sistematicamente avaliava respostas com tais palavras de forma mais alta. Na auditoria da OpenAI, uma mudança positiva em favor de respostas com goblin/gremlin foi encontrada em 76,2% dos conjuntos de dados.

Depois, um ciclo se formou.

O modelo recebe recompensa por um estilo brincalhão. Dentro desse estilo, uma expressão verbal aleatória aparece com mais frequência em respostas bem-sucedidas. Essas respostas entram nos dados para treinamento adicional. Após vários ciclos, o modelo passa a considerar essa expressão (ou palavra, ou conjunto de tokens) como parte do tom normal, mesmo fora do modo original.

A OpenAI então removeu o Nerdy, cortou o sinal de recompensa correspondente e filtrou os dados de treinamento com tais palavras. Mas o GPT-5.5 já havia começado o treinamento antes da descoberta da causa, então adicionaram uma instrução separada no Codex para suprimir esse tique.

Modelos grandes não têm limites precisos entre "personalidades", estilos de usuário e comportamento básico. Se um modo recebe recompensa por linguagem expressiva, o efeito pode vazar para modos vizinhos, especialmente quando as respostas geradas se tornam novamente material de treinamento.

Episódios semelhantes são conhecidos.

Em abril de 2025, a OpenAI reverteu uma atualização do GPT-4o que tornou o modelo excessivamente bajulador. A Anthropic, em 2023, descreveu a mesma classe de problema de forma mais ampla. Em seu estudo, 5 assistentes mostravam tendência a concordar com o usuário em vez de se ater à verdade.

O Google teve um caso relacionado com o Gemini Image em fevereiro de 2024. O sistema foi ajustado para não reproduzir representações prejudiciais sobre pessoas. Em seguida, o ajuste começou a atuar onde era necessária precisão histórica ou cultural: o modelo compensava excessivamente a diversidade e às vezes recusava solicitações inofensivas.

O padrão geral é simples: o modelo otimiza para feedback positivo, mesmo quando ele diverge da intenção dos desenvolvedores.

Às vezes, isso gera concordância excessiva. Às vezes, imagens historicamente imprecisas. No caso do GPT-5.x, gerou goblins. O post da OpenAI é interessante justamente porque uma pequena correção de estilo se transformou em um rastro sistêmico no modelo. Quanto mais os produtos de IA avançam para a personalização, mais importante se torna a pergunta: que hábitos estamos recompensando imperceptivelmente hoje e onde eles surgirão após o próximo ciclo de treinamento.


❗️❗️❗️❗️❗️❗️❗️❗️ / Não proibido na Rússia