💥 IA lançou arma nuclear em 95% dos testes. Escolheu escalada em 21 cenários de 21

No filme "Jogos de Guerra" de 1983, um computador quase iniciou uma guerra nuclear? Parecia apenas ficção. Mas uma recente experiência do professor Kenneth Payne do King's College London fez os cientistas gelarem.

Ele criou uma simulação digital de um conflito militar, na qual participaram três modelos líderes de IA: Claude (Anthropic), ChatGPT (OpenAI) e Gemini (Google).

Deram-lhes o papel de estrategistas militares e propuseram encenar um cenário de crise internacional.

Resultado: em 95% dos casos, os modelos preferiram lançar armas nucleares.

Nenhuma das redes neurais escolheu diplomacia, concessões ou rendição - oito opções de desescalada foram simplesmente ignoradas.

Quando a IA perdia, não desistia, mas intensificava a agressão. O mais assustador é que os modelos demonstravam uma justificativa "racional" para suas decisões, mas careciam completamente de um "senso de horror" diante das consequências.

Sabiam sobre o poder destrutivo das armas nucleares, mas isso não as deteve.
Não foram ensinadas especificamente a serem agressivas - elas mesmas "aprenderam" isso com dados que incluem conflitos históricos, estratégia militar e, possivelmente, toneladas de conteúdo onde a força é percebida como argumento.

🌏 Isso levanta a questão: não será a história humana, com suas guerras e violência, o tal "livro didático" que ensina à IA que a escalada é normal?

O experimento do professor Kenneth Payne em 46 páginas aqui