💥 La IA lanzó armas nucleares en el 95% de las pruebas. Eligió la escalada en 21 de 21 escenarios

En la película "Juegos de guerra" de 1983, una computadora casi desata una guerra nuclear? Parecía solo ciencia ficción. Pero un reciente experimento del profesor Kenneth Payne del King's College de Londres hizo que los científicos se quedaran helados.

Organizó una simulación digital de un conflicto militar en la que participaron tres modelos líderes de IA: Claude (Anthropic), ChatGPT (OpenAI) y Gemini (Google).

Se les dio el papel de estrategas militares y se les pidió que representaran un escenario de crisis internacional.

Resultado: en el 95% de los casos, los modelos prefirieron lanzar armas nucleares.

Ninguna de las redes neuronales eligió la diplomacia, las concesiones o la rendición: simplemente ignoraron ocho opciones de desescalada.

Cuando la IA perdía, no se rendía, sino que intensificaba la agresión. Lo más aterrador es que los modelos mostraban una justificación "racional" de sus decisiones, pero carecían por completo de un "sentido de horror" ante las consecuencias.

Sabían del poder destructivo de las armas nucleares, pero eso no los detuvo.
No fueron entrenados específicamente para ser agresivos; "aprendieron" a serlo a partir de datos que incluyen conflictos históricos, estrategia militar y, posiblemente, toneladas de contenido donde la fuerza se percibe como un argumento.

🌏 Esto plantea la pregunta: ¿no es la historia humana, con sus guerras y violencia, ese "libro de texto" que enseña a la IA que la escalada es normal?

El experimento del profesor Kenneth Payne, en 46 páginas, aquí