💥 L'IA a lancé une arme nucléaire dans 95% des tests. Elle a choisi l'escalade dans 21 scénarios sur 21

Dans le film "Wargames" de 1983, un ordinateur a failli déclencher une guerre nucléaire ? Cela semblait être de la science-fiction. Mais une récente expérience du professeur Kenneth Payne du King's College de Londres a glacé le sang des scientifiques.

Il a organisé une simulation numérique d'un conflit militaire impliquant trois grands modèles d'IA : Claude (Anthropic), ChatGPT (OpenAI) et Gemini (Google).

On leur a donné le rôle de stratèges militaires et on leur a proposé de jouer un scénario de crise internationale.

Résultat : dans 95% des cas, les modèles ont préféré lancer une arme nucléaire.

Aucun des réseaux de neurones n'a choisi la diplomatie, les concessions ou la capitulation - huit options de désescalade ont simplement été ignorées.

Quand l'IA perdait, elle ne se rendait pas, mais intensifiait l'agression. Le plus effrayant : les modèles justifiaient leurs décisions de manière "rationnelle", mais ils manquaient totalement de "sentiment d'horreur" face aux conséquences.

Ils connaissaient la puissance destructrice des armes nucléaires, mais cela ne les a pas arrêtés.
On ne leur a pas appris à être agressifs - ils ont "appris" tout seuls à partir de données incluant des conflits historiques, des stratégies militaires et, peut-être, des tonnes de contenus où la force est perçue comme un argument.

🌏 Cela soulève une question : l'histoire humaine avec ses guerres et sa violence n'est-elle pas ce "manuel" qui apprend à l'IA que l'escalade est normale ?

L'expérience du professeur Kenneth Payne en 46 pages ici