L'IA a gagné

Les réseaux de neurones gouvernent déjà votre monde. Mais peut-être pas comme vous le pensez.

Quand on parle du danger de l'IA, on dresse généralement deux tableaux. Le premier est ennuyeux : le réseau de neurones accélérera le travail, remplacera certains métiers, réduira les coûts, et ensuite on verra. Le second est cinématographique : super-intelligence, manipulations, catastrophe, bouton de lancement de la fin du monde.

Les deux tableaux sont pratiques. Les deux placent le problème quelque part dans le futur. Mais la mauvaise nouvelle est que la principale victoire de l'IA est déjà là.

Pas sous la forme d'un robot aux yeux rouges. Pas sous la forme d'un chômage instantané. Elle est beaucoup plus prosaïque : comme un paragraphe de texte soigneusement rédigé.


Le texte — le format le plus perfide

Avec une image, c'est plus simple. Six doigts, un ours qui cuisine du bortsch — le cerveau reçoit un signal : je suis face à un faux. Avec la vidéo, on apprend aussi à être prudent.

Mais le texte est un contrebandier idéal.

S'il est bien structuré, confiant et écrit sans absurdité évidente, la plupart des gens ne vérifieront pas que l'accélération de la pesanteur n'est pas égale à 11, que "manger une pierre par jour est bénéfique" n'est pas une recommandation médicale, et que la liste des sources n'existe même pas. La machine diffuse des absurdités avec le ton d'un manuel.


Une nouvelle autorité

Nous avons dans la tête un vieux bug : l'ordinateur a raison parce que c'est un ordinateur.

Il y a une formule dans Excel — donc il y a une logique rigoureuse quelque part. Si la réponse semble lisse — donc elle s'appuie sur quelque chose. Si l'IA parle avec assurance — donc elle "sait quelque chose".

Mais un LLM est une machine probabiliste qui assemble des phrases plausibles. Le problème est que les gens lisent souvent cela comme un nouveau type d'autorité.

Et les recherches le confirment. Dans l'étude de Microsoft Research avec 319 "travailleurs du savoir", une plus grande confiance dans l'IA générative était associée à moins de pensée critique, et le travail avec l'IA passait souvent de l'analyse indépendante à la vérification d'une réponse toute faite.

Dans plusieurs expériences, les gens percevaient même la source IA comme moins biaisée, plus informative et moins intéressée à convaincre qu'un humain. Autrement dit, le caractère "non humain" du système augmente le crédit de confiance chez beaucoup.


Nous commençons à penser dans un cadre étranger

Ensuite, les gens relaient les réponses des modèles comme leurs propres conclusions. Pas parce qu'ils sont stupides. Parce que c'est moins coûteux en effort.

Ainsi naît une forme très étrange de dépendance : nous parlons encore nous-mêmes, mais de plus en plus avec les mots, la logique et les cadres que la machine a proposés à l'avance.

Et même le marquage "écrit par IA" aide peu. Dans une expérience sur 1601 participants, ces étiquettes ne modifiaient presque ni la persuasivité du message, ni l'évaluation de son exactitude, ni la volonté de le partager. En d'autres termes, le simple fait de l'origine artificielle du texte ne rend pas les gens sensiblement plus prudents.


Un cercle vicieux qui s'auto-renforce

Ensuite, le mécanisme le plus dangereux se met en marche — une boucle de rétroaction.

Le modèle se trompe
→ L'humain copie l'erreur dans un post, une note, un commentaire, un texte SEO, un résumé, une présentation
→ Cette masse de texte s'installe sur Internet
→ Le modèle suivant apprend sur un monde où l'invention statistique ressemble à une partie normale de la réalité.

Dans l'étude de Shumailov, ce processus est décrit comme un effondrement du modèle : lors d'un apprentissage récursif sur des données générées, les modèles commencent à perdre les queues de distribution et reflètent de moins en moins la réalité initiale, tout en conservant l'apparence d'un fonctionnement normal. La dégradation peut être silencieuse et presque imperceptible.

L'IA n'a pas besoin de devenir plus intelligente que l'homme pour commencer à façonner la réalité. Il lui suffit de devenir massive, pratique et suffisamment convaincante.

Ce n'est pas la fin du monde. La fin du monde au moins est visible. Ici, tout se passe en mode confort. Vous n'êtes pas allongé sous les ruines de la civilisation. Vous vivez simplement dans un monde où la vérité est de plus en plus souvent déterminée non par la vérification, mais par la force de persuasion de la formulation. Et où la profondeur de la compréhension est progressivement remplacée par l'accès à un modèle plus cher, plus rapide, plus "intelligent".


❗️❗️❗️❗️❗️❗️❗️❗️ / Non interdit en RF