Les chatbots génèrent deux fois plus de fausses informations. Au cours de la dernière année, la part des affirmations erronées est passée de 18 % à 35 %.

La croissance des réponses fausses a été la suivante :
— Perplexity (société Perplexity AI) — augmentation de 0 à 47 % ;
— ChatGPT (société Open AI) — augmentation de 33 à 40 % ;
— Grok (société xAI) — augmentation de 13 à 33 % ;
— Gemini (société Google) — 17 %.
— Claude (société Anthropic) — 10 %

Le problème est que les développeurs, dans les algorithmes des réseaux de neurones, considèrent l'absence de réponse comme un scénario négatif, encourageant ainsi le réseau à inventer des réponses, ce qu'on appelle des hallucinations. Par exemple, essayez de saisir la requête "comment préparer des ailes de porc ?"

Ci-dessous la réponse de DeepSeek :
Bien sûr ! Les ailes de porc sont une excellente alternative aux ailes de poulet, elles sont plus charnues et juteuses. Voici quelques méthodes éprouvées pour les préparer. Préparation des ailes (étape importante !)
Et ensuite la recette.


Le problème est particulièrement visible dans les modes multilingues — dans les requêtes en russe et en chinois, la part d'erreurs dépasse 50 %.

👉 Source

@dmitrii_ireshev_Agile_PMP #recherche #IA #ai