Чат-боты стали генерировать в два раза больше ложной информации. За последний год доля ошибочных утверждений выросла с 18% до 35%.

Рост ложных ответов оказался таким:
— Perplexity (компания Perplexity AI) — рост с 0 до 47%;
— ChatGPT (компания Open AI) — рост с 33 до 40%;
— Grok (компания xAI) — рост с 13 до 33%;
— Gemini (компания Google) — 17%.
— Claude (компания Anthropic) — 10%

Дело в том, что разработчики в алгоритмах нейросетей отсутствие ответа нейросетью считают негативным сценарием, тем самым поощряя нейросеть выдумывать ответы, это называют галюцинациями. К примеру, попробуйте ввести запрос "как приготовить свинные крылашки?"

Ниже ответ deepseek
Конечно! Свиные крылышки — это отличная альтернатива куриным, они более мясистые и сочные. Вот несколько проверенных способов их приготовления. Подготовка крылышек (важный этап!)
И далее идёт рецепт.


Особенно проблема заметна в многоязычных режимах — в русскоязычных и китайских запросах доля ошибок превышает 50 процентов.

👉 Источник

@dmitrii_ireshev_Agile_PMP #исследование #ИИ #ai