Chatbots estão gerando o dobro de informações falsas. No último ano, a proporção de afirmações erradas subiu de 18% para 35%.

O aumento de respostas falsas foi o seguinte:
— Perplexity (empresa Perplexity AI) — aumento de 0% para 47%;
— ChatGPT (empresa Open AI) — aumento de 33% para 40%;
— Grok (empresa xAI) — aumento de 13% para 33%;
— Gemini (empresa Google) — 17%.
— Claude (empresa Anthropic) — 10%

O problema é que os desenvolvedores, nos algoritmos das redes neurais, consideram a ausência de resposta como um cenário negativo, incentivando assim a rede neural a inventar respostas, o que é chamado de alucinações. Por exemplo, tente inserir a consulta "como preparar asas de porco?"

Abaixo, a resposta do DeepSeek:
Claro! Asas de porco são uma ótima alternativa às de frango, são mais carnudas e suculentas. Aqui estão algumas maneiras testadas de prepará-las. Preparação das asas (etapa importante!)
E então segue a receita.


O problema é especialmente perceptível em modos multilíngues — em consultas em russo e chinês, a proporção de erros ultrapassa 50%.

👉 Fonte

@dmitrii_ireshev_Agile_PMP #pesquisa #IA #ai