Chatbot menghasilkan dua kali lebih banyak informasi palsu. Selama setahun terakhir, proporsi pernyataan yang salah meningkat dari 18% menjadi 35%.

Peningkatan jawaban palsu adalah sebagai berikut:
— Perplexity (perusahaan Perplexity AI) — meningkat dari 0% menjadi 47%;
— ChatGPT (perusahaan Open AI) — meningkat dari 33% menjadi 40%;
— Grok (perusahaan xAI) — meningkat dari 13% menjadi 33%;
— Gemini (perusahaan Google) — 17%.
— Claude (perusahaan Anthropic) — 10%

Masalahnya adalah bahwa pengembang dalam algoritma jaringan saraf menganggap tidak adanya jawaban dari jaringan saraf sebagai skenario negatif, sehingga mendorong jaringan saraf untuk mengarang jawaban, yang disebut halusinasi. Misalnya, coba masukkan permintaan "bagaimana cara memasak sayap babi?"

Di bawah ini adalah jawaban deepseek
Tentu! Sayap babi adalah alternatif yang bagus untuk sayap ayam, lebih berdaging dan berair. Berikut adalah beberapa cara yang sudah teruji untuk memasaknya. Persiapan sayap (langkah penting!)
Dan seterusnya resepnya.


Masalah ini terutama terlihat dalam mode multibahasa — dalam permintaan berbahasa Rusia dan Tiongkok, proporsi kesalahan melebihi 50 persen.

👉 Sumber

@dmitrii_ireshev_Agile_PMP #penelitian #AI #ai