Je n'ai pas été là pendant quelques mois. Pas parce que je suis partie en forêt, en retraite ou en digital detox - même si parfois ça semble tentant😌.

Je me suis simplement enfin plongée dans ce que je voulais approfondir depuis longtemps : construire de nouveaux produits IA, comprendre l'architecture des modèles de langage et, de temps en temps, me sentir comme quelqu'un qui ouvre un placard et se fait tomber toutes les boîtes dessus d'un coup.

Et l'autre jour, j'ai vu un post : UOM - l'université où j'ai étudié la nutrition et à laquelle je fais beaucoup confiance - a officiellement lancé le programme « Réseaux de neurones pour les professionnels de l'aide ».

Et j'en ai été vraiment contente. Parce que ce que je fais depuis un an a cessé d'être un hobby étrange de quelqu'un qui parle trop à ChatGPT, et est devenu une direction reconnue, même dans des projets éducatifs sérieux.

Ce n'est plus « un jour, plus tard ». Cela se produit maintenant.
Pendant ce temps, Perplexity et Alisa proposent déjà le décryptage des analyses et des recommandations, et les influenceurs se conseillent à qui mieux mieux : « Collectez vos données médicales et donnez-les à l'IA ».

Cela semble moderne. Pratique. Presque comme si le futur avait enfin apporté des pantoufles et du thé☕️.

Et d'une certaine manière, c'est le cas.
Mais chaque fois que j'entends ce genre de conseils, une petite lumière d'alarme s'allume en moi. Parce que je sais ce qui n'est généralement pas visible de l'extérieur.

Il y a une chose appelée hallucinations des modèles de langage.
Cela semble presque romantique, mais en réalité c'est plus prosaïque : le modèle peut déclarer avec assurance quelque chose qui n'était pas dans vos données.
Non pas parce qu'il est méchant, sournois ou qu'il a décidé de gâcher votre soirée. Mais parce qu'il est conçu ainsi : il génère une réponse statistiquement probable, et non pas une information vérifiée sortie d'un coffre étiqueté « Vérité ».

Et dans un contexte médical, ce n'est plus juste un bug amusant.

Dans une étude sur des résumés de cas médicaux, le taux d'hallucinations sans mesures spéciales de réduction atteignait 64,1%. Et le benchmark MedHallu sur 10 000 questions issues de la littérature médicale a montré que même les modèles puissants, y compris GPT-4o et Llama-3.1, ont du mal à reconnaître les hallucinations médicales complexes : le meilleur résultat dans la catégorie la plus difficile était un F1-score de 0,625.

Et non, cela ne signifie pas qu'il faut d'urgence emballer l'IA dans du papier aluminium, la ranger dans un tiroir éloigné et ne jamais la sortir.
Je l'utilise moi-même constamment. Mon NutriAgent éprouvé a réduit l'analyse d'un cas client de plusieurs jours à quelques heures.
Il fonctionne vraiment bien là où la tâche est algorithmique : il résume les indicateurs, les compare aux optimums, identifie les écarts, aide à formuler des hypothèses. En quelques secondes, il fait ce qui prenait auparavant une heure de travail manuel, et il n'oublie pas de regarder là où l'œil humain, après le troisième tableau, ne veut plus regarder.

Mais.
Parfois, on le prend la main dans le sac. Il décrit avec assurance des détails qui ne figurent pas dans les documents sources.
C'est-à-dire qu'il a trouvé l'essentiel. Puis il a décidé d'écrire un petit roman✍🏻.

Et voilà le vrai problème de l'IA dans le domaine de la santé : ce n'est pas qu'elle se trompe. C'est que vous ne savez pas toujours où exactement elle a commencé à inventer.
Quand les données manquent ou sont ambiguës, le modèle ne dit pas toujours : « Je ne sais pas ». Parfois, il complète le tableau avec ce qui « arrive généralement » dans des cas similaires. Avec assurance, calmement, comme un bon élève au tableau.

Et sans contexte professionnel, il est presque impossible de distinguer une telle réponse d'une conclusion basée sur vos indicateurs spécifiques.

🤫Hier, j'ai parlé avec un artisan de l'okossyatchka pour un sauna.
L'okossyatchka est une structure spéciale dans l'ouverture, sans laquelle une charpente en bois, en se tassant, peut écraser les portes et les fenêtres. C'est donc une chose importante. Surtout si, comme moi, vous pensiez avant cette conversation que c'était juste un mot de la catégorie « quelque chose d'amusant ».

À un moment, j'ai réalisé que je ne comprenais presque rien aux explications de l'artisan. Je l'ai honnêtement admis.
Il a réfléchi et a dit :
« Eh bien, soit vous devez tout étudier par vous-même, soit faire confiance à quelqu'un qui s'y connaît. »

Et je me suis dit : le voilà. Tout le discours sur l'IA, les analyses et la santé en une seule phrase.
Soit vous plongez assez profondément pour voir les erreurs, soit vous vous adressez à une personne qui a déjà parcouru ce chemin.

L'IA n'est pas encore dans cette liste.
Elle n'est pas médecin. Pas nutritionniste. Pas un spécialiste qui assume la responsabilité des conclusions.
C'est un outil entre les mains d'un expert.
Très puissant, rapide, utile. Mais un outil quand même.
Un peu comme une visseuse : une excellente chose, tant que vous ne lui demandez pas de construire elle-même un sauna, de calculer le tassement de la charpente et de choisir vos fenêtres.

Et vous, avez-vous déjà essayé de charger vos analyses ou symptômes dans un réseau de neurones ? Si oui, à quel point faites-vous confiance à ce que vous avez obtenu ?

@nastroi_zdorovie 🎧