Estive ausente por alguns meses. Não porque fui para a floresta, retiro ou detox digital - embora às vezes pareça tentador😌.

Apenas finalmente mergulhei no que há muito queria explorar mais a fundo: construí novos produtos de IA, estudei a arquitetura de modelos de linguagem e, periodicamente, me senti como alguém que abriu um armário e todas as caixas caíram de uma vez.

E outro dia vi um post: UOM - universidade onde estudei nutrição e em que confio muito - lançou oficialmente o programa “Redes Neurais para Profissionais de Ajuda”.

E fiquei feliz. Porque o que venho fazendo há um ano deixou de ser um hobby estranho de alguém que fala demais com o ChatGPT e se tornou uma área reconhecida até em projetos educacionais sérios.

Não é mais “algum dia”. Está acontecendo agora.
Enquanto isso, Perplexity e Alisa já oferecem interpretação de exames e recomendações, e influenciadores competem para aconselhar: “Colete seus dados médicos e entregue-os à IA”.

Soa moderno. Conveniente. Quase como se o futuro finalmente tivesse trazido chinelos e chá☕️.

E de certa forma, é verdade.
Mas toda vez que ouço esses conselhos, uma luz de alerta se acende dentro de mim. Porque sei o que geralmente não é visível de fora.

Existe uma coisa chamada alucinações de modelos de linguagem.
Soa quase romântico, mas na prática é mais prosaico: o modelo pode afirmar com confiança algo que não estava nos seus dados.
Não porque seja malicioso, traiçoeiro ou tenha decidido estragar sua noite. Mas porque é assim que funciona: gera uma resposta estatisticamente provável, e não busca um fato verificado em um cofre com a placa “Verdade”.

E no contexto médico, isso não é apenas um bug engraçado.

Em um estudo de resumos de casos médicos, a taxa de alucinações sem medidas especiais de redução chegou a 64,1%. E o benchmark MedHallu, com 10.000 perguntas da literatura médica, mostrou que mesmo modelos fortes, incluindo GPT-4o e Llama-3.1, têm dificuldade em reconhecer alucinações médicas complexas: o melhor resultado na categoria mais difícil foi F1-score 0,625.

E não, isso não significa que a IA deva ser imediatamente embrulhada em papel alumínio, guardada em uma gaveta e nunca mais usada.
Eu mesma a uso constantemente. Meu confiável NutriAgent reduziu a análise de um caso clínico de vários dias para algumas horas.
Ele realmente funciona bem onde a tarefa é algorítmica: resume indicadores, compara com valores ótimos, destaca desvios, ajuda a formular hipóteses. Em segundos, faz o que antes levava uma hora de trabalho manual, e não se esquece de olhar onde o olho humano, após a terceira tabela, já não quer mais olhar.

Mas.
Às vezes, você o pega no pulo. Ele descreve com confiança detalhes que não estão nos materiais originais.
Ou seja, encontrou o principal. E depois decidiu escrever um pouco mais de romance✍🏻.

E aí está o verdadeiro problema da IA na área da saúde: não é que ela erre. É que você nem sempre entende onde exatamente ela começou a inventar.
Quando os dados são insuficientes ou ambíguos, o modelo nem sempre diz: “Não sei”. Às vezes, ele completa o quadro com o que “geralmente acontece” em casos semelhantes. Com confiança, calma, com ares de aluno exemplar no quadro.

E sem contexto profissional, é quase impossível distinguir essa resposta de uma conclusão baseada nos seus indicadores específicos.

🤫Ontem conversei com um mestre sobre o caixilho para uma sauna.
Caixilho é uma estrutura especial no vão, sem a qual a estrutura de madeira, ao assentar, pode amassar portas e janelas. Ou seja, é algo importante. Especialmente se você, como eu, antes da conversa achava que era apenas uma palavra da categoria “algo engraçado”.

Em certo momento, percebi que não entendia quase nada das explicações do mestre. Admiti honestamente.
Ele pensou e disse:
“Bem, ou você estuda tudo sozinha, ou confia em quem entende.”

E eu pensei: é exatamente isso. Toda a conversa sobre IA, exames e saúde em uma frase.
Ou você mergulha fundo o suficiente para ver os erros, ou recorre a alguém que já percorreu esse caminho.

A IA ainda não está nessa lista.
Ela não é médica. Não é nutricionista. Não é uma especialista que assume responsabilidade pelas conclusões.
É uma ferramenta nas mãos de um especialista.
Muito poderosa, rápida, útil. Mas ainda assim, uma ferramenta.
Mais ou menos como uma parafusadeira: uma coisa excelente, até você pedir que ela construa sozinha uma sauna, calcule o assentamento da estrutura e escolha suas janelas.

E você já tentou carregar seus exames ou sintomas em uma rede neural? Se sim, quanto confia no que obteve?

@nastroi_zdorovie 🎧