No he estado un par de meses. No porque me haya ido al bosque, a un retiro o a un detox digital — aunque a veces suena tentador😌.

Simplemente por fin me sumergí en lo que hacía tiempo quería explorar más a fondo: construí nuevos productos de IA, profundicé en la arquitectura de modelos de lenguaje y, de vez en cuando, me sentía como alguien que abre un armario y le caen todas las cajas encima.

Y hace unos días vi un post: UOM — la universidad donde estudié nutrición y en la que confío mucho — lanzó oficialmente el programa «Redes neuronales para profesionales de ayuda».

Y me alegré mucho. Porque lo que he estado haciendo durante un año dejó de ser un hobby extraño de alguien que habla demasiado con ChatGPT y se convirtió en un área reconocida incluso en proyectos educativos serios.

Esto ya no es «algún día». Está sucediendo ahora.
Además, Perplexity y Alisa ya ofrecen interpretación de análisis y recomendaciones, y los influencers compiten por aconsejar: «Recopilen sus datos médicos y entréguenselos a la IA».

Suena moderno. Cómodo. Casi como si el futuro por fin hubiera traído pantuflas y té☕️.

Y en cierto sentido es así.
Pero cada vez que escucho esos consejos, se me enciende una lucecita de alarma. Porque sé algo que normalmente no se ve desde fuera.

Existe algo llamado alucinaciones de los modelos de lenguaje.
Suena casi romántico, pero en realidad es más prosaico: el modelo puede afirmar con seguridad algo que no estaba en tus datos.
No porque sea malo, traicionero o haya decidido arruinarte la noche. Sino porque está diseñado así: genera una respuesta estadísticamente probable, no saca un hecho verificado de una caja fuerte con el cartel «Verdad».

Y en el contexto médico, esto ya no es solo un error gracioso.

En un estudio de resúmenes de casos médicos, la tasa de alucinaciones sin medidas especiales de reducción alcanzaba hasta el 64,1%. Y el benchmark MedHallu, con 10 000 preguntas de la literatura médica, mostró que incluso modelos potentes, como GPT-4o y Llama-3.1, tienen dificultades para detectar alucinaciones médicas complejas: el mejor resultado en la categoría más difícil fue un F1-score de 0,625.

Y no, esto no significa que haya que envolver la IA en papel de aluminio, guardarla en un cajón y no sacarla nunca.
Yo misma la uso constantemente. Mi probado NutriAgent redujo el análisis de un caso clínico de varios días a varias horas.
Funciona muy bien donde la tarea es algorítmica: resume indicadores, los compara con óptimos, destaca desviaciones, ayuda a formular hipótesis. En segundos hace lo que antes tomaba una hora de trabajo manual, y no se olvida de mirar donde el ojo humano, después de la tercera tabla, ya no quiere mirar.

Pero.
A veces lo pillas en falta. Describe con seguridad detalles que no están en los materiales originales.
Es decir, encontró lo principal. Y luego decidió escribir un poco de novela✍🏻.

Y ahí está el verdadero problema de la IA en temas de salud: no es que se equivoque. Sino que no siempre sabes dónde empezó a inventar.
Cuando faltan datos o son ambiguos, el modelo no siempre dice: «No lo sé». A veces completa el cuadro con lo que «suele pasar» en casos similares. Con seguridad, tranquilidad, con cara de alumno aplicado en la pizarra.

Y sin contexto profesional, es casi imposible distinguir esa respuesta de una conclusión basada en tus indicadores concretos.

🤫Ayer hablé con un maestro sobre el marco de ventanas para una sauna.
El marco es una estructura especial en la abertura, sin la cual una casa de troncos, al asentarse, puede aplastar puertas y ventanas. Es algo importante. Especialmente si, como yo, antes de la conversación pensabas que era solo una palabra graciosa.

En un momento, me di cuenta de que no entendía casi nada de las explicaciones del maestro. Se lo confesé.
Él pensó y dijo:
«Bueno, o tienes que estudiarlo todo tú misma, o confiar en alguien que entienda».

Y yo pensé: ahí está. Toda la conversación sobre IA, análisis y salud en una frase.
O te sumerges lo suficiente para ver los errores, o acudes a alguien que ya ha recorrido ese camino.

La IA aún no está en esa lista.
No es médico. No es nutricionista. No es un especialista que asuma la responsabilidad de las conclusiones.
Es una herramienta en manos de un experto.
Muy potente, rápida, útil. Pero sigue siendo una herramienta.
Como un taladro: algo maravilloso, mientras no le pidas que construya él solo una sauna, calcule el asentamiento del tronco y te elija las ventanas.

¿Ya has intentado cargar tus análisis o síntomas en una red neuronal? Si es así, ¿cuánto confías en lo que obtuviste?

@nastroi_zdorovie 🎧