Меня не было пару месяцев. Не потому, что я ушла в лес, ретрит или цифровой детокс - хотя иногда звучит заманчиво😌.

Я просто наконец-то погрузилась в то, до чего давно хотела добраться глубже: строила новые AI-продукты, разбиралась в архитектуре языковых моделей и периодически чувствовала себя человеком, который открыл шкаф, а оттуда на него выпали все коробки сразу.

А на днях увидела пост: УОМ - университет, где я училась нутрициологии и которому очень доверяю, - официально запустил программу «Нейросети для помогающих специалистов».

И я прямо порадовалась. Потому что то, чем я занимаюсь уже год, перестало быть странным хобби человека, который слишком много разговаривает с ChatGPT, и стало признанным направлением даже в серьёзных образовательных проектах.

Это уже не “когда-нибудь потом”. Это происходит сейчас.
При этом Perplexity и Алиса уже предлагают расшифровку анализов и рекомендации, а инфлюенсеры наперебой советуют: «Собирайте свои медданные и отдавайте их ИИ».

Звучит современно. Удобно. Почти как будто будущее наконец-то принесло тапочки и чай☕️.

И в каком-то смысле так и есть.
Но каждый раз, когда я слышу такие советы, у меня внутри немного включается тревожная лампочка. Потому что я знаю то, чего снаружи обычно не видно.

Есть такая штука - галлюцинации языковых моделей.
Звучит почти романтично, но на деле всё прозаичнее: модель может уверенно сообщить то, чего в ваших данных не было.
Не потому что она вредная, коварная или решила испортить вам вечер. А потому что она устроена так: генерирует статистически вероятный ответ, а не достаёт проверенный факт из сейфа с табличкой «Истина».

И вот в медицинском контексте это уже не просто забавный баг.

В одном исследовании медицинских резюме кейсов уровень галлюцинаций без специальных мер снижения доходил до 64,1%. А бенчмарк MedHallu на 10 000 вопросах из медицинской литературы показал, что даже сильные модели, включая GPT-4o и Llama-3.1, с трудом распознают сложные медицинские галлюцинации: лучший результат в самой трудной категории составил F1-score 0,625.

И нет, это не значит, что ИИ надо срочно завернуть в фольгу, убрать в дальний ящик и никогда не доставать.
Я сама пользуюсь им постоянно. Мой проверенный NutriAgent сократил разбор клиентского кейса с нескольких дней до нескольких часов.
Он правда классно работает там, где задача алгоритмическая: сводит показатели, сравнивает их с оптимумами, выделяет отклонения, помогает строить гипотезы. За несколько секунд делает то, на что раньше уходил час ручной работы, и не забывает посмотреть туда, куда человеческий глаз после третьей таблицы уже смотреть не хочет.

Но.
Иногда ловишь его за руку. Он уверенно описывает детали, которых в исходных материалах нет.
То есть главное нашёл. А потом решил немного дописать роман✍🏻.

И вот в чём настоящая проблема ИИ в теме здоровья: не в том, что он ошибается. А в том, что вы не всегда понимаете, где именно он начал сочинять.
Когда данных не хватает или они неоднозначны, модель не всегда говорит: «Я не знаю». Иногда она достраивает картину тем, что «обычно бывает» в похожих случаях. Уверенно, спокойно, с видом отличника у доски.

И без профессионального контекста отличить такой ответ от вывода по вашим конкретным показателям почти невозможно.

🤫Вчера я разговаривала с мастером про окосячку для бани.
Окосячка - это такая специальная конструкция в проёме, без которой деревянный сруб при усадке может смять двери и окна. То есть штука важная. Особенно если вы, как я, до разговора думали, что это просто слово из категории «что-то забавное».

В какой-то момент я поняла, что не понимаю почти ничего из объяснений мастера. Честно призналась.
Он подумал и сказал:
«Ну, тут либо вам придётся изучить всё самой, либо довериться тому, кто разбирается».

И я такая: вот же он. Весь разговор про ИИ, анализы и здоровье в одной фразе.
Либо ты погружаешься достаточно глубоко, чтобы видеть ошибки, либо обращаешься к человеку, который уже прошёл этот путь.

ИИ пока в этом списке не стоит.
Он не врач. Не нутрициолог. Не специалист, который несёт ответственность за выводы.
Он инструмент в руках эксперта.
Очень мощный, быстрый, полезный. Но всё-таки инструмент.
Примерно как шуруповёрт: прекрасная вещь, пока вы не просите его самостоятельно построить баню, рассчитать усадку сруба и выбрать вам окна.

А вы уже пробовали загружать свои анализы или симптомы в нейросеть? Если да - насколько доверяете тому, что получили?

@nastroi_zdorovie 🎧