Мой новый лонгрид на Хабре недавно прошел отбор на Технотекст 8. Там я разобрал архитектурные паттерны, которые заставляют LLM работать более качественно и предсказуемо с примерами кода на Python и LangChain.
Что внутри:
🔵 XML-изоляция: как структурно отделить системные инструкции от пользовательского ввода и базово защититься от промпт-инъекций.
🔵 Negative Constraints: как заставить LLM слушаться через систему штрафов
[PENALTY].🔵 Format Forcing: предзаполнение ответа. Как заставить модель физически продолжать JSON-строку, отрезая ей возможность написать «Конечно, вот ваш ответ».
🔵 Generated Knowledge & Self-Consistency: как лечить галлюцинации двухэтапной генерацией и мажоритарным голосованием.
🔵 Tree of Thoughts: направленный поиск стратегий для задач, где цена ошибки — слитый бюджет.
🔵 Meta-prompting: как делегировать написание промптов самой модели, чтобы она генерировала их по вашему жесткому фреймворку.
Спойлер: любимый многими прием «ты — сеньор с 20-летним стажем» в дискриминативных задачах часто ухушгает качество. В статье объясняю, почему так происходит, с пруфами из исследований.
👉🏻 Читать: Паттерны промпт-инжиниринга: как проектировать LLM-системы в productionНа победу, конечно, не рассчитываю, но посмотрим, дойдет ли до шорт-листа в этот раз. Вы там лайкайте 🤗
Материал основывался на одном из прошедших эфиров Точки Сборки. Вот такой там уровень, приглашаю: t.me/TScompiler_bot ☕️
