L'année dernière, mon article sur la génération de données synthétiques a été sélectionné pour la short-list du prix Tekhnotekst 7. Il ne faut pas briser les traditions.

Mon nouveau longread sur Habr a récemment passé la sélection pour Tekhnotekst 8. J'y ai analysé les patrons architecturaux qui permettent aux LLM de fonctionner de manière plus qualitative et prévisible, avec des exemples de code en Python et LangChain.

Ce qu'il y a dedans :
🔵 Isolation XML : comment séparer structurellement les instructions système de la saisie utilisateur et se protéger de base contre les injections de prompt.
🔵 Contraintes négatives : comment faire obéir le LLM via un système de pénalités [PENALTY].
🔵 Format Forcing : préremplissage de la réponse. Comment forcer le modèle à continuer physiquement une chaîne JSON, en lui coupant la possibilité d'écrire « Bien sûr, voici votre réponse ».
🔵 Connaissances générées et auto-cohérence : comment traiter les hallucinations avec une génération en deux étapes et un vote majoritaire.
🔵 Tree of Thoughts : recherche dirigée de stratégies pour les tâches où le coût d'une erreur est un budget gaspillé.
🔵 Méta-prompting : comment déléguer la rédaction des prompts au modèle lui-même, pour qu'il les génère selon votre cadre strict.

Spoiler : la technique très appréciée « tu es un senior avec 20 ans d'expérience » dans les tâches discriminatives dégrade souvent la qualité. Dans l'article, j'explique pourquoi cela se produit, avec des preuves issues de la recherche.

👉🏻 Lire : Patrons d'ingénierie de prompt : comment concevoir des systèmes LLM en production
Je ne compte évidemment pas gagner, mais on verra si cela atteint la short-list cette fois. Likez là-bas 🤗

Le matériel était basé sur l'un des épisodes passés de Tochka Sborki. Voilà le niveau, je vous invite : t.me/TScompiler_bot ☕️