Gestion de la mémoire et de l'historique des dialogues dans les LLM 🧠

Un nouveau chatbot de support technique est déployé, l'utilisateur explique son problème, et au troisième message, le réseau neuronal demande : « Comment vous appelez-vous et en quoi puis-je vous aider ? ».

La raison est banale : les LLM sont par nature sans état. La « mémoire » du modèle n'est qu'une béquille architecturale, et le problème est généralement résolu de manière simpliste : on prend LangChain, on rassemble tous les messages précédents et on les jette dans le prompt.

🗓 Aujourd'hui à 18h00 heure de Moscou dans « Точка Сборки » nous analyserons l'architecture mémoire pour les assistants LLM et les méthodes de gestion adéquate du contexte.

Base nécessaire pour comprendre le sujet :
🔵Syntaxe de base de Python (classes, dictionnaires, fonctions).
🔵Compréhension du fonctionnement de l'API HTTP et du concept de base des LLM (ce qu'est un prompt et un token).
🔵 Connaissance superficielle des abstractions de LangChain.

Accès via le bot : t.me/TScompiler_bot