Trabalhando com memória e histórico de diálogo em LLMs 🧠

Está sendo lançado mais um chatbot de suporte técnico, o usuário está detalhando seu problema, e na terceira mensagem a rede neural pergunta: "Qual é o seu nome e como posso ajudar?".

O motivo é banal: LLMs são inerentemente stateless. A "memória" do modelo é apenas uma muleta arquitetural, e geralmente o problema é resolvido "na marra": pegam o LangChain, coletam todas as mensagens anteriores e jogam no prompt.

🗓 Hoje às 18:00 (horário de Moscou) no "Ponto de Montagem" vamos analisar a arquitetura de memória para assistentes LLM e métodos adequados de gerenciamento de contexto.

Base necessária para entender o material:
🔵Sintaxe básica de Python (classes, dicionários, funções).
🔵Compreensão do funcionamento de APIs HTTP e conceitos básicos de LLM (o que é prompt e token).
🔵 Familiaridade superficial com as abstrações do LangChain.

Acesso via bot: t.me/TScompiler_bot