Trabalhando com memória e histórico de diálogo em LLMs 🧠

Mais um chatbot de suporte técnico está sendo lançado, o usuário descreve seu problema, e na terceira mensagem a rede neural pergunta: "Qual é o seu nome e como posso ajudar?".

A razão é banal: LLMs são inerentemente stateless. A "memória" do modelo é apenas uma muleta arquitetural, e geralmente o problema é resolvido de forma direta: pegam-se LangChain, coletam-se todas as mensagens anteriores e jogam-se no prompt.

🗓 14 de abril às 18:00 (horário de Moscou) no "Ponto de Montagem" vamos analisar a arquitetura de memória para assistentes LLM e métodos de gerenciamento adequado de contexto.

Base necessária para entender o material:
🔵Sintaxe básica de Python (classes, dicionários, funções).
🔵Compreensão do funcionamento de APIs HTTP e do conceito básico de LLM (o que é prompt e token).
🔵Familiaridade superficial com as abstrações do LangChain.

Acesso via bot: t.me/TScompiler_bot