Arbeit mit Gedächtnis und Dialogverlauf in LLMs 🧠

Ein weiterer Chatbot für den technischen Support wird ausgerollt, der Nutzer schildert sein Problem, und bei der dritten Nachricht fragt die KI: „Wie heißen Sie und wie kann ich helfen?“.

Der Grund ist banal: LLMs sind von Natur aus zustandslos. Das „Gedächtnis“ des Modells ist nur ein architektonischer Krückstock, und normalerweise wird das Problem „brutal“ gelöst: Man nimmt LangChain, sammelt alle vorherigen Nachrichten und wirft sie in den Prompt.

🗓 Heute um 18:00 Uhr Moskauer Zeit im „Treffpunkt“ werden wir die Gedächtnisarchitektur für LLM-Assistenten und Methoden zur angemessenen Kontextverwaltung besprechen.

Erforderliche Grundlagen zum Verständnis des Materials:
🔵Grundlegende Python-Syntax (Klassen, Dictionaries, Funktionen).
🔵Verständnis der HTTP-API und des grundlegenden LLM-Konzepts (was sind Prompt und Token).
🔵 Oberflächliche Vertrautheit mit LangChain-Abstraktionen.

Zugang über den Bot: t.me/TScompiler_bot