Meu novo artigo longo no Habr passou recentemente na seleção para o Technotext 8. Nele, analisei padrões arquitetônicos que fazem os LLMs trabalharem de forma mais qualitativa e previsível, com exemplos de código em Python e LangChain.
O que tem dentro:
🔵 Isolamento XML: como separar estruturalmente instruções do sistema da entrada do usuário e se proteger basicamente contra injeções de prompt.
🔵 Restrições Negativas: como fazer o LLM obedecer através de um sistema de penalidades
[PENALTY].🔵 Formatação Forçada: pré-preenchimento da resposta. Como forçar o modelo a continuar fisicamente uma string JSON, cortando sua capacidade de escrever "Claro, aqui está sua resposta".
🔵 Conhecimento Gerado e Autoconsistência: como tratar alucinações com geração em duas etapas e votação majoritária.
🔵 Árvore de Pensamentos: busca direcionada de estratégias para tarefas onde o custo do erro é o orçamento perdido.
🔵 Metaprompting: como delegar a escrita de prompts ao próprio modelo, para que ele os gere de acordo com seu framework rígido.
Spoiler: o truque favorito de muitos "você é um sênior com 20 anos de experiência" em tarefas discriminativas muitas vezes piora a qualidade. No artigo, explico por que isso acontece, com provas de pesquisas.
👉🏻 Leia: Padrões de engenharia de prompt: como projetar sistemas LLM em produçãoClaro, não conto com a vitória, mas vamos ver se chega à shortlist desta vez. Curta aí 🤗
O material foi baseado em uma das transmissões passadas do Ponto de Montagem. Esse é o nível, convido: t.me/TScompiler_bot ☕️
Comentários
0Ainda não há comentários.
Entre para participar da conversa.