Mi nuevo artículo extenso en Habr recientemente pasó la selección para Tecnotexto 8. Allí analicé los patrones arquitectónicos que hacen que los LLM funcionen de manera más eficiente y predecible, con ejemplos de código en Python y LangChain.
Qué hay dentro:
🔵 Aislamiento XML: cómo separar estructuralmente las instrucciones del sistema de la entrada del usuario y protegerse básicamente contra inyecciones de prompt.
🔵 Restricciones negativas: cómo hacer que el LLM obedezca mediante un sistema de penalizaciones
[PENALTY].🔵 Forzado de formato: prellenado de la respuesta. Cómo obligar al modelo a continuar físicamente una cadena JSON, cortándole la posibilidad de escribir «Por supuesto, aquí está su respuesta».
🔵 Conocimiento generado y autoconsistencia: cómo tratar las alucinaciones con generación en dos etapas y votación mayoritaria.
🔵 Árbol de pensamientos: búsqueda dirigida de estrategias para tareas donde el costo del error es un presupuesto perdido.
🔵 Meta-prompting: cómo delegar la escritura de prompts al propio modelo para que los genere según su marco rígido.
Spoiler: la técnica favorita de muchos «eres un senior con 20 años de experiencia» en tareas discriminatorias a menudo empeora la calidad. En el artículo explico por qué sucede esto, con pruebas de investigaciones.
👉🏻 Leer: Patrones de ingeniería de prompts: cómo diseñar sistemas LLM en producciónPor supuesto, no cuento con ganar, pero veremos si llega a la lista corta esta vez. Den like allí 🤗
El material se basó en uno de los streams pasados de Punto de Ensamblaje. Ese es el nivel, los invito: t.me/TScompiler_bot ☕️
Comentarios
0Aún no hay comentarios.