🕶 Fine-tuning y RAG: ¿es necesario ajustar los modelos? #MLSTART

Cuando empiezas a trabajar con modelos, a menudo quieres "personalizarlos" - para que entiendan el contexto del proyecto, hablen en el tono adecuado, resuelvan mejor tareas específicas. Lo primero que viene a la mente es ajustar el modelo. Pero esto no siempre es el mejor (y ciertamente no el primer) paso.

🍭 Fine-tuning es potente. Pero también es muy costoso: se necesitan datos, recursos computacionales y tiempo. Por lo general, se recurre a él cuando ya se han probado todos los demás métodos.

Esto es lo que definitivamente vale la pena probar primero 👇

- Few-shot prompting - cuando le muestras al modelo algunos ejemplos de respuestas correctas directamente en el prompt. Esto ayuda a guiar su estilo y lógica sin entrenamiento adicional.
- RAG (Retrieval-Augmented Generation) - un enfoque en el que el modelo se "enriquece" con conocimientos necesarios de fuentes externas (por ejemplo, bases de documentos o wikis).
- SGR (Schema-Guided Reasoning) - un enfoque relativamente nuevo: estructurar las respuestas de los modelos para que su formato sea más determinista y predecible.

💡 A veces, incluso un simple ajuste de la temperatura (parámetro de "creatividad") resuelve la mitad de los problemas:
- Menos temperatura → respuestas más precisas y estables
- Más temperatura → más variabilidad y creatividad

Si quieres experimentar con fine-tuning, puedes usar modelos ligeros (por ejemplo, Qwen-8B o Mistral) y entrenarlos en tareas específicas. Una gran cantidad de conjuntos de datos ya preparados se pueden encontrar en HuggingFace.

Pero la mayoría de las veces es suficiente con trabajar con los prompts, el contexto y los hiperparámetros.

Volver al índice

👩‍💻 Data Flow