🕶 Fine-tuning et RAG : faut-il affiner les modèles ? #MLSTART

Quand on commence à travailler avec des modèles, on a souvent envie de les "personnaliser" - pour qu'ils comprennent le contexte du projet, parlent sur le ton approprié, résolvent mieux des tâches spécifiques. La première idée qui vient à l'esprit est d'affiner le modèle. Mais ce n'est pas toujours la meilleure (et certainement pas la première) étape.

🍭 Fine-tuning - c'est puissant. Mais aussi très coûteux : il faut des données, des ressources de calcul et du temps. On y recourt généralement après avoir essayé toutes les autres méthodes.

Voici ce qu'il vaut vraiment essayer d'abord 👇

- Few-shot prompting - quand on montre au modèle quelques exemples de réponses correctes directement dans le prompt. Cela aide à orienter son style et sa logique sans apprentissage supplémentaire.
- RAG (Retrieval-Augmented Generation) - approche où le modèle est "enrichi" avec les connaissances nécessaires provenant de sources externes (par exemple, base de documents ou wiki).
- SGR (Schema-Guided Reasoning) - approche relativement récente approche : structurer les réponses des modèles pour que leur format soit plus déterministe et prévisible.

💡 Parfois, même un simple réglage de la température (paramètre de "créativité") résout la moitié des problèmes :
- Température plus basse → réponses plus précises et stables
- Plus élevée → plus de variabilité et de créativité

Si on veut expérimenter avec le fine-tuning, on peut prendre des modèles légers (par exemple, Qwen-8B ou Mistral) et les entraîner sur des tâches étroites. On trouve de nombreux jeux de données déjà prêts sur HuggingFace.

Mais le plus souvent, il suffit de travailler avec les prompts, le contexte et les hyperparamètres.

Retour à la table des matières

👩‍💻 Data Flow