🕶 Fine-tuning e RAG: é necessário ajustar os modelos? #MLSTART

Quando começamos a trabalhar com modelos, muitas vezes queremos "personalizá-los" - para que entendam o contexto do projeto, falem no tom certo, resolvam melhor tarefas específicas. A primeira coisa que vem à mente é ajustar o modelo. Mas nem sempre é o melhor (e certamente não o primeiro) passo.

🍭 Fine-tuning é poderoso. Mas também é muito caro: são necessários dados, recursos computacionais e tempo. Por isso, geralmente recorremos a ele quando já testamos todas as outras formas.

O que vale a pena tentar primeiro 👇

- Few-shot prompting - quando você mostra ao modelo alguns exemplos de respostas corretas diretamente no prompt. Isso ajuda a direcionar seu estilo e lógica sem treinamento adicional.
- RAG (Retrieval-Augmented Generation) - abordagem em que o modelo é "enriquecido" com conhecimento de fontes externas (por exemplo, banco de documentos ou wiki).
- SGR (Schema-Guided Reasoning) - abordagem relativamente nova aqui: estruturar as respostas dos modelos para que seu formato seja mais determinístico e previsível.

💡 Às vezes, até mesmo um simples ajuste na temperatura (parâmetro de "criatividade") resolve metade dos problemas:
- Menor temperatura → respostas mais precisas e estáveis
- Maior → mais variabilidade e criatividade

Se quiser experimentar com fine-tuning, pode usar modelos leves (por exemplo, Qwen-8B ou Mistral) e treiná-los em tarefas específicas. Uma grande quantidade de datasets prontos pode ser encontrada no HuggingFace.

Mas na maioria das vezes, basta trabalhar com prompts, contexto e hiperparâmetros.

Voltar ao índice

👩‍💻 Data Flow