Ajuste fino de LLMs multimodais para quem não tem um cluster A100 🦥

O pessoal da Unsloth lançou a versão beta do Unsloth Studio — uma ferramenta UI local para inferência e treinamento (Mac, Windows, Linux). Além disso, eles implementaram totalmente o suporte ao Gemma 4 do Google. E não apenas encapsularam a API, mas corrigiram manualmente bugs críticos da arquitetura original.

Para executar LoRA no Gemma 4 E2B, você precisará de 8 GB de VRAM. A versão E4B cabe em 10 GB. Se você pretende usar a versão 31B, prepare 22 GB para QLoRA.

E sim, se você não tem uma placa de vídeo decente ou um MacBook sem MLX, a Unsloth montou um notebook Colab pronto.
O processo é extremamente simples:
1️⃣ Execute os blocos e o próprio Unsloth Studio.
2️⃣ Escolha o modelo e o dataset. Basta carregar seu dataset, selecionar as camadas desejadas para treinamento (no Gemma 4 agora é possível ajustar separadamente as camadas de texto, visão e áudio) e vá tomar um café.
3️⃣ Clique em "Start Training" e observe o progresso em tempo real.
4️⃣ Pronto - você pode comparar imediatamente a versão normal e a versão ajustada do modelo no chat.