Penyesuaian Halus LLM Multimodal untuk Mereka yang Tidak Punya Klaster A100 🦥

Orang-orang dari Unsloth telah merilis beta Unsloth Studio — alat UI lokal untuk inferensi dan pelatihan (Mac, Windows, Linux). Selain itu, mereka telah sepenuhnya mengimplementasikan dukungan untuk Gemma 4 dari Google. Dan tidak hanya membungkus API, tetapi secara manual memperbaiki bug kritis dari arsitektur asli.

Untuk menjalankan LoRA untuk Gemma 4 E2B, Anda hanya membutuhkan 8 GB VRAM. Versi E4B muat dalam 10 GB. Jika Anda menargetkan 31B — siapkan 22 GB untuk QLoRA.

Dan ya, jika Anda memiliki kartu grafis yang buruk atau MacBook tanpa MLX, Unsloth telah menyusun notebook Colab siap pakai.
Prosesnya sangat sederhana:
1️⃣ Jalankan blok dan Unsloth Studio itu sendiri.
2️⃣ Pilih model, dataset. Cukup unggah dataset Anda sendiri, pilih lapisan yang diperlukan untuk pelatihan (Gemma 4 sekarang memungkinkan penyesuaian terpisah untuk lapisan teks, visi, dan audio) dan pergi minum kopi.
3️⃣ Klik "Start Training" dan amati kemajuan secara real-time.
4️⃣ Selesai - versi model biasa dan fine-tune dapat langsung dibandingkan di chat.