
Multimodal LLM'leri A100 kümesi olmayanlar için ince ayar 🦥
Unsloth ekibi, Unsloth Studio beta sürümünü yayınladı — çıkarım ve eğitim için yerel bir UI aracı (Mac, Windows, Linux). Ayrıca, Google'ın Gemma 4 desteğini tam olarak uyguladılar. Sadece API'yi sarmalamakla kalmayıp, orijinal mimarinin kritik hatalarını manuel olarak düzelttiler.
Gemma 4 E2B için LoRA çalıştırmak için 8 GB VRAM yeterli. E4B sürümü 10 GB'a sığar. 31B'ye kalkışırsanız QLoRA için 22 GB hazırlayın.
Ve evet, normal bir ekran kartınız yoksa veya MLX'siz bir MacBook'unuz varsa, Unsloth hazır bir Colab not defteri hazırladı.
Süreç son derece basit:
1️⃣ Blokları ve Unsloth Studio'yu çalıştırın.
2️⃣ Modeli ve veri kümesini seçin. Kendi veri kümenizi yükleyin, eğitilecek katmanları seçin (Gemma 4'te artık metin, görüntü ve ses katmanlarını ayrı ayrı ince ayar yapabilirsiniz) ve kahve içmeye gidin.
3️⃣ "Eğitimi Başlat"a tıklayın ve ilerlemeyi gerçek zamanlı olarak izleyin.
4️⃣ Her şey hazır - normal ve ince ayarlı model sürümlerini hemen sohbet içinde karşılaştırabilirsiniz.
Yorumlar
0Henüz yorum yok.
Tartışmaya katılmak için giriş yapın.