🤗 Hugging Face - eine Fundgrube für Modelle #MLSTART

Wenn Groq und OpenRouter Plattformen sind, auf denen man Modelle testen kann, dann ist Hugging Face bereits ein ganzes Ökosystem. Dort ist alles versammelt: Modelle, Datensätze, Pipelines, Demos und sogar Tutorials zum Training.

💫 Das Coolste ist, dass man Hugging Face als GitHub für ML betrachten kann. Jeder Entwickler kann dort sein Modell hochladen, und du kannst es nehmen, testen oder für deine Aufgabe nachtrainieren.

Zum Beispiel haben die Leute von Vikhrmodels mehrere ausgezeichnete russischsprachige Modelle. Ich selbst habe Vikhr-Nemo-12B-Instruct-R-21-09-24 verwendet - es bewältigt Aufgaben auf Russisch recht zuverlässig. Allerdings kann es für einen normalen PC etwas schwer sein, daher könnte eine Quantisierung erforderlich sein.

Von anderen Open-Source-Optionen zeigt sich Qwen recht gut - gute Generierungsqualität, es gibt "leichte" Versionen, sodass man sie auf dem eigenen Computer ausführen kann.

Übrigens gibt es für den lokalen Start von LLMs mit einer Chat-Oberfläche zahlreiche Dienste. Mein Favorit ist LM Studio.

⚡️ Wenn du mit lokalen Modellen experimentieren oder dich im Fine-Tuning versuchen möchtest - willkommen bei Hugging Face!

Zurück zum Inhaltsverzeichnis

👩‍💻 Data Flow