🧑‍🎓 GPT Week von Yandex: Wie man GPT trainiert und feinabstimmt #MLSTART

Wenn Sie verstehen möchten, was wirklich unter der Haube großer Sprachmodelle passiert – vom Pretraining bis zum Fine-Tuning –, hatte Yandex einen großartigen Intensivkurs GPT Week.

Ich selbst habe mir etwa die Hälfte angesehen. Ehrlich gesagt, stellenweise recht anspruchsvoll. Aber es gibt dort viele wirklich nützliche Inhalte, besonders wenn man bereits Grundkenntnisse in ML und neuronalen Netzen hat.

💡Was wird behandelt:
- Wie große Sprachmodelle trainiert werden
- Phasen des Pretrainings und Fine-Tunings
- Mit welchen Einschränkungen und Kompromissen man in der Praxis konfrontiert wird

📺 Aufzeichnungen aller Lektionen finden Sie in der Playlist.

Und wenn Sie nicht nur zuschauen, sondern selbst Hand anlegen möchten, gibt es Notebooks zu den Seminaren:
- Seminar 1
- Seminar 2
- Seminar 4

Es gibt auch eine Zusammenfassung des Intensivkurses – kurz und bündig.

⚡️ GPT Week ist die nächste Stufe nach dem "Einstieg". Wenn man nicht nur verstehen möchte, wie man Modelle nutzt, sondern auch, was wirklich im Inneren passiert – vom Training bis zum Fine-Tuning.

Wenn einige Vorlesungen schwierig erscheinen – das ist normal. Selbst ein selektives Ansehen vermittelt einen guten Eindruck davon, wie technisch komplex LLMs sind.

Damit endet die Serie über den Start in ML und LLMs logisch. Ich hoffe, sie hilft Ihnen, schneller Ihren Weg zu finden und unnötiges Durcheinander im Kopf zu vermeiden 🙂

Zurück zum Inhaltsverzeichnis

👩‍💻 Data Flow