Kendi donanımınızda yerel LLM çalıştırmak artık H100 kümelerine sahip seçilmişlerin işi değil. Yoksa hâlâ öyle mi? 😁

🗓 1 Mayıs saat 18:00 MSK'de «Toplanma Noktası»nda canlı yayın yapılacak. Yerel modellerin kurulumu ve kullanımını ele alacağız.

Konuşulacaklar:
▪️ Donanımınıza uygun modeli nasıl seçersiniz, böylece sistem belleğini tüketmez ve makul TPS (saniye başına token) ile çalışır.
▪️ Günlük görevler için sohbet modunda model çalıştırma.
▪️ Yerel LLM'yi aracı IDE'ye bağlama (örnek olarak Kilo Code'u kullanacağız).
▪️ LangChain aracılığıyla yerel modele istek yönlendirme.
▪️ Buna gerçekten ihtiyaç var mı?

Yayın ve kayıt, «Toplanma Noktası» katılımcılarına açık olacaktır. Erişim bot üzerinden sağlanır: https://t.me/TScompiler_bot