Kendi donanımınızda yerel LLM çalıştırmak artık H100 kümelerine sahip seçkinlerin işi değil. Yoksa hâlâ öyle mi? 😁

🗓 Bugün saat 18:00'de (Moskova saati) «Toplanma Noktası»nda canlı yayın yapılacak. Yerel modellerin kurulumunu ve kullanımını ele alacağız.

Konuşulacaklar:
▪️ Donanımınıza uygun modeli nasıl seçersiniz, böylece sistem belleğini tüketmez ve makul TPS (saniye başına token) ile çalışır.
▪️ Günlük görevler için sohbet modunda model çalıştırma.
▪️ Yerel LLM'yi ajan IDE'sine bağlama (örnek olarak Kilo Code'u kullanacağız).
▪️ LangChain aracılığıyla yerel modele istek yönlendirme.
▪️ Buna gerçekten ihtiyaç var mı?

Yayın ve kayıt, «Toplanma Noktası» katılımcılarına açık olacaktır. Erişim bot üzerinden sağlanır: https://t.me/TScompiler_bot