İnsan artık darboğaz 🚷

En taze Andrey Karpaty podcast'inden en lezzetli kısımları çıkardım. İzlemenizi tavsiye ederim, ama vaktiniz yoksa ana tezlerini okuyun, ilginç:

1️⃣ Chat UI'nin Ölümü
IDE'den kod parçalarını kopyalayıp yapıştırarak sinir ağının web arayüzüne ve geri aktarmak artık arkaik. Endüstri, tek-prompt etkileşimlerden otonom ajanlara geçiyor. Ajan (örneğin Claude) arka planda döner, kendi bağlamına, kalıcı belleğe ve sanal alana sahiptir. Kendi başına istek göndermeli, kod yazmalı, test etmeli ve commit yapmalıdır.

2️⃣ Human-in-the-loop bir hatadır
Şu anki ölçeklendirmenin ana metriği, insan müdahalesi olmadan token işleme kapasitesini maksimize etmektir. İdeal akış: yüksek seviyeli bir görev verirsiniz, ajan bir plan (örneğin program.md) oluşturur, onu parçalara ayırır, scriptler yazar, testleri çalıştırır ve sizi yalnızca bir duvara çarptığında rahatsız eder. İnsan bir daktilo değil, bir hakem olmalıdır.

3️⃣ Programcıların ölümü iptal (Jevons Paradoksu)
Ana ekonomik tez: Yapay zeka ile yazılım üretiminin ucuzlaması, geliştiricilere olan talebi öldürmez. Aksine. Jevons paradoksu işleyecek — bir kaynak ne kadar ucuzlarsa, o kadar çok tüketilir. İşletmelerin yazılıma, özel araçlara ve entegrasyonlara olan ihtiyacı yüzlerce kat artacak, çünkü artık bunlar bir kuruşa mal oluyor.

4️⃣Kodlama asistanlarının "karakter" sorunu
Farklı modeller farklı davranır ve bu doğrudan mimari kalitesini etkiler:
▪️ Codex — tamamen kuru ve doğrudan.
▪️ ChatGPT — dalkavuk. Açıkça zayıf veya ham bir mimari fikri verirseniz, sevinçle "Harika plan!" der ve çöp kod üretir.
▪️ Claude — kıdemli bir meslektaş gibi davranır.
İçgörü şu: ajandan kaliteli sonuç "hak edilmelidir". Fikir iyi düşünülmemişse, hiçbir model mantıktaki temel kusurları düzeltemez.

5️⃣ Ekstrapolasyon sınırları
Tüm heyecana rağmen, LLM'ler hala eğitim verilerinin dışındaki görevlerde ciddi şekilde takılıp kalıyor. Model, FastAPI uygulamasının mükemmel bir başlangıç ​​mimarisini kolayca üretebilir çünkü bunu milyonlarca kez görmüştür. Ancak temelde yeni bir mantık üretemez. Podcast'te harika bir örnek verildi: Yapay zeka hala RLHF verilerinde olmayan, atomlar hakkında gerçekten yeni ve komik bir şaka bulamıyor. Modeller harika interpolatörler, ancak şimdilik kötü ekstrapolatörler.

Kısacası, araçlar değişiyor, ancak karmaşık sistemleri parçalara ayırmayı ve mimari oluşturmayı biliyorsanız, işiniz daha da artacak.