Geçtiğimiz günlerde Sebastian Mallaby'nin Demis Hassabis ve DeepMind hakkındaki yeni kitabı "The Infinity Machine" yayınlandı. Bugün birkaç yayın kuruluşu kitaptan özel bir alıntı yayınladı ve neredeyse on yıl öncesine dayanan çok ilginç bir hikaye ortaya çıktı.

2014 yılında, Google DeepMind'ı satın aldıktan sonra, Demis Hassabis ve ekip Mario projesi üzerinde çalışmaya başladı. Amaç, AGI'nin nasıl doğru bir şekilde kontrol edileceğini ve tek bir şirketin bu tür bir teknoloji üzerinde mutlak güç elde etmesinin nasıl engelleneceğini anlamaktı.

Yönetim yapılarını, şirketlerin gücünü finansal yöntemlerle sınırlama seçeneklerini, bağımsız organ biçimlerini vb. incelediler. Proje sırasında bunların hiçbirinin işe yaramadığını ve DeepMind'da AGI ortaya çıkarsa, Google'ın onun üzerindeki gücünü dizginlemenin imkansız olacağını ve bunun insanlık için büyük bir tehdit oluşturabileceğini anladılar.

Ve sonra... DeepMind'da, Renaissance Technologies'i alt etmeye çalışan, yani piyasaları en iyilerden daha iyi tahmin eden bir sistem yaratmaya çalışan gizli bir hedge fon ekibi ortaya çıktı. Bunun için AlphaGo'ya benzer bir model eğitmek istediler.

Bu sayede, gerektiğinde AGI üzerindeki kontrolü ellerinde tutmak ve Google'dan ayrılmak için kendi sermayelerini biriktirmeyi umuyorlardı.

İronik olan şu ki, hepsi AlphaGo ve AlphaZero modellerine dayalı AGI'ye o kadar inanmışlardı ve Mario projesi ile hedge fonuna o kadar dalmışlardı ki, 2017'de meslektaşları tarafından icat edilen transformatörlerin önemini tamamen gözden kaçırdılar.

Bu arada Mario projesi, DeepMind'da sadece tek bir fikrin kalmasıyla sonuçlandı: sistem aracılığıyla değil, insanlar aracılığıyla kontrol. Yani, evrensel insani değerlere dayalı kararlar alan belirli kuruculara güvenmek.

colossus.com/article/project-ma…is-deepmind-mallaby/