Yapay Zeka Kazandı

Sinir ağları zaten dünyanızı yönetiyor. Ama muhtemelen düşündüğünüz gibi değil.

Yapay zekanın tehlikesinden bahsedildiğinde genellikle iki resim çizilir. Birincisi sıkıcı: sinir ağı işleri hızlandıracak, bazı mesleklerin yerini alacak, maliyetleri düşürecek ve sonrasında bir şekilde hallederiz. İkincisi sinematografik: süper zeka, manipülasyonlar, felaket, kıyamet düğmesi.

Her iki resim de kullanışlı. Her ikisi de sorunu bir yere ileriye koyar. Ama hoş olmayan haber şu ki, yapay zekanın asıl zaferi çoktan burada.

Kırmızı gözlü bir robot şeklinde değil. Bir anda işsizlik şeklinde değil. Çok daha sıradan görünüyor: düzgünce yazılmış bir paragraf metin gibi.


Metin En Sinsi Format

Resimle işi daha kolay. Altı parmak, ayı pancar çorbası pişiriyor — beyin sinyal alır: karşımda sahte. Videoyla da dikkatli olmayı öğreniyoruz.

Ama metin mükemmel bir kaçakçıdır.

Düzgün, kendinden emin ve bariz bir saçmalık içermiyorsa, çoğu insan yerçekimi ivmesinin 11 olmadığını, "günde bir taş yemek faydalıdır"ın tıbbi bir tavsiye olmadığını ve kaynak listesinin aslında var olmadığını kontrol etmeye gitmez. Makine, bir ansiklopedi tonuyla saçmalık yayar.


Yeni Otorite

Kafamızda eski bir hata var: bilgisayar haklıdır çünkü bilgisayardır.

Excel'de bir formül varsa, bir yerde katı bir mantık vardır. Cevap düzgün görünüyorsa, bir şeye dayanıyordur. Yapay zeka kendinden emin söylediyse, "bir şey biliyordur".

Ama LLM, inandırıcı ifadeleri birleştiren olasılıksal bir makinedir. Sorun şu ki, insanlar bunu genellikle yeni bir otorite türü olarak okur.

Ve araştırmalar da bundan bahsediyor. Microsoft Research'ün 319 "bilgi çalışanı" ile yaptığı çalışmada, GenAI'ye daha yüksek güven, daha az eleştirel düşünme ile ilişkilendirilmiş ve yapay zeka ile çalışma, bağımsız analizden hazır cevabı doğrulamaya kaymıştır.

Bir dizi deneyde, insanlar AI kaynağını insandan daha az taraflı, daha bilgilendirici ve ikna etmeye daha az ilgili olarak algılamıştır. Yani sistemin "insan olmaması" birçok kişide güven kredisini artırmaktadır.


Başka Bir Çerçevenin İçinde Düşünmeye Başlıyoruz

Sonra ne oluyor? İnsanlar model yanıtlarını kendi çıkarımları olarak aktarıyor. Aptal oldukları için değil. Çaba açısından daha ucuz olduğu için.

Böylece çok tuhaf bir bağımlılık biçimi ortaya çıkıyor: Hâlâ kendimiz konuşuyor gibiyiz, ama giderek daha sık olarak makinenin önceden önerdiği kelimeler, mantık ve çerçevelerle konuşuyoruz.

Ve burada "bunu AI yazdı" etiketi bile çok az işe yarıyor. 1601 katılımcılı bir deneyde, bu tür etiketler mesajın ikna ediciliğini, doğruluk değerlendirmesini veya paylaşma isteğini neredeyse hiç değiştirmemiştir. Başka bir deyişle, metnin yapay kökenli olması insanları belirgin şekilde daha dikkatli yapmamaktadır.


Kendini Güçlendiren Kötülük

Sonra en tehlikeli mekanizma devreye girer — geri besleme döngüsü.

Model hata yapar
→ İnsan hatayı bir gönderiye, nota, yoruma, SEO metnine, özete, sunuma kopyalar
→ Bu metin yığını internette birikir
→ Bir sonraki model, uydurmanın istatistiksel olarak gerçekliğin normal bir parçası gibi göründüğü bir dünyada öğrenir.

Shumailov'un çalışmasında bu süreç model çöküşü olarak tanımlanır: üretilen veriler üzerinde yinelemeli eğitimde modeller dağılımın kuyruklarını kaybetmeye başlar ve orijinal gerçekliği giderek daha az yansıtır, ancak normal çalışma görünümünü korur. Yani bozulma sessiz ve neredeyse fark edilmez olabilir.

Yapay zekanın gerçekliği şekillendirmeye başlaması için insandan daha akıllı olması gerekmez. Kitlesel, kullanışlı ve yeterince inandırıcı olması yeterlidir.

Kıyamet değil. Kıyamet en azından fark edilir. Ama burada her şey rahat bir modda oluyor. Medeniyetin enkazı altında yatmıyorsunuz. Sadece, gerçeğin giderek daha sık doğrulama ile değil, ifadenin inandırıcılığıyla belirlendiği bir dünyada yaşıyorsunuz. Ve anlayışın derinliğinin yavaş yavaş daha pahalı, daha hızlı, daha "akıllı" bir modele erişimle değiştirildiği bir dünyada.


❗️❗️❗️❗️❗️❗️❗️❗️ / Rusya'da yasaklı değil