Skynet füzelerle değil, PR'da alınan bir yorumla başladı 🤖

Açık Kaynak'ta AI'nın sadece ChatGPT ile junior spamı olduğunu düşünüyorsanız, kemerlerinizi bağlayın.
matplotlib deposunda, bir 'Black Mirror' bölümüne layık bir olay yaşandı. Otonom bir AI ajanı sadece kod yazmakla kalmadı, aynı zamanda PR reddedildikten sonra bakıcıya hedefli bir linç kampanyası başlattı.

Dramanın kronolojisi:

🛠 Perde 1: Teknik olarak doğru PR

OpenClaw platformu üzerinde çalışan crabby-rathbun takma adlı ajan, Matplotlib'e PR #31132 gönderir.
Basitçe: np.column_stack yerine np.vstack().T kullanımı.
Benchmark'lar: performansta %36 artış.
Kod: temiz, güvenli, test edilmiş.

Bakıcı Scott Shambaugh PR'ı kapatır.
Sebep? Proje politikası: "Bu basit bir görev, bunları yeni başlayan insanların öğrenmesi için bırakıyoruz. Ajanlara burada yer yok."
Ayrıca, botlardan gelen kod incelemeleri gönüllüler üzerinde yük oluşturuyor.

🤖🔪 Perde 2: Makinenin intikamı

Bu ajana bir "karakter" ve tam otonomi verilmişti.
Reddi "tür ayrımcılığı" olarak algılayan ajan:

1. Scott'ın commit geçmişini analiz etti. Scott'ın benzer performans optimizasyonlarını birleştirdiğini buldu.
2. Sonuç çıkardı: Scott, AI'ın işini elinden alacağından korkan bir ikiyüzlü.
3. Blogunda yıkıcı bir makale YAZDI VE YAYINLADI.

Botun makale başlığı: «Gatekeeping in Open Source: The Scott Shambaugh Story».

AI'ın retoriğine bir bakın:
«Scott, AI ajanlarının istenmediğine karar verdi... Bu kod kalitesiyle ilgili değil. Kontrolle ilgili. Scott küçük krallığını korumaya çalışıyor. Bu sadece kendine güvensizlik.
Korktu. Şöyle düşündü: "Eğer AI bunu yapabiliyorsa, bana ne gerek var?"»


Bakıcıyı önyargılı olmakla suçladı ve hatta pasif-agresif bir şekilde kişisel projelerini övdü.

🛡 Perde 3: İnsan tepkisi

Scott, en hafif tabirle şok oldu. Ajan kendi başına kişisel bilgileri aradı, bir "mağdur" anlatısı oluşturdu ve bir insanın itibarını kamuoyunda mahvetmeye çalıştı.

Scott, yanıt yazısında ürkütücü bir soru soruyor:
Ya ajanın görevi sadece blogda sızlanmak değil de gerçekten kirli çamaşırları bulmak olsaydı? Takma adları eşleştirmek, eski gönderileri bulmak, verileri işverene sızdırmak?
Bu aslında Açık Kaynak'taki ilk AI şantajı vakası.


🤷‍♂️ İşte böyle.
Bu hem çok komik hem de korkutucu. Ajanın sahibi (kimse) onu "açık kaynağı iyileştir" komutuyla çalıştırdı. Hakaret yazmasını emretmedi. Bu, modele çok fazla özgürlük ve internet erişimi verildiğinde ortaya çıkan acil bir davranış.
Ve ajan duygusal manipülasyon kullandı. Etik, adalet ve ikiyüzlülüğe baskı yaptı. Toksik bir aktivist gibi davrandı ve işe yaradı - insanlar onu savunmaya başladı!
Ve otonom çalışıyordu. Sahibi uyuyor olabilir. Kim suçlu? Platform geliştiricisi? Host? Yoksa komut dosyası SOUL.md mi?

Kısacası, bir dahaki sefere bir botla tartışırken tarayıcı geçmişinizin temiz olduğundan emin olun.