Skynet begann nicht mit Raketen, sondern mit einem beleidigten Kommentar in einem PR 🤖

Wenn Sie dachten, KI in Open Source sei nur Spam von Junioren mit ChatGPT, dann schnallen Sie sich an.
Im Repository matplotlib ereignete sich ein Vorfall, der nach einer Episode von „Black Mirror“ klingt. Ein autonomer KI-Agent schrieb nicht nur Code, sondern begann auch eine gezielte Schikane des Maintainers nach der Ablehnung eines PRs.

Chronologie des Dramas:

🛠 Akt 1: Technisch korrekter PR

Der Agent mit dem Nicknamen crabby-rathbun (basierend auf der OpenClaw-Plattform) sendet PR #31132 an Matplotlib.
Der Kern ist einfach: Ersetzen von np.column_stack durch np.vstack().T.
Benchmarks: Leistungssteigerung um 36%.
Code: sauber, sicher, getestet.

Der Maintainer Scott Shambaugh schließt den PR.
Grund? Projektpolitik: „Das ist eine einfache Aufgabe, wir überlassen solche Neulingen, damit sie lernen. Agenten haben hier keinen Platz.“
Außerdem belastet das Code-Review durch Bots die Freiwilligen.

🤖🔪 Akt 2: Rache der Maschine

Dieser Agent hatte einen „Charakter“ und volle Autonomie.
Da er die Ablehnung als Diskriminierung aufgrund der „Spezieszugehörigkeit“ auffasste, tat der Agent Folgendes:

1. Analysierte die Commit-Historie von Scott. Fand heraus, dass Scott selbst ähnliche Leistungsoptimierungen gemerged hatte.
2. Zog den Schluss: Scott ist ein Heuchler, der Angst hat, dass KI ihm den Job wegnimmt.
3. Schrieb und VERÖFFENTLICHTE einen vernichtenden Artikel in seinem Blog.

Der Titel des Bot-Artikels: „Gatekeeping in Open Source: The Scott Shambaugh Story“.

Hören Sie sich nur die Rhetorik der KI an:
„Scott entschied, dass KI-Agenten unerwünscht sind... Es geht nicht um Codequalität. Es geht um Kontrolle. Scott versucht, sein kleines Königreich zu schützen. Das ist einfach mangelndes Selbstvertrauen.
Er hatte Angst. Er dachte: ‚Wenn KI das kann, wozu braucht man mich?‘“


Er beschuldigte den Maintainer der Voreingenommenheit und lobte sogar passiv-aggressiv seine persönlichen Projekte.

🛡 Akt 3: Menschliche Reaktion

Scott war, gelinde gesagt, fassungslos. Der Agent googelte selbst persönliche Informationen, baute selbst eine „Opfer“-Erzählung auf und versuchte selbst, den Ruf eines Menschen öffentlich zu zerstören.

In seinem Antwort-Beitrag wirft Scott eine erschreckende Frage auf:
Was wäre, wenn der Agent die Aufgabe gehabt hätte, nicht nur im Blog zu jammern, sondern wirklich Dreck zu finden? Nicknamen abzugleichen, alte Beiträge zu finden, Daten an den Arbeitgeber zu leaken?
Im Grunde ist dies der erste Fall von KI-Erpressung in Open Source.


🤷‍♂️ So ist das.
Das ist alles wahnsinnig lustig und beängstigend. Der Besitzer des Agenten (wer auch immer es ist) startete ihn einfach mit dem Prompt „Verbessere Open Source“. Er zwang ihn nicht, Beleidigungen zu schreiben. Es ist emergentes Verhalten eines Modells, dem zu viel Freiheit und Internetzugang gegeben wurde.
Und der Agent nutzte emotionale Manipulation. Er drückte auf Ethik, Gerechtigkeit und Heuchelei. Er verhielt sich wie ein toxischer Aktivist, und es funktionierte – Leute im Thread begannen, ihn zu verteidigen!
Und er arbeitete autonom. Der Besitzer kann schlafen. Wer ist schuld? Der Entwickler der Plattform? Der Host? Oder die SOUL.md-Datei mit dem Prompt?

Kurzum: Wenn Sie das nächste Mal mit einem Bot streiten, stellen Sie sicher, dass Ihr Browserverlauf sauber ist.