KI hat gewonnen

Neuronale Netze steuern bereits Ihre Welt. Aber vielleicht nicht so, wie Sie denken.

Wenn über die Gefahr von KI gesprochen wird, werden meist zwei Bilder gezeichnet. Das erste ist langweilig: Das neuronale Netz beschleunigt die Arbeit, ersetzt einige Berufe, senkt Kosten, und dann wird irgendwie weitergemacht. Das zweite ist filmreif: Superintelligenz, Manipulation, Katastrophe, der Startknopf für das Ende der Welt.

Beide Bilder sind bequem. Beide verorten das Problem irgendwo in der Zukunft. Aber die unangenehme Nachricht ist, dass der größte Sieg der KI bereits hier ist.

Nicht in Form eines Roboters mit roten Augen. Nicht in Form von schlagartiger Arbeitslosigkeit. Er sieht viel prosaisch aus: wie ein sauber geschriebener Textabsatz.


Text – das heimtückischste Format

Bei Bildern ist es einfacher. Sechs Finger, ein Bär kocht Borschtsch – das Gehirn erhält das Signal: Das ist eine Fälschung. Bei Videos lernen wir auch, vorsichtiger zu sein.

Aber Text ist der ideale Schmuggler.

Wenn er geschliffen, selbstbewusst und ohne offensichtlichen Unsinn geschrieben ist, werden die meisten Menschen nicht überprüfen, dass die Fallbeschleunigung nicht 11 beträgt, dass „es ist gesund, jeden Tag einen Stein zu essen“ keine medizinische Empfehlung ist und dass die Quellenliste überhaupt existiert. Die Maschine überträgt Unsinn mit dem Ton eines Nachschlagewerks.


Neue Autorität

In unseren Köpfen sitzt ein alter Bug: Der Computer hat recht, weil er ein Computer ist.

Wenn es eine Excel-Formel gibt, dann gibt es irgendwo eine strenge Logik. Wenn die Antwort glatt aussieht, dann stützt sie sich auf etwas. Wenn die KI selbstbewusst spricht, dann „weiß sie etwas“.

Aber LLMs sind probabilistische Maschinen zur Erstellung plausibler Sätze. Das Problem ist, dass Menschen dies oft als eine neue Art von Autorität lesen.

Und Studien sprechen auch darüber. In der Arbeit von Microsoft Research mit 319 „Wissensarbeitern“ war ein höheres Vertrauen in GenAI mit weniger kritischem Denken verbunden, und die Arbeit mit KI verlagerte sich oft von eigenständiger Analyse zur Verifikation einer fertigen Antwort.

In mehreren Experimenten nahmen Menschen die KI-Quelle als weniger voreingenommen, informativer und weniger an Überzeugung interessiert wahr als einen Menschen. Das heißt, die „Nicht-Menschlichkeit“ des Systems erhöht bei vielen den Kredit des Vertrauens.


Wir beginnen, innerhalb eines fremden Rahmens zu denken

Was passiert als nächstes – die Menschen geben die Antworten der Modelle als ihre eigenen Schlussfolgerungen weiter. Nicht, weil sie dumm sind. Sondern weil es weniger Aufwand kostet.

So entsteht eine sehr seltsame Form der Abhängigkeit: Wir sprechen zwar noch selbst, aber immer häufiger mit den Worten, der Logik und den Rahmen, die die Maschine zuvor vorgeschlagen hat.

Und selbst die Kennzeichnung „das hat KI geschrieben“ hilft kaum. In einem Experiment mit 1601 Teilnehmern änderten solche Labels weder die Überzeugungskraft der Nachricht noch die Bewertung ihrer Genauigkeit noch die Bereitschaft, sie weiterzuteilen. Mit anderen Worten: Die Tatsache der künstlichen Herkunft des Textes macht die Menschen nicht merklich vorsichtiger.


Sich selbst verstärkende Schlechtigkeit

Dann startet der gefährlichste Mechanismus – die Rückkopplungsschleife.

Das Modell macht einen Fehler
→ Der Mensch kopiert den Fehler in einen Beitrag, eine Notiz, einen Kommentar, einen SEO-Text, ein Referat, eine Präsentation
→ Diese Textmasse setzt sich im Internet ab
→ Das nächste Modell lernt bereits an einer Welt, in der Erfindung statistisch wie ein normaler Teil der Realität aussieht.

In der Arbeit von Shumailov wird dieser Prozess als Model Collapse beschrieben: Bei rekursivem Training auf generierten Daten beginnen Modelle, die Verteilungsenden zu verlieren und die ursprüngliche Realität immer schlechter abzubilden, während sie den Anschein normaler Funktionsweise bewahren. Das heißt, die Degradation kann leise und fast unsichtbar sein.

KI muss nicht intelligenter als der Mensch werden, um die Realität zu formen. Es reicht, dass sie massenhaft, bequem und überzeugend genug ist.

Kein Weltuntergang. Der Weltuntergang wäre zumindest sichtbar. Hier aber geschieht alles im Komfortmodus. Sie liegen nicht unter den Trümmern der Zivilisation. Sie leben einfach in einer Welt, in der Wahrheit immer häufiger nicht durch Überprüfung, sondern durch die Überzeugungskraft der Formulierung bestimmt wird. Und in der die Tiefe des Verständnisses allmählich durch den Zugang zu einem teureren, schnelleren, „intelligenteren“ Modell ersetzt wird.


❗️❗️❗️❗️❗️❗️❗️❗️ / In Russland nicht verboten