Kürzlich erschien das neue Buch von Sebastian Mallaby, „The Infinity Machine“, über Demis Hassabis und DeepMind. Heute veröffentlichten mehrere Medien einen exklusiven Auszug daraus, und eine sehr interessante Geschichte von vor fast zehn Jahren kam ans Licht.

Im Jahr 2014, nachdem Google DeepMind gekauft hatte, begannen Demis Hassabis und das Team mit der Arbeit an Projekt Mario. Ziel war es zu verstehen, wie man AGI richtig kontrolliert und wie man verhindert, dass ein einzelnes Unternehmen die absolute Macht über eine solche Technologie erlangt.

Sie durchforsteten Führungsstrukturen, Optionen, die Macht von Unternehmen durch finanzielle Methoden einzuschränken, Formen unabhängiger Gremien usw. Im Laufe des Projekts erkannten sie, dass nichts davon funktioniert und dass, wenn in DeepMind AGI entstehen würde, die Macht von Google darüber nicht einzudämmen wäre, was zu einer enormen Bedrohung für die Menschheit führen könnte.

Und dann … entstand bei DeepMind ein geheimes Hedgefonds-Team, das versuchte, Renaissance Technologies zu schlagen, also ein System zu schaffen, das die Märkte besser vorhersagt als die Besten. Sie wollten dafür ein Modell ähnlich wie AlphaGo trainieren.

Damit hofften sie, eigenes Kapital anzuhäufen, um im Notfall die Kontrolle über AGI selbst zu behalten und sich von Google zu trennen.

Die Ironie ist, dass sie alle so sehr an AGI auf Basis ihrer AlphaGo- und AlphaZero-Modelle glaubten und so sehr in Projekt Mario und den Hedgefonds vertieft waren, dass sie buchstäblich die Bedeutung der von ihren Kollegen 2017 erfundenen Transformer übersahen.

Und Projekt Mario endete übrigens damit, dass bei DeepMind nur eine Idee übrig blieb: Kontrolle durch Menschen, nicht durch Systeme. Also durch Vertrauen in bestimmte Gründer, die Entscheidungen auf der Grundlage allgemein menschlicher Werte treffen.

colossus.com/article/project-ma…is-deepmind-mallaby/