Recientemente se publicó el nuevo libro de Sebastian Mallaby, «The Infinity Machine», sobre Demis Hassabis y DeepMind. Hoy varios medios publicaron un extracto exclusivo del mismo, y salió a la luz una historia muy interesante de hace casi una década.

En 2014, después de que Google comprara DeepMind, Demis Hassabis y el equipo comenzaron a trabajar en el proyecto Mario. El objetivo era entender cómo controlar adecuadamente una AGI y cómo evitar que una sola corporación obtuviera poder absoluto sobre dicha tecnología.

Analizaron estructuras de gobierno, opciones para limitar el poder de las empresas mediante métodos financieros, formas de organismos independientes, etc. Durante el proyecto se dieron cuenta de que nada de eso funcionaba y que si en DeepMind surgía una AGI, sería imposible frenar el poder de Google sobre ella, y todo podría convertirse en una enorme amenaza para la humanidad.

Y entonces… en DeepMind apareció un equipo secreto de hedge fund que intentaba superar a Renaissance Technologies, es decir, crear un sistema que predijera los mercados mejor que los mejores. Para ello querían entrenar un modelo similar a AlphaGo.

De esta manera esperaban acumular capital propio para, en caso necesario, mantener el control de la AGI y separarse de Google.

La ironía es que todos creían tanto en la AGI basada en sus modelos AlphaGo y AlphaZero, y estaban tan absortos en el proyecto Mario y el hedge fund, que literalmente pasaron por alto la importancia de los transformadores inventados por sus colegas en 2017.

Y el proyecto Mario, por cierto, terminó con que en DeepMind solo quedó una idea: el control a través de las personas, no del sistema. Es decir, a través de la confianza en fundadores específicos que toman decisiones basadas en valores humanos universales.

colossus.com/article/project-ma…is-deepmind-mallaby/