Recentemente, foi lançado o novo livro de Sebastian Mallaby, "The Infinity Machine", sobre Demis Hassabis e a DeepMind. Hoje, várias publicações divulgaram um trecho exclusivo do livro, revelando uma história muito interessante de quase dez anos atrás.

Em 2014, depois que o Google comprou a DeepMind, Demis Hassabis e a equipe começaram a trabalhar no Projeto Mario. O objetivo era entender como controlar adequadamente uma IAG (Inteligência Artificial Geral) e como evitar que uma única corporação obtivesse poder absoluto sobre tal tecnologia.

Eles analisaram estruturas de governança, opções para limitar o poder das empresas por meio de métodos financeiros, formas de órgãos independentes, etc. Durante o projeto, perceberam que nada disso funcionava e que, se uma IAG surgisse na DeepMind, seria impossível conter o poder do Google sobre ela, e tudo isso poderia se tornar uma enorme ameaça para a humanidade.

E então… surgiu na DeepMind uma equipe secreta de hedge fund, que tentava superar a Renaissance Technologies, ou seja, criar um sistema que previsse os mercados melhor do que os melhores. Eles queriam treinar um modelo semelhante ao AlphaGo para isso.

Assim, esperavam acumular capital próprio para, se necessário, manter o controle sobre a IAG, separando-se do Google.

A ironia é que todos acreditavam tanto na IAG baseada em seus modelos AlphaGo e AlphaZero, e estavam tão envolvidos com o Projeto Mario e o hedge fund, que literalmente perderam de vista a importância dos transformadores inventados por seus colegas em 2017.

E o Projeto Mario, aliás, terminou com apenas uma ideia na DeepMind: controle através de pessoas, não de sistemas. Ou seja, através da confiança em fundadores específicos que tomam decisões com base em valores humanos universais.

colossus.com/article/project-ma…is-deepmind-mallaby/