A sociedade futura da OpenAI: o que há de errado com ela

A OpenAI publicou o documento Industrial Policy for the Intelligence Age. E é útil lê-lo como uma declaração política.

A OpenAI propõe uma lente através da qual o estado e as empresas discutirão a IA nos próximos anos: trabalho, impostos, energia, política social, controle sobre sistemas, coordenação internacional. Uma pretensão óbvia de participar no design das instituições.

Se condensarmos o texto em grandes blocos, a OpenAI propõe o seguinte.

Trabalho e acesso.
Aos trabalhadores, propõe-se dar uma voz formal na implementação da IA. Escolas, bibliotecas, pequenas empresas e regiões menos ricas teriam acesso ampliado às capacidades básicas de IA. Neste mesmo bloco, incluem-se pagamentos em momentos de crise no mercado de trabalho, projetos de semana de 32 horas e a ideia de transformar ganhos de eficiência em dinheiro para os funcionários.

Redistribuição.
O documento propõe reestruturar a base tributária quando a renda se desloca de salários para capital, lucros corporativos e automação. Discute-se separadamente um Fundo de Riqueza Pública, através do qual os cidadãos poderiam receber de volta parte dos benefícios do crescimento da IA. Renda básica universal, em suma.

Infraestrutura.
A OpenAI escreve diretamente que os data centers devem pagar pelo seu apetite sem subsídios ocultos das famílias. Paralelamente, propõe-se acelerar a expansão das redes e da infraestrutura de transmissão.

Controle e gestão de riscos.
Para modelos poderosos, propõem-se confirmação de origem, registros de auditoria, modos especiais de verificação, instruções para localização de ameaças, limitadores no uso da IA pelo estado e mecanismos de participação pública na definição de limites éticos.

Substancialmente, este documento tem pontos fortes. A OpenAI reconhece que o crescimento da produtividade por si só não garante o aumento do bem-estar da maioria. A empresa admite o cenário em que os benefícios da IA se concentram dentro de um círculo restrito de empresas, e os trabalhadores enfrentam maior turbulência sem lucro simétrico.

Mas não se engane, não estamos diante de um texto utópico com olhos de cachorro de Altman. Todo este trabalho funciona bem a favor da própria OpenAI (caso contrário, não existiria):

1. A aceleração é considerada o cenário base. O documento discute a gestão das consequências, mitigação de custos, redistribuição e segurança. A questão de quão justificada é a própria corrida por modelos cada vez mais poderosos é quase não abordada. Para a OpenAI e companhia, esta é uma posição inicial confortável.

2. O problema da concentração é descrito na lógica da redistribuição subsequente. Primeiro, algumas empresas obtêm poder computacional, os melhores pesquisadores, acesso a contratos governamentais e controle sobre a infraestrutura. Depois, propõe-se que o estado crie impostos, fundos e compensações para devolver parte dos benefícios à sociedade. Este quadro quase não perturba a estrutura de mercado em que os próprios laboratórios de IA cresceram.

3. A ideia de regras especiais para os sistemas mais poderosos parece razoável, mas ao mesmo tempo cria uma barreira institucional em torno de alguns poucos atores. A camada massiva de aplicações e modelos mais fracos permanece relativamente intocada. O andar superior do mercado é cercado por auditorias, instituições de confiança, procedimentos complexos e status especial. Tal arquitetura reduz riscos. Simultaneamente, ela consolida a hierarquia.

4. A OpenAI quer claramente participar na criação do ambiente legislativo. No final do documento, a empresa oferece subsídios e até $1 milhão em créditos de API para aqueles que desenvolverem essas ideias adiante. Isso é a mesma influência bem conhecida da empresa sobre o círculo de especialistas, a agenda de discussão e a lista de questões que serão consideradas centrais.

O documento deve ser lido com atenção e cabeça fria. Há muita concretude, às vezes mais do que se espera de um texto corporativo. Ao mesmo tempo, estamos diante de uma tentativa de descrever antecipadamente a ordem futura de modo que o papel principal das maiores empresas pareça natural, útil e sem alternativa. As abelhas não são contra o mel.


❗️❗️❗️❗️❗️❗️❗️❗️ / Não proibido na Rússia