IA venceu

As redes neurais já controlam seu mundo. Mas, talvez, não da forma que você pensa.

Quando se fala sobre o perigo da IA, geralmente se desenham dois cenários. O primeiro é chato: a rede neural vai acelerar o trabalho, substituir algumas profissões, reduzir custos, e depois a gente se vira. O segundo é cinematográfico: superinteligência, manipulações, catástrofe, botão de início do fim do mundo.

Ambos os cenários são convenientes. Ambos colocam o problema em algum lugar no futuro. Mas a má notícia é que a principal vitória da IA já está aqui.

Não na forma de um robô com olhos vermelhos. Não na forma de desemprego instantâneo. Ela parece muito mais prosaica: como um parágrafo de texto escrito com cuidado.


Texto — o formato mais traiçoeiro

Com uma imagem é mais fácil. Seis dedos, um urso cozinhando borscht — o cérebro recebe o sinal: isso é falso. Com vídeo também estamos aprendendo a ter cuidado.

Mas o texto é um contrabandista ideal.

Se ele é bem escrito, confiante e sem erros óbvios, a maioria das pessoas não vai verificar se a aceleração da gravidade não é 11, se "comer uma pedra por dia faz bem" não é uma recomendação médica, e se a lista de fontes realmente existe. A máquina transmite bobagem com a entonação de um manual.


Nova autoridade

Temos um bug antigo na cabeça: o computador está certo porque é um computador.

Se há uma fórmula no Excel, então há uma lógica rigorosa em algum lugar. Se a resposta parece suave, então ela se baseia em algo. Se a IA falou com confiança, então "ela sabe alguma coisa".

Mas LLM é uma máquina probabilística de montar frases plausíveis. O problema é que as pessoas muitas vezes leem isso como um novo tipo de autoridade.

E as pesquisas também falam sobre isso. No trabalho da Microsoft Research com 319 "trabalhadores do conhecimento", maior confiança na GenAI estava associada a menos pensamento crítico, e o próprio trabalho com IA muitas vezes mudava da análise independente para a verificação de uma resposta pronta.

Em uma série de experimentos, as pessoas geralmente percebiam a fonte de IA como menos tendenciosa, mais informativa e menos interessada em persuasão do que um humano. Ou seja, a própria "não humanidade" do sistema aumenta o crédito de confiança para muitos.


Começamos a pensar dentro de uma moldura alheia

O que acontece depois — as pessoas retransmitem as respostas dos modelos como se fossem suas próprias conclusões. Não porque são burras. Porque é mais barato em termos de esforço.

Assim surge uma forma muito estranha de dependência: ainda falamos por nós mesmos, mas cada vez mais — com as palavras, a lógica e os quadros que a máquina propôs antecipadamente.

E aqui, mesmo a rotulagem "isso foi escrito por IA" ajuda pouco. No experimento com 1601 participantes, essas etiquetas quase não alteraram a persuasão da mensagem, nem a avaliação de sua precisão, nem a disposição de compartilhá-la. Em outras palavras, o simples fato da origem artificial do texto não torna as pessoas visivelmente mais cautelosas.


Bobagem auto-reforçadora

Em seguida, o mecanismo mais perigoso é acionado — o loop de feedback.

O modelo erra
→ A pessoa copia o erro para um post, nota, comentário, texto SEO, resumo, apresentação
→ Essa massa de texto se acumula na internet
→ O próximo modelo aprende em um mundo onde a invenção parece estatisticamente uma parte normal da realidade.

No trabalho de Shumailov, esse processo é descrito como colapso do modelo: ao aprender recursivamente em dados gerados, os modelos começam a perder as caudas das distribuições e refletem cada vez pior a realidade original, mantendo a aparência de funcionamento normal. Ou seja, a degradação pode ser silenciosa e quase imperceptível.

A IA não precisa se tornar mais inteligente que o humano para começar a moldar a realidade. Basta que ela se torne massiva, conveniente e convincente o suficiente.

Não é o fim do mundo. O fim do mundo pelo menos é perceptível. Aqui, tudo acontece em modo confortável. Você não está sob os escombros da civilização. Você simplesmente vive em um mundo onde a verdade é cada vez mais determinada não pela verificação, mas pela persuasão da formulação. E onde a profundidade da compreensão é gradualmente substituída pelo acesso a um modelo mais caro, mais rápido, mais "inteligente".


❗️❗️❗️❗️❗️❗️❗️❗️ / Não proibido na RF