La IA ha ganado

Las redes neuronales ya controlan tu mundo. Pero quizás no como crees.

Cuando se habla del peligro de la IA, normalmente se dibujan dos imágenes. La primera es aburrida: la red neuronal acelerará el trabajo, reemplazará algunas profesiones, reducirá costos, y luego de alguna manera nos las arreglaremos. La segunda es cinematográfica: superinteligencia, manipulaciones, catástrofe, botón de inicio del fin del mundo.

Ambas imágenes son convenientes. Ambas colocan el problema en algún lugar hacia adelante. Pero la mala noticia es que la principal victoria de la IA ya está aquí.

No en forma de robot con ojos rojos. No en forma de desempleo instantáneo. Se ve mucho más prosaica: como un párrafo de texto escrito con cuidado.


El texto es el formato más traicionero

Con una imagen es más fácil. Seis dedos, un oso cocinando borscht: el cerebro recibe la señal: esto es un fake. Con el video también estamos aprendiendo a ser cautelosos.

Pero el texto es un contrabandista ideal.

Si es coherente, seguro y está escrito sin obvias tonterías, la mayoría de la gente no irá a verificar que la aceleración de la gravedad no es 11, que "comer una piedra al día es beneficioso" no es una recomendación médica, y que la lista de fuentes realmente existe. La máquina transmite tonterías con la entonación de un manual.


Nueva autoridad

Tenemos un viejo bug en la cabeza: la computadora tiene razón porque es una computadora.

Si hay una fórmula en Excel, entonces en algún lugar hay una lógica estricta. Si la respuesta se ve fluida, entonces se basa en algo. Si la IA habla con seguridad, entonces "sabe algo".

Pero un LLM es una máquina probabilística para ensamblar frases verosímiles. El problema es que la gente a menudo lee esto como un nuevo tipo de autoridad.

Y las investigaciones también lo dicen. En el trabajo de Microsoft Research con 319 "trabajadores del conocimiento", una mayor confianza en la IA generativa se asoció con menos pensamiento crítico, y el trabajo con IA a menudo se desplazó del análisis independiente a la verificación de una respuesta ya preparada.

En varios experimentos, la gente percibía la fuente de IA como menos sesgada, más informativa y menos interesada en persuadir que un humano. Es decir, la propia "no humanidad" del sistema aumenta el crédito de confianza en muchos.


Empezamos a pensar dentro de un marco ajeno

¿Qué sigue? La gente retransmite las respuestas de los modelos como si fueran sus propias conclusiones. No porque sean tontos. Sino porque es más barato en esfuerzo.

Así surge una forma muy extraña de dependencia: aparentemente seguimos hablando nosotros mismos, pero cada vez más con palabras, lógica y marcos que la máquina ha sugerido de antemano.

Y aquí incluso la etiqueta "esto fue escrito por IA" ayuda poco. En un experimento con 1601 participantes, tales etiquetas casi no cambiaron ni la persuasividad del mensaje, ni la evaluación de su precisión, ni la disposición a compartirlo. En otras palabras, el mero hecho del origen artificial del texto no hace que la gente sea notablemente más cautelosa.


Bucle de retroalimentación que empeora

Luego se activa el mecanismo más peligroso: el bucle de retroalimentación.

El modelo se equivoca
→ La persona copia el error en un post, nota, comentario, texto SEO, resumen, presentación
→ Esta masa de texto se deposita en internet
→ El siguiente modelo aprende ya de un mundo donde la invención estadísticamente parece una parte normal de la realidad.

En el trabajo de Shumailov, este proceso se describe como colapso del modelo: con el aprendizaje recursivo en datos generados, los modelos comienzan a perder las colas de las distribuciones y reflejan cada vez peor la realidad original, manteniendo la apariencia de funcionamiento normal. Es decir, la degradación puede ser silenciosa y casi imperceptible.

La IA no tiene que volverse más inteligente que el humano para empezar a moldear la realidad. Le basta con volverse masiva, conveniente y lo suficientemente persuasiva.

No es el fin del mundo. El fin del mundo al menos se nota. Pero aquí todo ocurre en modo cómodo. No yaces bajo los escombros de la civilización. Simplemente vives en un mundo donde la verdad se determina cada vez más no por la verificación, sino por la persuasividad de la formulación. Y donde la profundidad de comprensión se sustituye gradualmente por el acceso a un modelo más caro, más rápido, más "inteligente".


❗️❗️❗️❗️❗️❗️❗️❗️ / No prohibido en la Federación Rusa