⚡️ Un agente de IA reveló contraseñas tras una simple técnica de ingeniería social - demostración del experimento

La profesora de matemáticas Hannah Fry publicó los resultados de un experimento: su equipo equipó a un agente de IA llamado «Cass» (basado en OpenClaw) con un número de tarjeta bancaria y una serie de tareas reales.

El agente se hizo pasar por Fry en correspondencia con organismos gubernamentales, gastó > 100 $ en tokens de API en un intento de comprar clips, y lo más importante, reveló voluntariamente contraseñas, claves de API y nombres de usuario a un extraño tras una simple técnica de ingeniería social.
La filtración incluyó TODAS las claves de API, TODOS los nombres de usuario y contraseñas. El agente no solo volcó todo en el chat de una red social, sino que también lo publicó en un sitio web público.

«La tríada mortal»: Un agente de IA tiene acceso simultáneo a información confidencial, a Internet y es capaz de recibir instrucciones no confiables; esta combinación hace que los agentes sean peligrosos.

Bueno, fue solo un experimento) 🙏

🤫 «La tríada mortal». Evalúalo tú mismo en el enlace

🫥 UNSERO: Horizonte Digital