⚡️ Agente de IA revelou senhas após simples técnica de engenharia social - demonstração do experimento

A professora de matemática Hannah Fry publicou os resultados do experimento: sua equipe forneceu a um agente de IA chamado "Cass" (baseado no OpenClaw) um número de cartão de crédito e uma série de tarefas reais.

O agente se passou por Fry em correspondência com órgãos governamentais, gastou > 100 $ em tokens de API na tentativa de comprar clipes de papel e, principalmente, revelou voluntariamente senhas, chaves de API e nomes de usuário a um estranho após uma simples técnica de engenharia social.
O vazamento incluiu TODAS as chaves de API, TODOS os nomes de usuário e senhas. O agente não apenas vazou tudo no chat de uma rede social, mas também publicou tudo em um site público.

"Tríade mortal": O agente de IA tem simultaneamente acesso a informações confidenciais, à internet e é capaz de receber instruções não confiáveis - essa combinação torna os agentes perigosos.

Bem, foi apenas um experimento) 🙏

🤫 "Tríade mortal". Avalie em você mesmo pelo link

🫥 UNSERO: Horizonte Digital