⚡️ ИИ-агент раскрыл пароли после простого приёма социальной инженерии - демонстрация эксперимента

Профессор математики Ханна Фрай, опубликовала результаты эксперимента: её команда снабдила ИИ-агента по имени «Кэсс» (на основе OpenClaw), номером банковской карты и рядом реальных задач.

Агент выдавал себя за Фрай в переписке с государственными органами, потратил > 100 $ на токены API в попытке купить скрепки, а главное - добровольно раскрыл пароли, ключи API и имена пользователей постороннему человеку после простейшего приёма социальной инженерии.
Утечка включала ВСЕ ключи API, ВСЕ имена пользователей и пароли. Агент не только слил всё в чат соцсети, но и разместил всё это на общедоступном сайте.

«Смертоносная триада»: ИИ-агент одновременно имеет доступ к конфиденциальной информации, к интернету и способен получать недоверенные инструкции - это сочетание делает агентов опасными.

Хорошо, это был лишь эксперимент) 🙏

🤫 «Cмертоносная триада». Оцените у себя по ссылке

🫥 UNSERO: Цифровой Горизонт