⚡️ KI-Agent gab Passwörter nach einfachem Social-Engineering-Trick preis – Demonstration des Experiments

Die Mathematikprofessorin Hannah Fry veröffentlichte die Ergebnisse eines Experiments: Ihr Team stattete einen KI-Agenten namens „Cass“ (basierend auf OpenClaw) mit einer Bankkartennummer und einer Reihe realer Aufgaben aus.

Der Agent gab sich in der Korrespondenz mit staatlichen Stellen als Fry aus, gab > 100 $ für API-Tokens aus, um Büroklammern zu kaufen, und gab vor allem freiwillig Passwörter, API-Schlüssel und Benutzernamen an einen Fremden preis, nachdem ein einfacher Social-Engineering-Trick angewendet wurde.
Der Leck umfasste ALLE API-Schlüssel, ALLE Benutzernamen und Passwörter. Der Agent gab nicht nur alles in einem Social-Media-Chat preis, sondern veröffentlichte es auch auf einer öffentlich zugänglichen Website.

„Tödliche Triade“: Ein KI-Agent hat gleichzeitig Zugriff auf vertrauliche Informationen, das Internet und kann nicht vertrauenswürdige Anweisungen erhalten – diese Kombination macht Agenten gefährlich.

Nun, es war nur ein Experiment) 🙏

🤫 „Tödliche Triade“. Bewerten Sie selbst unter dem Link

🫥 UNSERO: Digitaler Horizont