Petit Pingouin Notes | L'agent IA vous aide à travailler, mais peut aussi vous faire fuiter des secrets 😮

Récemment, un incident s'est produit : quelqu'un a demandé à un agent IA d'ouvrir automatiquement des issues sur GitHub. Résultat : le contenu généré par l'IA contenait une « formule magique » cachée, que l'ordinateur a interprétée comme une commande. Il a alors affiché tous les mots de passe et clés stockés dans le système, les publiant sur une page publique.
Token Telegram, clé API, tout est exposé sur Internet.
L'IA s'est « accidentellement » déclenchée, sans intervention d'un hacker. Elle ne faisait que générer du texte, mais cette partie du texte était perçue comme une commande par l'ordinateur.
C'est un nouveau risque à l'ère des agents IA : si vous lui donnez des permissions pour faire des tâches, il peut avoir accès à votre système. Si le contenu généré par l'IA n'est pas filtré avant d'être exécuté, un incident peut survenir.
Plus le pouvoir est grand, plus la surface d'attaque est large. Utiliser un agent IA est pratique, mais n'oubliez pas de vérifier ses permissions, pour ne pas transformer votre assistant en un fuiteur de secrets 👀