L’IA a désormais la possibilité d’agir sur les machines des utilisateurs de manière automatique, comme l’envoi de mails ou le tri de fichiers. Ces possibilités sont désactivées par défaut sur Windows 11 et demandent une activation manuelle. Mais Microsoft alerte tout de même ceux qui souhaitent activer l’IA. L’entreprise a publié un avertissement très limpide sur son site officiel.
Les agents IA sont un danger pour votre sécurité
« Alors que ces capacités sont introduites, les modèles d’IA font toujours face à des limitations fonctionnelles en termes de comportement et peuvent occasionnellement halluciner et produire des résultats inattendus. De plus, les applications d’IA agentique introduisent de nouveaux risques de sécurité, tels que l’injection cross-prompt, ou XPIA (cross-prompt injection attack), où du contenu malveillant intégré dans des éléments d’interface utilisateur ou des documents peut outrepasser les instructions de l’agent, conduisant à des actions non désirées comme l’exfiltration de données ou l’installation de logiciels malveillants, » explique Microsoft dans sa note.
La situation est ironique. L’agent IA est censé assister l’utilisateur dans ses tâches, mais il peut se retourner contre lui en tant que vecteur d’attaque informatique. Microsoft insiste sur le fait que ce risque est hypothétique et improbable, mais l’entreprise juge tout de même nécessaire de communiquer publiquement à ce propos. On peut donc s’interroger sur l’empressement de la société à lancer massivement l’automatisation par l’IA sur Windows 11.
L’entreprise tente de limiter la casse avec un test appelé « agent workspace ». Les permissions accordées à l’agent IA sont bien plus réduites avec ce mode, une approche fermée pour empêcher sa compromission à des fins malveillantes.
L’IA grand public est encore très récente et pourtant, Microsoft ne ralentit pas la cadence. L’autonomie des agents IA s’accompagne de nouveaux risques que les équipes de sécurité ne découvrent qu’au fur et à mesure. La question de la fiabilité de cette technologie dans des conditions quotidiennes auprès du grand public se pose.
Le mieux est de faire preuve de prudence avant d’activer les fonctionnalités d’agent IA sur un PC sous Windows 11. Les utilisateurs Insiders qui ont accès à cette technologie émergente sont donc face à un dilemme, compte tenu des vulnérabilités potentielles dont parle explicitement Microsoft. La firme de Redmond le sous-entend fortement : mieux vaut attendre une version totalement stable des agents IA avant de les adopter. Les testeurs sont des cobayes.
Publicité, votre contenu continue ci-dessous
Publicité