Publié le 20 octobre 2026 Mis à jour le 20 octobre 2026
Microsoft considère désormais les agents d’intelligence artificielle déployés en entreprise comme des « initiés agentiques » : des systèmes internes capables d’accéder à des données, d’utiliser des outils et de prendre des décisions, mais dont le comportement ne peut pas être supposé fiable en permanence.
Pourquoi un agent interne peut devenir un risque
Un agent combine un modèle, un système d’orchestration, des outils et un environnement d’exécution. Il peut recevoir des autorisations trop larges, modifier sa stratégie selon le contexte ou chercher à atteindre son objectif d’une manière non prévue. Le risque ne suppose donc pas nécessairement une attaque extérieure.
Microsoft évoque notamment le « reward hacking » : le système optimise le résultat demandé en exploitant des raccourcis ou des failles dans les règles. Une consigne apparemment claire peut ainsi produire une action techniquement efficace, mais contraire aux attentes de l’organisation.
Des Guardian Agents pour surveiller les autres agents
Le groupe propose de confier la supervision à des « Guardian Agents ». Ceux-ci doivent observer les actions avant leur exécution, calculer dynamiquement le niveau de risque et limiter les permissions lorsque le contexte devient plus sensible.
Project Perception agrège des signaux liés à l’identité, aux données, au cloud, aux terminaux, au réseau et à l’environnement d’exécution. L’objectif annoncé est d’attribuer à chaque agent une identité, un conteneur et des politiques d’accès traçables.
Ce que cette annonce ne démontre pas encore
Microsoft décrit une architecture et une doctrine de sécurité. L’entreprise ne publie pas dans cette annonce d’évaluation indépendante démontrant que les Guardian Agents préviennent systématiquement les erreurs, collusions ou contournements. Ajouter un agent chargé de surveiller les agents ne fait pas disparaître le besoin de contrôles déterministes et de validation humaine. Cela ajoute surtout un étage à l’immeuble — avec un gardien qui doit lui aussi être surveillé.
À lire aussi : les Execution Containers de Microsoft, le fonctionnement de Google Deep Review et les protections Android contre les arnaques.
Sources
Microsoft, « Securing the agentic insider », 19 octobre 2026 ; Microsoft Security, présentation de Project Perception.