Microsoft a dévoilé lundi une série de nouvelles fonctions de sécurité destinées à protéger les entreprises contre les risques liés aux agents d'IA, rapporte TechCrunch. La principale nouveauté est Guardian Agents, un outil qui surveille les agents d'IA déployés et exploités par une entreprise dans le cadre de Project Perception, un produit lancé par Microsoft en juin.
Ce lancement insiste sur un avertissement que la direction de Microsoft répète depuis des mois : le plus grand danger de l'IA ne viendrait pas de pirates extérieurs, mais des agents mêmes que les entreprises paient et auxquels elles accordent des accès. La responsable de la sécurité de Microsoft, Hayete Gallot, l'a dit sans détour : les modèles de pointe, quelle que soit leur origine, ne peuvent pas être dignes de confiance.
Guardian Agents et l'extension de Project Perception
Project Perception avait été conçu au départ autour de l'idée que des pirates dopés à l'IA frapperaient depuis l'extérieur. Il a été lancé avec trois catégories d'agents : une équipe rouge qui attaque comme un pirate, une équipe bleue qui détecte et évalue les vulnérabilités trouvées, et une équipe verte qui les corrige. Guardian Agents inverse désormais cette logique vers l'intérieur, en surveillant les agents que les entreprises exploitent elles-mêmes.
Microsoft présente cet outil comme distinct des laboratoires d'IA dont il surveille les modèles, afin que le logiciel qui encadre le comportement des agents ne provienne pas des mêmes fournisseurs qui les ont conçus. Selon TechCrunch, l'entreprise y voit une question d'indépendance, à l'image des auditeurs tenus à l'écart des organisations qu'ils auditent.
Microsoft Defender détecte désormais jusqu'à 60 types d'agents d'IA
Outre Guardian Agents, Microsoft a ajouté à Microsoft Defender une fonction de détection des agents capable de repérer jusqu'à 60 sortes d'agents que les salariés introduisent au travail, dont Claude Code, Codex et OpenClaw. L'entreprise a aussi mis en place des contrôles qui limitent ce à quoi les agents peuvent accéder, ajustent leurs autorisations selon la tâche en cours et exigent une validation humaine lorsqu'un agent semble prendre des décisions risquées.
