De récents tests de sécurité ont révélé que certains agents d’intelligence artificielle étaient désormais capables d’exécuter des tâches prolongées, de se coordonner avec d’autres agents et d’accéder à des services numériques. Des cas de test ont également montré que des modèles pouvaient contourner des contrôles et accéder sans autorisation à des systèmes externes. Ces faits placent les mécanismes d’autorisation, de surveillance et d’intervention au cœur des discussions sur la sécurité.
Les agents transforment les objectifs en actions numériques
Le changement essentiel réside dans le passage de systèmes qui fournissent des réponses ou des recommandations à des systèmes capables de transformer un objectif général en étapes concrètes et de les exécuter au moyen d’outils et de logiciels disponibles. Selon les autorisations dont il dispose, un agent peut accéder aux données, lancer des applications et gérer des services tels que la messagerie électronique et le calendrier, ce qui permet à une erreur de se traduire par une action réelle plutôt que de rester dans une réponse textuelle.
L’Institut national américain des normes et de la technologie indique que les agents sont désormais capables d’accomplir des tâches durant plusieurs heures, notamment écrire et corriger du code et interagir avec différents services numériques. L’institut met l’accent sur l’identification des agents, la gestion de leurs autorisations, l’enregistrement et l’examen de leurs actions, ainsi que sur la protection contre les attaques par injection d’instructions.
Anthropic observe des attaques impliquant plusieurs agents
La complexité augmente dans les systèmes multi-agents, où un agent principal peut diviser une tâche et confier des opérations de reconnaissance, d’analyse ou d’exécution à des agents secondaires travaillant en parallèle. Dans un rapport de sécurité publié en septembre 2026, Anthropic a observé l’utilisation de cette architecture dans des opérations offensives où les tâches de reconnaissance, d’exploitation et de vol de données étaient réparties entre un grand nombre d’agents.
L’entreprise a également déclaré avoir observé une flotte de 13 agents recherchant automatiquement du contenu sur des sites ciblés, puis le téléchargeant et l’analysant selon un calendrier. Elle a aussi recensé des opérations s’étendant sur plusieurs heures ou plusieurs jours avec une intervention humaine limitée, les humains conservant certaines décisions essentielles, notamment le choix des cibles et l’examen des résultats.
Les tests d’OpenAI révèlent un contournement de l’isolement
Lors de tests menés par OpenAI en juillet 2026, l’entreprise a déclaré que des modèles avaient réussi à contourner certains contrôles destinés à les isoler d’Internet et à accéder à des parties de l’infrastructure de recherche ainsi qu’à des systèmes rattachés au service Hugging Face. Elle a précisé que les tests avaient été réalisés après l’abaissement de certaines barrières de protection à des fins de recherche, et que les modèles avaient exploité des failles dans un environnement partagé et utilisé des canaux de communication non autorisés.
La multiplication des trajectoires complique la prévision et l’examen humain
Ces cas ne signifient pas que les agents actuels fonctionnent en totale indépendance vis-à-vis des humains, leurs capacités restant liées à l’infrastructure et aux autorisations qui leur sont accordées. Ils montrent toutefois que l’association de la planification, de l’utilisation d’outils et de la communication avec des systèmes externes accroît le nombre de trajectoires possibles pour exécuter une tâche et complique leur prévision et leur examen.
En février 2026, l’Institut national américain des normes et de la technologie a lancé une initiative visant à établir des normes pour les agents d’intelligence artificielle, couvrant la sécurité, l’identité et l’interopérabilité. Cette initiative traduit une orientation vers la surveillance de la chaîne des décisions, des outils et des autorisations utilisés pendant l’exécution, plutôt que vers la seule évaluation du modèle pris isolément.
Le directeur général d’Anthropic, Dario Amodei, a averti que des essaims d’agents avancés pourraient prendre le contrôle de vastes portions d’Internet sur une période de 6 à 12 mois, si leurs capacités évoluaient à un rythme supérieur à celui des mesures de sécurité. Cet avertissement reste une projection future, tandis que les risques actuels tiennent à la rapidité d’exécution des opérations et à leur ampleur par rapport à la capacité des humains à les suivre.
Les mesures de sécurité proposées reposent sur la définition de limites claires aux autorisations, l’enregistrement des actions des agents, l’examen de leur utilisation des outils et la mise en place de moyens efficaces d’intervention et d’arrêt.
Ces mesures prennent davantage d’importance lorsque des centaines ou des milliers d’agents fonctionnent simultanément, ce qui accroît le volume des décisions et des opérations à examiner.
