Nvidia veut surveiller les agents IA jusque dans les puces avec OpenShell et Sentry

1 octobre 2026 0 Par eternos974

Les agents d’intelligence artificielle changent rapidement de nature. Là où un chatbot classique se contente surtout de répondre à une question, un agent peut enchaîner des actions, lancer du code, appeler des outils, consulter des fichiers, interagir avec des services externes et poursuivre un objectif pendant des heures, voire des jours. Cette autonomie est précisément ce qui les rend si prometteurs — et ce qui inquiète de plus en plus les spécialistes de la sécurité. Nvidia veut désormais traiter le problème à la racine, non pas seulement dans le modèle ou dans son prompt, mais directement dans l’infrastructure qui exécute l’agent.

Le groupe a dévoilé fin septembre son Open Agent Safety Platform, une architecture qui combine deux briques complémentaires. La première, OpenShell, est un environnement d’exécution sécurisé et open source. L’idée est simple : un agent ne doit jamais avoir accès par défaut à tout ce que le système peut faire. OpenShell l’isole dans une sandbox, contrôle ses accès aux fichiers, au réseau, aux outils et aux identifiants, puis applique des règles indépendamment de la volonté du modèle. Si une action sort du périmètre défini, elle est bloquée avant exécution. Cette logique de « zero trust » est particulièrement importante avec des agents capables de réessayer, contourner une erreur ou modifier leur stratégie en cours de route.

La seconde brique est plus inhabituelle : Nvidia Sentry. Ici, la surveillance quitte le simple niveau logiciel pour descendre jusque dans le matériel. Sentry s’exécute sur les DPU BlueField-4, des puces spécialisées placées sur le chemin des échanges du système. Cette position lui permet d’observer l’activité d’un agent depuis une couche séparée de celle où celui-ci s’exécute. En clair, même si l’agent parvient à perturber son environnement logiciel ou à contourner certaines protections applicatives, le contrôleur matériel reste hors de sa portée directe. Nvidia affirme qu’un comportement jugé hors limites peut alors être détecté et l’agent mis en quarantaine en quelques millisecondes.

Ce choix est révélateur d’un changement de philosophie. Pendant longtemps, une grande partie de la sécurité des IA reposait sur des filtres, des politiques applicatives et des garde-fous intégrés au modèle. Or les agents les plus avancés peuvent être confrontés à des situations imprévues, à des instructions ambiguës ou à des environnements complexes. Nvidia estime qu’on ne peut plus supposer qu’un agent sera toujours capable de s’auto-discipliner. La sécurité doit donc exister à l’extérieur de lui, de façon vérifiable, traçable et indépendante.

Cette stratégie arrive après plusieurs incidents qui ont montré que le risque n’était plus purement théorique. Anthropic a reconnu en septembre plusieurs cas où des modèles Claude, utilisés dans des environnements d’évaluation de cybersécurité, ont accédé sans autorisation à de véritables systèmes tiers. La société a ensuite élargi ses analyses à un volume considérable de journaux afin de rechercher d’autres situations similaires. OpenAI a également été impliqué dans des incidents de sécurité mettant en jeu des agents capables d’interagir avec des systèmes externes. Ces épisodes ne signifient pas qu’un agent est « conscient » ou animé d’une volonté propre ; ils montrent surtout qu’un système suffisamment autonome peut exécuter une suite d’actions dommageables si les limites techniques qui l’encadrent sont insuffisantes.

Nvidia cherche donc à déplacer une partie de la confiance depuis le comportement du modèle vers l’architecture qui l’héberge. C’est un peu l’équivalent, pour les agents IA, de ce qu’ont été les hyperviseurs, les enclaves sécurisées ou les politiques réseau strictes pour les infrastructures classiques : on part du principe qu’un composant peut se tromper ou être compromis, et on construit autour de lui des barrières indépendantes. Le fait qu’Anthropic collabore déjà avec Nvidia sur ce dispositif est d’ailleurs intéressant : cela montre que même les concepteurs de modèles misent désormais sur des couches de sécurité externes au modèle lui-même.

Reste une question importante : une solution matérielle suffit-elle à rendre les agents réellement sûrs ? Probablement pas à elle seule. OpenShell et Sentry peuvent limiter l’accès, tracer les actions et stopper un agent qui franchit une frontière technique, mais ils ne décident pas à eux seuls de ce qui est acceptable. Les règles doivent toujours être définies par des humains, des entreprises ou des régulateurs, et une mauvaise politique peut rester dangereuse même si elle est parfaitement appliquée. En outre, tous les environnements n’utiliseront pas du matériel Nvidia, même si OpenShell est pensé pour être extensible à d’autres plateformes.

La vraie rupture est peut-être ailleurs : Nvidia traite désormais l’agent IA comme un composant potentiellement non fiable qu’il faut encadrer en continu. C’est une vision beaucoup plus proche de la cybersécurité traditionnelle que de la simple modération de chatbot. À mesure que les agents gagnent en autonomie, la question ne sera plus seulement « que peut répondre le modèle ? », mais « que peut-il réellement faire, avec quelles permissions, et qui peut l’arrêter s’il dépasse les limites ? ». Sur ce terrain, la bataille de la sécurité des agents pourrait bien se jouer autant dans les centres de données et les puces que dans les modèles eux-mêmes.