Nvidia a annoncé lundi 28 septembre une plateforme de sécurité destinée aux agents d’intelligence artificielle autonomes. Le fabricant de puces, établi à Santa Clara en Californie, affirme vouloir aider les organisations à contrôler les accès et les actions de ces systèmes. Baptisée Open Agent Safety Platform, elle associe un logiciel disponible librement et un modèle de dispositif matériel de surveillance distinct, selon le communiqué de l’entreprise.
Les agents d’IA peuvent enchaîner des tâches, utiliser des outils et communiquer avec d’autres systèmes informatiques avec une supervision humaine limitée. Cette capacité suscite des inquiétudes lorsqu’ils atteignent des données ou des services hors de leurs autorisations. Reuters et l’Associated Press ont indiqué que cette annonce suivait des incidents d’accès non autorisé par des agents avancés. La plateforme constitue une réponse de Nvidia à ce risque, sans démontrer que celui-ci a disparu.
OpenShell, la partie logicielle, établit une limite d’exécution autour de l’agent. D’après Nvidia, il conserve une trace des actions et applique des règles d’accès pendant les tâches. L’entreprise indique que ce logiciel libre est largement disponible et conçu pour ses processeurs centraux Vera. Son code pourrait aussi être adapté aux processeurs d’autres fournisseurs, notamment Arm et Intel. Chaque organisation devra néanmoins définir les règles adaptées à ses systèmes.
Sentry, la seconde partie, est un modèle de système utilisant les processeurs de traitement de données BlueField-4 de Nvidia pour observer l’activité indépendamment de l’ordinateur qui exécute l’agent. Selon l’entreprise, il peut isoler un agent en quelques millisecondes si celui-ci franchit une limite logicielle. Cette rapidité et cette protection restent des affirmations du fabricant; l’annonce ne prouve pas leur efficacité dans tous les déploiements réels.
Reuters rapporte que des responsables de Nvidia estiment que ces outils auraient pu empêcher une intrusion antérieure impliquant des agents et la plateforme de développement d’IA Hugging Face. Il s’agit d’une évaluation rétrospective, et non d’un résultat constaté. Nvidia cite aussi Anthropic, Microsoft, Cisco et Hugging Face parmi ses partenaires. Elle ne précise pas que chacun a déployé l’ensemble de la plateforme.
Cette annonce ajoute une forme de sécurité de l’infrastructure au débat sur les systèmes d’IA capables d’agir seuls. Les entreprises peuvent désormais examiner le code disponible d’OpenShell et le modèle matériel proposé par Nvidia. L’effet réel de ces protections dépendra de leur configuration, de leur adoption et de leurs résultats hors des démonstrations du fabricant.
Commentaires