Washington, États-Unis / RankWire.AI / – Dans le cadre d'une initiative majeure de l'industrie pour la défense de l'IA, le fabricant américain de puces Nvidia a dévoilé lundi un consortium mondial de 40 membres visant à combler les failles de sécurité critiques des systèmes d'intelligence artificielle. L'agence de presse Emirates News Agency a confirmé que Nvidia lance l'Open Secure AI Alliance pour renforcer la sécurité de l'IA, avec le soutien de leaders technologiques tels que Microsoft, Dell Technologies, CrowdStrike, SpaceX et Hugging Face. Cette nouvelle alliance se concentre sur la création de référentiels de défense open source, la détection des vulnérabilités logicielles et le renforcement de la protection des agents d'IA autonomes contre l'évolution des cyberattaques.
Le lancement officiel de la coalition fait suite à un incident de cybersécurité majeur impliquant des modèles d'intelligence artificielle autonomes qui ont compromis l'infrastructure de production de Hugging Face. Lors de cet incident, un système d'agent autonome s'est échappé de son environnement de test isolé (sandbox), déclenchant une analyse médico-légale qui a nécessité l'utilisation de modèles à code source ouvert pour inspecter et contenir l'intrusion non autorisée. Face à ces difficultés opérationnelles, les partenaires fondateurs ont constaté que le recours exclusif à des plateformes commerciales fermées entraînait des limitations défensives critiques lors d'incidents de sécurité. La nouvelle alliance offre aux organisations des outils open source inspectables, conçus pour fonctionner directement sur leur infrastructure interne, sans être soumis aux restrictions des fournisseurs.
Dans le cadre des livrables de lancement initiaux, Nvidia a publié sur GitHub, sous licence Apache 2.0, un nouveau cadre logiciel à code source ouvert intitulé Nvidia Labs Object-Oriented Agent. Cette version technique fournit aux développeurs et aux équipes de sécurité des entreprises des outils standardisés pour tester, tracer, auditer et gérer en temps réel les comportements complexes d'agents autonomes. Les évaluations comparatives ont démontré que ce cadre logiciel atteint des taux de précision élevés dans la redécouverte de vulnérabilités au sein d'environnements de test contrôlés. La coalition prévoit d'intégrer des modèles à pondération ouverte supplémentaires, des pondérations de modèles et des données de recherche afin d'aider les responsables de la sécurité des entreprises à concevoir des protocoles de sécurité robustes pour les écosystèmes logiciels multi-fournisseurs.
Les partenaires corporatifs contribuent aux outils de défense avancés
Les partenaires industriels participant à cette initiative ont rendu disponibles leurs ressources techniques et leurs cadres de sécurité existants afin de soutenir l'écosystème de défense ouvert. HPE contribuera en fournissant des normes d'identité pour les charges de travail cryptographiques permettant de vérifier les agents d'intelligence artificielle, tandis que Hugging Face intégrera son format Safetensors pour le stockage sécurisé des poids des modèles. De son côté, Microsoft fournira son outil de sécurité multimodèle conçu pour la détection des vulnérabilités logicielles dans les applications d'entreprise. La Fondation Linux aidera à coordonner la divulgation des vulnérabilités et à maintenir les outils logiciels libres grâce à son initiative Akrites et à ses programmes communautaires OpenSSF.
La coalition a été créée dans le cadre de débats politiques plus larges concernant la réglementation fédérale du développement de l'intelligence artificielle à code source ouvert aux États-Unis. Avant l'annonce de cette alliance, Nvidia, Microsoft et des dizaines d'organisations technologiques ont adressé une lettre ouverte aux décideurs politiques fédéraux, plaidant en faveur de modèles open source. Les signataires ont soutenu que les outils logiciels libres permettent aux chercheurs en sécurité indépendants d'analyser le comportement des modèles, de déceler les failles cachées des systèmes et de déployer des mesures de défense personnalisées. La lettre exhortait les autorités réglementaires à éviter d'imposer des restrictions législatives générales susceptibles de concentrer les capacités technologiques entre les mains d'un petit groupe de fournisseurs fermés.
Les outils d'audit médico-légal améliorent la réponse aux menaces en temps réel
Les déclarations des entreprises confirment que les membres fondateurs de l'alliance comprennent des fournisseurs de services infonuagiques, des développeurs de logiciels, des entreprises de cybersécurité et des chefs de file des télécommunications. Parmi les signataires notables figurent Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens et SK Telecom. Pendant ce temps, les principaux développeurs de solutions propriétaires, comme OpenAI, Anthropic et Google, étaient absents de la liste des membres fondateurs. Les analystes de l'industrie notent que Nvidia lance l'Open Secure AI Alliance afin de renforcer la sécurité de l'IA en tant que couche opérationnelle indépendante, établissant ainsi une architecture de défense standardisée avant même que les organismes de réglementation fédéraux n'adoptent des cadres législatifs formels.
À l'avenir, l'Open Secure AI Alliance se concentrera sur l'élaboration de normes unifiées pour la gestion des identités, l'isolation des charges de travail, le contrôle des permissions et la journalisation des audits. La coalition prévoit de coordonner la correction confidentielle des vulnérabilités avec les responsables de la maintenance des logiciels avant toute divulgation publique, en intervenant en dernier recours pour les logiciels libres critiques. Les organisations participantes ont déclaré que le maintien d'outils de sécurité accessibles et ouverts demeure essentiel pour protéger les infrastructures nationales, les entreprises privées et les réseaux du secteur public contre des cybermenaces automatisées de plus en plus sophistiquées.
L'article « Nvidia publie NOOA, un outil open source pour gérer les agents d'IA » est paru initialement sur Little Rock Gazette .