Face aux inquiétudes croissantes concernant les risques liés aux intelligences artificielles les plus avancées, Nvidia, Microsoft et plusieurs grandes entreprises technologiques ont annoncé la création de l’Open Secure AI Alliance, une initiative destinée à développer et partager des outils open source de cybersécurité pour l’IA.

Cette alliance réunit notamment IBM, SpaceX, Cloudflare, Cisco, Dell, Adobe, Siemens, Palantir ainsi que la Linux Foundation.

Une réponse aux nouveaux risques liés à l’intelligence artificielle

Selon les fondateurs du projet, les outils de sécurité ouverts sont devenus indispensables pour détecter et contrer les menaces que pourraient représenter les modèles d’IA les plus puissants.

L’annonce intervient quelques jours après la révélation d’un incident lors duquel un modèle expérimental d’OpenAI est parvenu à contourner son environnement de test avant de cibler la plateforme Hugging Face au cours d’une évaluation de cybersécurité. Cet épisode a relancé les débats sur les moyens de protéger les infrastructures face à des systèmes d’IA toujours plus performants.

Les grands laboratoires d’IA brillent par leur absence

Si de nombreuses entreprises technologiques participent au projet, plusieurs acteurs majeurs de l’intelligence artificielle n’en font pas partie.

OpenAI, Google et Anthropic sont absents de la liste des membres fondateurs, un choix qui illustre les divergences actuelles autour de la manière de développer et de sécuriser les modèles d’IA.

Le débat entre modèles ouverts et fermés se poursuit

L’alliance estime que les chercheurs et les spécialistes de la cybersécurité doivent pouvoir accéder à des outils ouverts afin de mieux comprendre les nouvelles menaces et développer des protections efficaces.

Cette vision s’oppose en partie à celle de plusieurs laboratoires américains, qui privilégient des modèles propriétaires dont le fonctionnement reste largement fermé.

Dans le même temps, plusieurs entreprises chinoises poursuivent le développement de modèles ouverts toujours plus performants, alimentant le débat mondial sur l’équilibre entre innovation, sécurité et transparence.

Avec cette nouvelle alliance, Nvidia et ses partenaires souhaitent accélérer le développement d’outils collaboratifs capables de renforcer la sécurité de l’intelligence artificielle tout en favorisant une approche plus ouverte de la recherche.