OpenAI aurait réorganisé en profondeur ses activités consacrées à la sécurité de l’intelligence artificielle. Selon le Financial Times, l’entreprise aurait dissous fin juillet son équipe Preparedness, chargée d’évaluer les risques associés aux modèles les plus avancés.

Cette équipe avait notamment pour mission d’identifier les capacités susceptibles de représenter une menace importante et de mettre au point des mesures permettant de limiter ces risques. Ses responsabilités seraient désormais réparties entre différentes équipes spécialisées, notamment dans les domaines de la cybersécurité et des risques biologiques.

Cette décision intervient alors qu’OpenAI traverse une importante période de transformation, avec notamment des changements successifs dans son organisation consacrée à la sécurité de l’IA.

Plusieurs responsables liés à ces questions ont récemment quitté l’entreprise. Parmi eux figurent notamment la responsable de l’éthique Chloé Bakalar, le futuriste en chef Josh Achiam et le responsable de la sécurité Johannes Heidecke.

Cette réorganisation suscite des interrogations chez certains anciens responsables d’OpenAI. Jan Leike, qui avait quitté l’entreprise en deux mille vingt-quatre, estime notamment que la société pourrait accorder davantage d’importance au développement de nouveaux produits qu’aux enjeux de sécurité.

De son côté, Dylan Scandinaro, qui dirigeait l’équipe Preparedness après avoir rejoint OpenAI en provenance d’Anthropic, devrait désormais se concentrer sur les conséquences potentielles d’une intelligence artificielle capable de s’améliorer elle-même de manière récursive.