OpenAI, leader dans la course au développement de l’IA aussi intelligente que l’homme, fait face à des préoccupations croissantes exprimées par ses employés sur la sécurité au sein du laboratoire de recherche à but non lucratif de 80 milliards de dollars.
Un récent article du Washington Post, citant une source anonyme, affirme que des tests ont été précipités et que le produit a été célébré avant même d’assurer sa sécurité. Des employés actuels et anciens ont récemment signé une lettre ouverte demandant plus de transparence et de meilleures pratiques. Cette demande est survenue peu de temps après la dissolution de l’équipe de sécurité, suite au départ du cofondateur Ilya Sutskever. Jan Leike, un chercheur clé, a également démissionné, affirmant que la culture de la sécurité et les processus ont été relégués au second plan au profit de produits plus attractifs.
Le cœur de la charte d’OpenAI comporte une clause stipulant que l’organisation aidera d’autres entités à avancer vers l’intelligence générale artificielle (AGI) plutôt que de continuer à rivaliser. Cela implique de résoudre les problèmes inhérents à un système aussi complexe tout en gardant les modèles propriétaires privés pour éviter les dangers potentiels.
Un porte-parole a déclaré que l’organisation est fière de son parcours en fournissant les systèmes les plus capables et les plus sûrs, et croit en une approche scientifique pour aborder les risques. Ils engagent des débats rigoureux, étant donné l’importance de cette technologie.
Les enjeux sont énormes. Un rapport commandé par le département d’État américain en mars a averti que le développement à la frontière actuelle pose des risques urgents et croissants pour la sécurité nationale, comparant l’impact potentiel à celui de l’introduction des armes nucléaires.
En réponse aux controverses continues, OpenAI a tenté de calmer les craintes avec quelques annonces bien chronométrées, notamment une collaboration avec le Laboratoire national de Los Alamos pour explorer comment aider en toute sécurité la recherche bioscientifique. Cependant, les critiques estiment que ces annonces ne sont qu’une façade pour apaiser les inquiétudes.
L’importance de cette technologie dépasse la bulle de Silicon Valley. Le président de la FTC, Lina Khan, a souligné que les outils d’IA sont révolutionnaires, mais pour l’instant, les entrées sont contrôlées par un nombre relativement restreint d’entreprises. Si les nombreuses accusations contre l’entreprise sont fondées, cela soulève de sérieuses questions sur l’aptitude d’OpenAI à jouer le rôle de gardien de cette technologie potentiellement transformatrice.
1 commentaire