Plusieurs dirigeants parmi les plus influents de l’intelligence artificielle se sont récemment accordés sur l’idée de ralentir le développement des technologies les plus avancées. Sam Altman d’OpenAI, Dario Amodei d’Anthropic, Demis Hassabis de Google DeepMind et Elon Musk soutiennent notamment l’idée de mieux encadrer les laboratoires spécialisés dans l’IA de pointe.

La proposition prévoit notamment de faire intervenir des organismes indépendants pour contrôler les systèmes développés par les entreprises, de renforcer les règles imposées aux laboratoires américains et de rechercher un ralentissement coordonné à l’échelle internationale.

Cette initiative suscite toutefois la méfiance. Certains observateurs craignent que les grands acteurs cherchent surtout à limiter l’arrivée de nouveaux concurrents, à affaiblir les projets d’IA open source ou à éviter des réglementations plus contraignantes. Certains vont jusqu’à parler de cartel.

Des spécialistes de la sécurité de l’IA estiment néanmoins que plusieurs mesures proposées correspondent à des revendications défendues depuis longtemps par le secteur. Le débat reste particulièrement sensible alors que les inquiétudes augmentent face aux capacités croissantes des agents autonomes, notamment après plusieurs incidents impliquant des systèmes utilisés dans des cyberattaques.

Pour certains experts, le problème est surtout que les dirigeants actuels de l’industrie ne devraient pas être les seuls à définir les règles de cette nouvelle technologie.