Voilà “plusieurs semaines” qu’OpenAI et ses concurrents, Anthropic et Google DeepMind, “travaillent ensemble” sur les questions de sécurité liées à l’intelligence artificielle, a révélé à l’agence de presse Bloomberg, le mardi 15 septembre, Chris Lehane, le responsable des affaires publiques internationales de l’entreprise fondée par Sam Altman.

OpenAI a précisé à l’Agence France-Presse (AFP) que les trois sociétés se penchaient sur la création d’un organe de supervision des risques liés à l’émergence de cette technologie, au moment où se multiplient les appels à mieux contenir ses dérives.

L’idée serait née d’une proposition de Demis Hassabis, président de Google DeepMind, qui avait déjà suggéré en juillet le lancement d’une entité similaire à l’Autorité américaine de régulation de l’industrie financière (Finra), instance d’autorégulation du secteur financier. Cet organisme serait “chargé de surveiller l’IA, serait doté du pouvoir d’évaluer les modèles les plus avancés et de coordonner un ralentissement du développement à l’échelle du secteur si les risques venaient à s’aggraver”, précise le magazine spécialisé TechCrunch.

Mardi, lors de la conférence Dreamforce, organisée par l’entreprise de logiciels Salesforce à San Francisco, le PDG d’OpenAI, Sam Altman, a affirmé que, même si les inquiétudes face aux risques liés à l’IA étaient légitimes, “le monde devrait faire confiance aux acteurs du secteur de l’IA” pour développer cette technologie en toute sécurité, rapporte Axios.

Un “risque de violation du droit de la concurrence”

“Un petit groupe d’entreprises d’IA ne devrait pas définir, à lui seul, la politique en matière d’IA pour le reste du monde”, a réagi mardi Aidan Gomez, patron du canadien Cohere – qui met au point sa propre IA –, dans un entretien accordé à la chaîne CNBC. “Il y a énormément de parties prenantes qui doivent être consultées”, a-t-il insisté.

Certains acteurs de l’IA, y compris Sam Altman, avaient déjà souligné par le passé que des discussions entre de grandes entreprises du secteur “pourraient exposer ces entreprises à un risque de violation du droit de la concurrence si cette coordination était considérée comme susceptible de restreindre la concurrence”, observe TechCrunch.

L’annonce des géants de la Silicon Valley est survenue alors que se tenait au même moment à Washington, sur la côte Est des États-Unis, la Pro-Human Assembly, un événement dédié à la nécessité de freiner et d’encadrer l’IA. La conférence a notamment vu se succéder à la tribune deux figures diamétralement opposées sur le spectre politique : le sénateur socialiste Bernie Sanders et le stratège d’extrême droite Steve Bannon, rapporte The New York Times. “Ces deux apparitions publiques inhabituelles [au sein d’un même événement] mettent en lumière l’inquiétude profonde et croissante suscitée par le potentiel destructeur de l’intelligence artificielle”, souligne le quotidien américain.

“Quand l’avenir de l’humanité est en jeu, nous avons besoin de règles internationales contraignantes, pas de standards de l’industrie fondés sur le volontariat”, a notamment affirmé Bernie Sanders.

“Nous ne sommes pas catastrophistes. Mais nous n’allons pas donner carte blanche [aux dirigeants du secteur de l’IA]. Leur arrogance est sidérante”, a dénoncé de son côté Steve Bannon.