Visite de Sam Altman, co-fondateur de ChatGPT, à l’Université de Tel-Aviv.
Sam Altman, PDG d’OpenAI, l’entreprise à but non-lucratif qu’il a créé avec Elon Musk pour promouvoir l’intelligence artificielle à visage humain, et co-fondateur de ChatGPT le logiciel d’OpenAI qui dialogue avec ses utilisateurs, a été l’invité de l’Université de Tel-Aviv lundi 5 juin, au cours de sa visite en Israël, dans le cadre de sa tournée mondiale sur le thème de l’intelligence artificielle.
En équipe avec le scientifique en chef d’OpenAI, le Dr. Ilya Sutskever, il s’est entretenu avec le Dr. Nadav Cohen, de l’Ecole d’informatique de l’Université de Tel-Aviv, devant un public enthousiaste de plus de 1000 étudiants, chercheurs, professionnels de la haute technologie et personnalités israéliennes, dans l’auditorium Smolarz de l’Université, avant de répondre aux nombreuses questions du public. Un entretien inspirant et par moment presque mystique, qui nous fait entrevoir un nouveau monde exaltant et magique où nous pourrons, entre autres, grâce à la « super-intelligence », guérir toutes les maladies ou faire face à la crise climatique, si nous parvenons à en fixer les limites.
Sam Altman et Ilya Sutskever partagent le même amour pour l’innovation et l’intelligence artificielle, mais Sutskever, informaticien d’origine russo-israélo-canadienne, co-fondateur d’OpenAI avec Sam Altman et Elon Musk, qui a vécu à Jérusalem de l’âge de 5 à 16 ans et a étudié à l’Université Ouverte d’Israël, possède en sus un solide bagage académique (licence de mathématiques, maîtrise et doctorat d’informatique de l’Université de Toronto). Altman, en revanche, originaire pour sa part d’une famille juive de Cleveland aux Etats-Unis, dit avoir eu une passion pour l’intelligence artificielle depuis sa plus jeune enfance, et n’a fréquenté qu’un an l’Université de Stanford avant d’abandonner ses études et de fonder sa première startup à l’âge de 19 ans.
Mais le thème principal de l’entretien a tourné autour de l’équilibre entre les avantages de l’IA et ses risques pour l’humanité. Sam Altman et Ilya Sutskever viennent de signer une pétition mondiale avec des centaines d’autres experts appelant à prendre en compte les menaces existentielles de l’IA. Concernant les risques pour l’emploi, tous deux soulignent l’importance des systèmes de protection sociale : « Il est vrai que de nombreux emplois vont être impactés ou affectés, et que nous allons entrer dans une période d’incertitude économique. Il faudra penser à des systèmes pour amortir le choc et adoucir la transition vers de nouvelles professions », dit Ilya. « Nous allons vers une augmentation de l’automatisation vers des sommets que nous n’imaginons pas », ajoute Sam. « Nous avons besoin d’une sorte de nouveau contrat socio-économique ». Cependant, même dans ce domaine, Sam Altman reste plutôt optimiste : « Nous allons assister à une impressionnante augmentation de la productivité dont le monde a besoin. Dans dix ans, beaucoup de professions ne ressembleront plus à ce qu’elles sont aujourd’hui ; d’autres, par contre, resteront étrangement similaires. Mais si nous prenons l’exemple du jeu d’échecs, loin d’avoir disparu en raison de l’apparition de l’IA, il n’a jamais été si populaire. Il est difficile de prévoir le désir humain de se différencier, de créer de nouvelles choses ».
«Nous aurons besoin de structures de contrôle comme pour l’énergie nucléaire»
Le deuxième risque est celui de la super-intelligence concentrée aux mains de quelques-uns. « C’est une question délicate », relève Ilya. « De mauvais acteurs peuvent utiliser l’IA pour avoir du pouvoir. Nous aurons besoin de cadres et de structures de contrôle, comme cela existe pour l’énergie nucléaire ». Enfin le troisième danger, et le plus grand, est que le système ne devienne incontrôlable. « Ce serait une grave erreur de créer une super intelligence que nous ne saurions pas comment contrôler », déclare Ilya Sutskever.
L’IA, expliquent les conférenciers, va continuer sa progression exponentielle, et nous n’en sommes qu’au début. Cependant, Altman pense que ce serait une erreur d’adopter des réglementations lourdes ou d’essayer de stopper cette incroyable innovation : « Nous devrons nous confronter à ces menaces au cours de la prochaine décennie, ce qui ne nous laisse pas beaucoup de temps pour nous préparer ». Aussi, dans un document adressé au comité sur la vie privée et la technologie de la commission judiciaire du Sénat américain, il a proposé la création d’une organisation mondiale chargée de déterminer la limite extrême du pouvoir informatique, de vérifier le niveau de sécurité des modèles et de fixer des tests obligatoires.
Une révolution comparable au début de l’Internet
Cependant, les fondateurs d’OpenAI sont tous deux sont bien sûr de fervents partisans de l’intelligence artificielle. « Il s’agit d’une révolution comparable aux débuts de l’Internet. Je suis très enthousiaste par rapport aux bénéfices que l’IA peut apporter », déclare Sam Altman. « Il s’agit d’énormes bénéfices économiques, de progrès considérables des soins de santé, plus le fait que l’IA peut nous aider à faire des découvertes scientifiques dont nous sommes incapables et à comprendre les mystères de l’univers. Je crois vraiment que le progrès scientifique et technique est la seule manière durable d’améliorer la vie. Imaginez un monde où l’on pourra guérir toutes les maladies. Cela pourrait être un monde extraordinairement meilleur et je pense que nous n’en sommes pas si loin ».
Selon les conférenciers, la « super-intelligence » pourra également aider à résoudre la crise climatique mondiale : « Pour lutter contre la crise climatique, il faut capter efficacement le plus de carbone possible. Pour cela il faut de l’énergie et des technologies. Si nous pouvons accélérer le progrès scientifique, nous pourrons y parvenir beaucoup plus rapidement et à moindre coût, et éliminer tout ce carbone inutile de l’atmosphère », explique Ilya. « Cet exemple nous montre que nous devons rêver grand, et régler les problèmes à une échelle planétaire », ajoute Sam.
«Dans l’avenir, chacun aura une vie meilleure que celle des personnes les plus fortunées aujourd’hui»
Comment voient-ils l’avenir ? « C’est gratifiant de voir comment ChatGPT aident les gens à mieux apprendre, et ce que cela va générer si nous pouvons libérer le potentiel humain à ce rythme. C’est remarquable de voir la créativité des gens, et ce qu’ils peuvent faire lorsque vous leur donnez des outils puissants », dit Sam. « J’espère que nous ne serons jamais plus surpris par le progrès, qu’il évoluera à présent selon une courbe douce, et qu’à chaque étape nous pourrons affronter les risques avec succès, et sentir que c’est ce que nous voulons, avec une sensation de sécurité. Une accélération graduelle de la technologie comme outil au service de l’humanité ».
Les questions du public ont donné aux conférenciers l’occasion de préciser certains des points qui leur paraissent essentiels. « Nous devons trouver l’équilibre entre la promesse incroyable que constitue cette technologie dont les humains ont vraiment besoin et les risques très sérieux qu’elle présente », conclut sam. « Lorsque, dans quelques années, nous regarderons en arrière vers ce monde où règne la pauvreté et la maladie, il nous semblera barbare. Je pense que dans l’avenir, chacun aura une vie meilleure que celle des personnes les plus fortunées aujourd’hui. De plus, il est impossible d’arrêter le progrès de la technologie ; nous devons donc comprendre comment gérer le risque. C’est en grande partie pour cela qu’Open AI a été créé. L’IA peut être incroyablement positive, mais aussi très dangereuse ».
Le défi ultime de l’humanité
« Il est indispensable de contrôler et contenir la « super-intelligence », celle qui dépassera celle des humains, et sera capable de construire elle-même une intelligence artificielle », ajoute Ilya Sutskever. « Si l’on considère l’évolution du monde vivant depuis l’apparition des plus anciennes formes de vie il y a plus de quatre milliards d’année, l’IA constitue le défi ultime de l’humanité, auquel nous devons faire face et que nous devons surmonter ».
Et Israël dans tout cela ? « Israël est un petit pays dont l’impact dépasse de loin son poids spécifique », dit Sam Altman, qui a eu l’occasion à plusieurs reprises de travailler avec des startups israéliennes. Ce qui l’a frappé : la densité du talent en Israël et l’ambition et la motivation acharnée de ses entrepreneurs. « Ces deux caractéristiques ensemble conduiront à une incroyable prospérité tant dans la recherche sur l’IA que dans ses applications ».
Dans le cadre de sa tournée mondiale, Altman a déjà visité Madrid, Varsovie, Paris, Londres et Munich, puis Toronto, Washington, Rio de Janeiro, Lagos et Lisbonne. Son voyage à Tel-Aviv sera suivi de visites à Dubaï, New Delhi, Singapour, Jakarta, Séoul, Tokyo et Melbourne. Son but est de rencontrer les utilisateurs dans tous les domaines, et de discuter avec des entrepreneurs et des décideurs politiques.
Photos:
1. et 5. Sam Altman
2. De gauche à droite: le Dr. Nadav Cohen, Sam altman, le Dr. Ilya Sutskever
3. Dafna Meitar-Nechmas, Présidente du Conseil des Gouverneurs de l’Université de Tel-aviv, le Prof. ariel Porat, Président de l’Université, sam altman, Ilya Sutskever et le Prof. Mark Shtaif, Recteur.
4. Sam Altman et Ilya Sutskever (au centre) à l’Ecole des sciences informatiques de l’Université de Tel-Aviv, avec des chercheurs et des donateurs de l’Université.
5. Le public de l’Auditorium smolarz de l’Université de Tel-Aviv
(Crédit: Université de Tel-Aviv)
https://www.ami-universite-telaviv.com
