Comment évolue le domaine de l’intelligence artificielle et qu’est-ce que cela signifie pour l’avenir du travail, de l’éducation et de l’humanité ? La présidente du MIT, Sally Kornbluth, et le PDG d'OpenAI, Sam Altman, ont couvert tout cela et bien plus encore lors d'une vaste discussion sur le campus du MIT le 2 mai.
Le succès des grands modèles de langage ChatGPT d'OpenAI a contribué à stimuler une vague d'investissement et d'innovation dans le domaine de l'intelligence artificielle. ChatGPT-3.5 est devenu l'application logicielle grand public à la croissance la plus rapide de l'histoire après sa sortie fin 2022, avec des centaines de millions de personnes utilisant l'outil. Depuis lors, OpenAI a également présenté des produits de génération d'images, audio et vidéo basés sur l'IA et s'est associé à Microsoft.
L'événement, qui s'est déroulé dans un auditorium Kresge bondé, a capturé l'enthousiasme du moment autour de l'IA, en gardant un œil sur la suite.
« Je pense que la plupart d'entre nous se souviennent de la première fois que nous avons vu ChatGPT et nous nous sommes dit : 'Oh mon Dieu, c'est trop cool !' », a déclaré Kornbluth. « Maintenant, nous essayons de déterminer quelle sera la prochaine génération de tout cela. »
De son côté, Altman se félicite des attentes élevées autour de son entreprise et plus largement du domaine de l’intelligence artificielle.
« Je pense que c'est génial que pendant deux semaines, tout le monde paniquait à propos de ChatGPT-4, puis la troisième semaine, tout le monde se disait : « Allez, où est GPT-5 ? » », a déclaré Altman. « Je pense que cela en dit long sur les attentes et les efforts humains et sur la raison pour laquelle nous devons tous (travailler pour) améliorer les choses. »
Les problèmes de l'IA
Au début de leur discussion, Kornbluth et Altman ont évoqué les nombreux dilemmes éthiques posés par l’IA.
« Je pense que nous avons fait des progrès étonnamment bons sur la façon d'aligner un système autour d'un ensemble de valeurs », a déclaré Altman. « Autant les gens aiment dire 'Vous ne pouvez pas utiliser ces choses parce qu'elles rejettent tout le temps des déchets toxiques', autant GPT-4 se comporte comme vous le souhaitez, et nous sommes en mesure de l'amener à suivre un ensemble de valeurs donné, pas parfaitement bien, mais mieux que ce à quoi je m'attendais à ce stade.
Altman a également souligné que les gens ne sont pas d'accord sur la manière exacte dont un système d'IA devrait se comporter dans de nombreuses situations, ce qui complique les efforts visant à créer un code de conduite universel.
« Comment décidons-nous quelles valeurs un système devrait avoir ? » » demanda Altman. « Comment décidons-nous ce qu’un système doit faire ? Dans quelle mesure la société définit-elle des limites par rapport au fait de confier ces outils à l’utilisateur ? Tout le monde ne les utilisera pas comme nous le souhaitons, mais c'est un peu le cas des outils. Je pense qu'il est important de donner aux gens beaucoup de contrôle… mais il y a certaines choses qu'un système ne devrait tout simplement pas faire, et nous devrons négocier collectivement pour savoir quelles sont ces choses.
Kornbluth a reconnu qu'il serait difficile de faire des choses comme éradiquer les préjugés dans les systèmes d'IA.
« Il est intéressant de se demander si nous pouvons ou non créer des modèles moins biaisés que nous ne le sommes en tant qu'êtres humains », a-t-elle déclaré.
Kornbluth a également évoqué des problèmes de confidentialité associés aux grandes quantités de données nécessaires à la formation des grands modèles de langage actuels. Altman a déclaré que la société est aux prises avec ces préoccupations depuis l’aube d’Internet, mais que l’IA rend ces considérations plus complexes et plus importantes. Il voit également des questions entièrement nouvelles soulevées par la perspective de systèmes d’IA puissants.
« Comment allons-nous gérer les compromis entre confidentialité, utilité et sécurité ? » » demanda Altman. « Là où nous décidons tous individuellement de définir ces compromis et les avantages qui seront possibles si quelqu'un laisse le système être formé tout au long de sa vie, c'est une nouvelle chose à laquelle la société doit faire face. Je ne sais pas quelles seront les réponses.
En ce qui concerne les problèmes de confidentialité et de consommation d'énergie liés à l'IA, Altman a déclaré qu'il pensait que les progrès dans les futures versions des modèles d'IA seraient utiles.
« Ce que nous voulons de GPT-5 ou 6 ou autre, c'est qu'il soit le meilleur moteur de raisonnement possible », a déclaré Altman. « Il est vrai qu'à l'heure actuelle, la seule façon d'y parvenir est de le former. sur des tonnes et des tonnes de données. Dans ce processus, il apprend quelque chose sur la façon de faire un raisonnement ou une cognition très, très limitée ou peu importe comment vous voulez l'appeler, mais le fait qu'il peut mémoriser des données, ou le fait qu'il stocke des données. le tout dans son espace de paramètres, je pense que nous regarderons en arrière et dirons : « C'était une sorte de gaspillage étrange de ressources ». Je suppose qu'à un moment donné, nous trouverons comment séparer le moteur de raisonnement du besoin de tonnes de données ou de stockage des données dans (le modèle), et pourrons les traiter comme des éléments distincts.
Kornbluth a également demandé comment l’IA pourrait entraîner des suppressions d’emplois.
« L'une des choses qui m'agace le plus chez les gens qui travaillent sur l'IA, c'est lorsqu'ils se lèvent avec un visage impassible et disent : « Cela n'entraînera jamais aucune suppression d'emploi. C'est juste une chose additive. Tout cela va être génial », a déclaré Altman. « Cela va éliminer de nombreux emplois actuels, et cela va changer la façon dont fonctionnent de nombreux emplois actuels, et cela va créer des emplois entièrement nouveaux. Cela arrive toujours avec la technologie. »
La promesse de l'IA
Altman estime que les progrès de l'IA permettront de résoudre tous les problèmes actuels du domaine.
« Si nous dépensions 1% de l'électricité mondiale pour former une IA puissante, et que cette IA nous aidait à comprendre comment accéder à une énergie non basée sur le carbone ou à améliorer la capture profonde du carbone, ce serait une victoire énorme », a déclaré Altman.
Il a également déclaré que l'application de l'IA qui l'intéresse le plus est la découverte scientifique.
« Je crois que (la découverte scientifique) est le moteur principal du progrès humain et que c'est le seul moyen de générer une croissance économique durable », a déclaré Altman. « Les gens ne sont pas satisfaits de GPT-4. Ils veulent que les choses s'améliorent. Tout le monde veut vivre plus, mieux et plus vite, et la science est le moyen d’y parvenir.
Kornbluth a également demandé à Altman ses conseils pour les étudiants qui réfléchissent à leur carrière. Il a exhorté les étudiants à ne pas se limiter.
« La leçon la plus importante à apprendre au début de votre carrière est que vous pouvez en quelque sorte comprendre n'importe quoi, et que personne n'a toutes les réponses au début », a déclaré Altman. « Vous vous frayez simplement un chemin en trébuchant, avez une vitesse d'itération rapide et essayez de dériver vers les problèmes les plus intéressants pour vous, et côtoyez les personnes les plus impressionnantes et avez la confiance que vous réussirez à itérer vers la bonne chose. … Vous pouvez faire plus que vous ne le pensez, plus vite que vous ne le pensez.»
Ce conseil faisait partie d’un message plus large qu’Altman avait sur la nécessité de rester optimiste et de travailler à créer un avenir meilleur.
« La façon dont nous enseignons à nos jeunes que le monde est complètement foutu et qu'il est inutile d'essayer de résoudre les problèmes, que tout ce que nous pouvons faire est de nous asseoir dans nos chambres dans le noir et de penser à quel point nous sommes horribles, est une attitude vraiment profondément négative. séquence improductive », a déclaré Altman. «J'espère que le MIT est différent de beaucoup d'autres campus universitaires. Je suppose que oui. Mais vous devez tous intégrer la lutte contre cela dans votre mission de vie. La prospérité, l'abondance, une vie meilleure l'année prochaine, une vie meilleure pour nos enfants. C’est la seule voie à suivre. C'est la seule façon d'avoir une société qui fonctionne… et j'espère que vous lutterez tous contre la tendance anti-progrès, la tendance anti « le peuple mérite une belle vie ».»