S'exprimant lors du symposium « Generative AI : Shaping the Future » le 28 novembre, l'événement de lancement du MIT Semaine de l'IA générativele conférencier principal et co-fondateur d'iRobot, Rodney Brooks, a mis en garde les participants contre une surestimation sans réserve des capacités de cette technologie émergente, qui sous-tend des outils de plus en plus puissants comme ChatGPT d'OpenAI et Bard de Google.
« Le battage médiatique mène à l'orgueil, et l'orgueil mène à la vanité, et la vanité mène à l'échec », a prévenu Brooks, qui est également professeur émérite au MIT, ancien directeur du Laboratoire d'informatique et d'intelligence artificielle (CSAIL) et fondateur de Robust. .IA.
« Aucune technologie n'a jamais surpassé toutes les autres », a-t-il ajouté.
Le symposium, qui a attiré des centaines de Les participants du monde universitaire et de l'industrie à l'Auditorium Kresge de l'Institut ont reçu des messages d'espoir sur les opportunités IA générative des offres pour rendre le monde meilleur, notamment grâce à l'art et à la créativité, entrecoupées de mises en garde sur ce qui pourrait mal se passer si ces outils d'IA ne sont pas développés de manière responsable.
L'IA générative est un terme désignant les modèles d'apprentissage automatique qui apprennent à générer du nouveau matériel qui ressemble aux données sur lesquelles ils ont été formés. Ces modèles ont montré des capacités incroyables, telles que la capacité de produire une écriture créative de type humain, de traduire des langues, de générer un code informatique fonctionnel ou de créer des images réalistes à partir d'invites textuelles.
Dans son discours d'ouverture du symposium, la présidente du MIT, Sally Kornbluth, a souligné plusieurs projets entrepris par des professeurs et des étudiants pour utiliser l'IA générative afin d'avoir un impact positif sur le monde. Par exemple, le travail du Axim Collaboratifune initiative d'éducation en ligne lancée par le MIT et Harvard, comprend l'exploration des aspects éducatifs de l'IA générative pour aider les étudiants mal desservis.
L'Institut a également récemment annoncé subventions de démarrage pour 27 projets de recherche interdisciplinaires centrés sur la façon dont l'IA transformera la vie des gens dans la société.
En organisant la Generative AI Week, le MIT espère non seulement présenter ce type d'innovation, mais également générer des « collisions collaboratives » entre les participants, a déclaré Kornbluth.
La collaboration impliquant les universitaires, les décideurs politiques et l'industrie sera essentielle si nous voulons intégrer en toute sécurité une technologie en évolution rapide comme l'IA générative d'une manière qui soit humaine et aide les humains à résoudre les problèmes, a-t-elle déclaré au public.
« Honnêtement, je ne peux pas imaginer un défi plus étroitement lié à la mission du MIT. C’est une responsabilité profonde, mais je suis convaincue que nous pouvons y faire face, si nous l’affrontons de front et si nous l’affrontons en tant que communauté », a-t-elle déclaré.
Même si l'IA générative a le potentiel de contribuer à résoudre certains des problèmes les plus urgents de la planète, l'émergence de ces puissants modèles d'apprentissage automatique a brouillé la distinction entre science-fiction et réalité, a déclaré Daniela Rus, directrice du CSAIL, dans son discours d'ouverture. La question n’est plus de savoir si nous pouvons fabriquer des machines capables de produire de nouveaux contenus, a-t-elle déclaré, mais comment nous pouvons utiliser ces outils pour améliorer les entreprises et assurer leur durabilité.
« Aujourd'hui, nous discuterons de la possibilité d'un avenir dans lequel l'IA générative n'existe pas seulement en tant que merveille technologique, mais constitue également une source d'espoir et une force pour le bien », a déclaré Rus, qui est également professeur Andrew et Erna Viterbi à le Département de génie électrique et informatique.
Mais avant que la discussion n’aborde en profondeur les capacités de l’IA générative, les participants ont d’abord été invités à réfléchir à leur humanité, tandis que le professeur Joshua Bennett du MIT lisait un poème original.
Bennett, professeur à la section de littérature du MIT et titulaire de la chaire distinguée des sciences humaines, a été invité à écrire un poème sur ce que signifie être humain et s'est inspiré de sa fille, née il y a trois semaines.
Le poème racontait ses expériences en tant que garçon regardant Star Trek avec son père et a évoqué l'importance de transmettre les traditions à la génération suivante.
Dans son discours d’ouverture, Brooks a entrepris d’analyser certaines des questions scientifiques profondes entourant l’IA générative, ainsi que d’explorer ce que la technologie peut nous dire sur nous-mêmes.
Pour commencer, il a cherché à dissiper une partie du mystère entourant les outils d’IA générative comme ChatGPT en expliquant les bases du fonctionnement de ce grand modèle de langage. ChatGPT, par exemple, génère du texte mot par mot en déterminant quel devrait être le mot suivant dans le contexte de ce qu'il a déjà écrit. Alors qu'un humain peut écrire une histoire en pensant à des phrases entières, ChatGPT se concentre uniquement sur le mot suivant, a expliqué Brooks.
ChatGPT 3.5 est construit sur un modèle d'apprentissage automatique comportant 175 milliards de paramètres et a été exposé à des milliards de pages de texte sur le Web pendant la formation. (La dernière itération, ChatGPT 4, est encore plus grande.) Il apprend les corrélations entre les mots dans cet énorme corpus de texte et utilise ces connaissances pour proposer quel mot pourrait venir ensuite lorsqu'on lui donne une invite.
Le modèle a démontré des capacités incroyables, comme la capacité d'écrire un sonnet sur les robots dans le style du célèbre poème de Shakespeare. Sonnet 18. Au cours de son discours, Brooks a présenté le sonnet qu'il a demandé à ChatGPT d'écrire côte à côte avec le sien. sonnet.
Mais même si les chercheurs ne comprennent pas encore exactement comment fonctionnent ces modèles, Brooks a assuré au public que les capacités apparemment incroyables de l'IA générative ne sont pas magiques et que cela ne signifie pas que ces modèles peuvent faire quoi que ce soit.
Ses plus grandes craintes concernant l’IA générative ne tournent pas autour de modèles qui pourraient un jour surpasser l’intelligence humaine. Il s’inquiète plutôt du fait que des chercheurs risquent de gâcher des décennies d’excellents travaux alors qu’ils étaient sur le point de réaliser une percée, juste pour se lancer dans de nouvelles avancées brillantes en matière d’IA générative ; les sociétés de capital-risque qui se tournent aveuglément vers les technologies susceptibles de générer les marges les plus élevées ; ou la possibilité qu’une génération entière d’ingénieurs oublie les autres formes de logiciels et d’IA.
En fin de compte, ceux qui croient que l'IA générative peut résoudre les problèmes du monde et ceux qui pensent qu'elle ne fera que générer de nouveaux problèmes ont au moins une chose en commun : les deux groupes ont tendance à surestimer la technologie, a-t-il déclaré.
« Quel est le problème avec l’IA générative ? L’idée est que cela mènera d’une manière ou d’une autre à une intelligence artificielle générale. En soi, ce n’est pas le cas », a déclaré Brooks.
Suite à la présentation de Brooks, un groupe de professeurs du MIT a parlé de leurs travaux utilisant l'IA générative et a participé à une table ronde sur les avancées futures, les sujets de recherche importants mais sous-explorés et les défis de la réglementation et de la politique de l'IA.
Le panel était composé de Jacob Andreas, professeur agrégé au Département de génie électrique et d'informatique (EECS) du MIT et membre du CSAIL ; Antonio Torralba, professeur Delta Electronics de l'EECS et membre du CSAIL ; Ev Fedorenko, professeur agrégé de sciences du cerveau et des sciences cognitives et chercheur au McGovern Institute for Brain Research du MIT ; et Armando Solar-Lezama, professeur émérite d'informatique et directeur associé du CSAIL. Il était modéré par William T. Freeman, professeur Thomas et Gerd Perkins de l'EECS et membre du CSAIL.
Les panélistes ont discuté de plusieurs orientations de recherche potentielles autour de l’IA générative, notamment la possibilité d’intégrer des systèmes de perception, en s’appuyant sur les sens humains comme le toucher et l’odorat, plutôt que de se concentrer principalement sur le langage et les images. Les chercheurs ont également évoqué l’importance de collaborer avec les décideurs politiques et le public pour garantir que les outils d’IA générative soient produits et déployés de manière responsable.
« L’un des risques majeurs de l’IA générative aujourd’hui est celui de l’huile de serpent numérique. Il y a un grand risque de voir apparaître de nombreux produits prétendant faire des choses miraculeuses mais qui, à long terme, pourraient être très nocifs », a déclaré Solar-Lezama.
La séance du matin s'est terminée par un extrait du roman de science-fiction « Metropolis » de 1925, lu par Joy Ma, diplômée en physique et en arts du théâtre, suivi d'une table ronde sur l'avenir de l'IA générative. La discussion comprenait Joshua Tenenbaum, professeur au Département des sciences du cerveau et des sciences cognitives et membre du CSAIL ; Dina Katabi, professeure Thuan et Nicole Pham à l'EECS et chercheuse principale au CSAIL et à la MIT Jameel Clinic ; et Max Tegmark, professeur de physique ; et était animé par Daniela Rus.
L'un des points forts de la discussion était la possibilité de développer des modèles d'IA génératifs qui pourraient aller au-delà de ce que nous pouvons faire en tant qu'êtres humains, tels que des outils capables de détecter les émotions d'une personne en utilisant des signaux électromagnétiques pour comprendre comment sa respiration et sa fréquence cardiaque changent.
Mais l’une des clés pour intégrer en toute sécurité une telle IA dans le monde réel est de garantir que nous pouvons lui faire confiance, a déclaré Tegmark. Si nous savons qu’un outil d’IA répondra aux spécifications sur lesquelles nous insistons, alors « nous n’aurons plus à craindre de construire des systèmes vraiment puissants qui font des choses pour nous dans le monde », a-t-il déclaré.
