Le philosophe Nick Bostrom est étonnamment joyeux pour quelqu'un qui a passé tant de temps à s'inquiéter des moyens par lesquels l'humanité pourrait s'autodétruire. Sur les photographies, il a souvent l’air extrêmement sérieux, peut-être à juste titre hanté par les dangers existentiels qui rôdent dans son cerveau. Lorsque nous parlons sur Zoom, il a l’air détendu et sourit.
Bostrom a consacré sa vie à réfléchir aux avancées technologiques lointaines et aux risques existentiels pour l’humanité. Avec la publication de son dernier livre, Superintelligence : voies, dangers, stratégiesen 2014, Bostrom a attiré l’attention du public sur ce qui était alors une idée marginale : selon laquelle l’IA progresserait jusqu’à un point où elle pourrait se retourner contre l’humanité et l’anéantir.
Pour beaucoup, dans le domaine de la recherche en IA ou ailleurs, l'idée semblait fantaisiste, mais des personnalités influentes dont Elon Musk a cité les écrits de Bostrom. Le livre a lancé une vague d’inquiétudes apocalyptiques concernant la montée en puissance de l’IA qui a récemment a éclaté suite à l’arrivée de ChatGPT. L’inquiétude concernant les risques liés à l’IA n’est pas seulement un sujet dominant, mais également un thème au sein de Cercles politiques gouvernementaux en matière d'IA.
Le nouveau livre de Bostrom adopte une approche très différente. Plutôt que de jouer des tubes catastrophiques, Deep Utopia : vie et sens dans un monde résolu, envisage un avenir dans lequel l’humanité aura développé avec succès des machines superintelligentes mais évitera le désastre. Toutes les maladies ont disparu et les humains peuvent vivre indéfiniment dans une abondance infinie. Le livre de Bostrom examine quel sens aurait la vie dans une techno-utopie et se demande si cela pourrait être plutôt creux. Il a parlé avec WIRED sur Zoom, dans une conversation qui a été légèrement modifiée pour plus de longueur et de clarté.
Will Knight : Pourquoi passer de l'écriture sur l'IA superintelligente qui menace l'humanité à envisager un avenir dans lequel elle est utilisée pour faire le bien ?
Nick Bostrom : Les différentes choses qui pourraient mal tourner avec le développement de l’IA font désormais l’objet de beaucoup plus d’attention. C'est un grand changement au cours des 10 dernières années. Désormais, tous les principaux laboratoires d’IA de pointe disposent de groupes de recherche qui tentent de développer des méthodes d’alignement évolutives. Et ces dernières années également, nous voyons les dirigeants politiques commencer à s’intéresser à l’IA.
Il n'y a pas encore eu d'augmentation proportionnelle en profondeur et en sophistication en termes de réflexion sur la direction que prendront les choses si nous ne tombons pas dans l'un de ces gouffres. La réflexion a été assez superficielle sur le sujet.
Quand tu as écrit Superintelligence, rares sont ceux qui auraient pu s’attendre à ce que les risques existentiels de l’IA deviennent si rapidement un débat dominant. Aurons-nous besoin de nous inquiéter des problèmes de votre nouveau livre plus tôt que les gens ne le pensent ?
À mesure que nous commençons à voir l’automatisation se déployer, en supposant que les progrès se poursuivent, je pense que ces conversations commenceront à avoir lieu et finiront par s’approfondir.
Les applications sociales compagnons deviendront de plus en plus importantes. Les gens auront toutes sortes de points de vue différents et c'est un endroit idéal pour peut-être mener une petite guerre culturelle. Cela pourrait être formidable pour les personnes qui ne parviennent pas à s'épanouir dans la vie ordinaire, mais que se passerait-il s'il existait une partie de la population qui prenait plaisir à les maltraiter ?
Dans les domaines politique et informationnel, nous avons pu constater l’utilisation de l’IA dans les campagnes politiques, le marketing et les systèmes de propagande automatisés. Mais si nous avons un niveau de sagesse suffisant, ces choses pourraient vraiment amplifier notre capacité à être des citoyens démocratiques constructifs, avec des conseils individuels expliquant ce que les propositions politiques signifient pour vous. Il y aura toute une dynamique pour la société.
Un avenir dans lequel l’IA a résolu de nombreux problèmes, comme le changement climatique, les maladies et la nécessité de travailler, serait-il vraiment si mauvais ?