Une fois que nous aurons réussi à faire en sorte que les ordinateurs soient à la hauteur de l’intelligence humaine, ils ne s’arrêteront pas là. Avec des connaissances approfondies, des capacités mathématiques au niveau machine et de meilleurs algorithmes, ils créeront une superintelligence, n'est-ce pas ?
Oui, il ne fait aucun doute que les machines finiront par être plus intelligentes que les humains. Nous ne savons pas combien de temps cela va prendre – cela pourrait prendre des années, voire des siècles.
À que Le point est : devons-nous fermer les écoutilles ?
Non non. Nous aurons tous des assistants IA, et ce sera comme travailler avec une équipe de personnes super intelligentes. Ce ne seront tout simplement pas des personnes. Les humains se sentent menacés par cela, mais je pense que nous devrions nous sentir excités. Ce qui me passionne le plus, c’est de travailler avec des gens plus intelligents que moi, car cela amplifie nos propres capacités.
Mais si les ordinateurs deviennent superintelligents, pourquoi auraient-ils besoin de nous ?
Il n’y a aucune raison de croire que, simplement parce que les systèmes d’IA sont intelligents, ils voudront nous dominer. Les gens se trompent lorsqu’ils imaginent que les systèmes d’IA auront les mêmes motivations que les humains. Ils ne le feront tout simplement pas. Nous les concevrons pour ne pas le faire.
Et si les humains ne s’intégraient pas dans ces pulsions et que les systèmes de superintelligence finissaient par nuire aux humains en poursuivant résolument un objectif ? Comme l'exemple du philosophe Nick Bostrom d'un système conçu pour fabriquer des trombones quoi qu'il arrive, et il conquiert le monde pour en fabriquer davantage.
Il serait extrêmement stupide de construire un système sans construire de garde-fous. Ce serait comme construire une voiture avec un moteur de 1 000 chevaux et sans freins. Intégrer des disques durs aux systèmes d’IA est le seul moyen de les rendre contrôlables et sûrs. J’appelle cela une IA axée sur les objectifs. Il s'agit en quelque sorte d'une nouvelle architecture, et nous n'en avons aucune démonstration pour le moment.
C'est sur cela que tu travailles maintenant ?
Oui. L’idée est que la machine a des objectifs qu’elle doit satisfaire et qu’elle ne peut rien produire qui ne satisfasse pas ces objectifs. Ces objectifs pourraient inclure des garde-corps pour empêcher des choses dangereuses ou autre. C'est ainsi que vous sécurisez un système d'IA.
Pensez-vous que vous allez vivre pour regretter les conséquences de l’IA que vous avez contribué à provoquer ?
Si je pensais que c'était le cas, j'arrêterais de faire ce que je fais.
Vous êtes un grand fan de jazz. Tout ce qui est généré par l’IA pourrait-il rivaliser avec la créativité euphorique et élitiste que seuls les humains peuvent produire jusqu’à présent ? Peut-il produire une œuvre qui a une âme ?
La réponse est compliquée. Oui, dans le sens où les systèmes d’IA finiront par produire de la musique – ou des arts visuels, ou autre – avec une qualité technique similaire à ce que les humains peuvent faire, peut-être supérieure. Mais un système d’IA n’a pas l’essence de la musique improvisée, qui repose sur la communication de l’humeur et des émotions d’un humain. Au moins pas encore. C'est pourquoi la musique jazz doit être écoutée en direct.
