Comment savoir si les intelligences artificielles sont des algorithmes insensibles ou des êtres conscients qui éprouvent des sensations et des émotions ? La réponse à cette question a des implications majeures sur les lignes directrices éthiques que nous appliquons aux IA. Si nous pensons qu’une future IA éprouve de la douleur et de la joie, nous la traiterions différemment d’un simple algorithme comme une formule Excel. Pouvons-nous savoir ce que vit une IA ? Les théories de la conscience visent à déterminer ce qui mène à la conscience et pourraient aider à déterminer si les IA, les animaux ou même les arbres sont conscients.
L'une des théories les plus importantes, Théorie de l'information intégrée (IIT), est unique en ce sens qu'il est livré avec une équation permettant de calculer le degré de conscience d'une chose donnée. Un cerveau humain obtient un score très élevé alors qu’un tas de pierres obtient un score nul. Les circuits électroniques, depuis les lumières de votre cuisine jusqu'à ChatGPT, peuvent avoir un large éventail de scores. Concernant cette dernière et d’autres intelligences artificielles, l’IIT fait une prédiction intéressante : les IA construites à partir d’architectures complexes en boucle auront au moins une certaine conscience tandis que celles issues de réseaux linéaires à action directe (ChatGPT inclus) n’auront aucune conscience.
Si cette théorie peut s’avérer vraie, elle sera extrêmement utile pour l’avenir de l’éthique de l’IA, sans parler de la compréhension de la conscience humaine. Déjà, la théorie est utilisée pour prédire si un patient dans un état végétatif est véritablement inconscient ou simplement enfermé, incapable de bouger mais perspicace de son environnement. Cependant, la prouvabilité de la théorie de l'information intégrée a été remise en question récemment, avec un Article de 2019 intitulé The Unfolding Argument. L’argument ne dit pas que l’IIT doit être faux, mais plutôt qu’il ne peut jamais être prouvé qu’il est vrai. Cela repose sur le fait que l’IIT prédit différents niveaux de conscience pour des réseaux formés différemment mais se comportant de manière identique.
Pour bien comprendre l'argument et ce qu'il signifie pour notre compréhension de la conscience, plongeons-nous dans la conscience, l'IIT, les réseaux récurrents ou rétroactifs et l'argumentation qui se déroule.