Un nouveau livre blanc étudie les modèles et les fonctions des institutions internationales qui pourraient aider à gérer les opportunités et à atténuer les risques liés à l'IA avancée.
La prise de conscience croissante de l’impact mondial de l’intelligence artificielle (IA) avancée a inspiré les débats publics sur la nécessité de structures de gouvernance internationales pour aider à gérer les opportunités et à atténuer les risques encourus.
De nombreuses discussions ont fait appel à des analogies avec le OACI (Organisation de l'aviation civile internationale) dans l'aviation civile ; CERN (Organisation européenne pour la recherche nucléaire) en physique des particules ; AIEA (Agence internationale de l'énergie atomique) en technologie nucléaire ; et les organisations intergouvernementales et multipartites dans de nombreux autres domaines. Et pourtant, même si les analogies peuvent constituer un début utile, les technologies émergeant de l’IA seront différentes de celles de l’aviation, de la physique des particules ou de la technologie nucléaire.
Pour réussir la gouvernance de l’IA, nous devons mieux comprendre :
- Quels avantages et risques spécifiques nous devons gérer à l’échelle internationale.
- Quelles fonctions de gouvernance nécessitent ces avantages et ces risques.
- Quelles organisations peuvent le mieux assurer ces fonctions.
Notre dernier articleavec des collaborateurs de l'Université d'Oxford, de l'Université de Montréal, de l'Université de Toronto, de l'Université Columbia, de l'Université Harvard, de l'Université Stanford et d'OpenAI, aborde ces questions et étudie comment les institutions internationales pourraient aider à gérer l'impact mondial du développement de l'IA de pointe et à faire assurez-vous que les avantages de l’IA profitent à toutes les communautés.
Le rôle essentiel des institutions internationales et multilatérales
L’accès à certaines technologies d’IA pourrait grandement améliorer la prospérité et la stabilité, mais les avantages de ces technologies pourraient ne pas être répartis de manière égale ni axés sur les besoins les plus importants des communautés sous-représentées ou du monde en développement. Un accès inadéquat aux services Internet, à la puissance de calcul ou à la disponibilité d’une formation ou d’une expertise en apprentissage automatique peut également empêcher certains groupes de bénéficier pleinement des progrès de l’IA.
Les collaborations internationales pourraient aider à résoudre ces problèmes en encourageant les organisations à développer des systèmes et des applications qui répondent aux besoins des communautés mal desservies et en améliorant la situation. éducationles infrastructures et les obstacles économiques qui empêchent ces communautés d’utiliser pleinement la technologie de l’IA.
En outre, des efforts internationaux pourraient être nécessaires pour gérer les risques posés par les puissantes capacités de l’IA. Sans garanties adéquates, certaines de ces capacités – telles que le développement automatisé de logiciels, la recherche en chimie et en biologie synthétique, ainsi que la génération de textes et de vidéos – pourraient être utilisées à mauvais escient pour causer des dommages. Les systèmes d'IA avancés peuvent également échouer de manière difficile à anticiper, créant des risques d'accident avec des conséquences potentiellement internationales si la technologie n'est pas déployée de manière responsable.
Les institutions internationales et multipartites pourraient contribuer à faire progresser les protocoles de développement et de déploiement de l’IA qui minimisent ces risques. Par exemple, ils pourraient faciliter un consensus mondial sur les menaces que les différentes capacités d’IA font peser sur la société et établir des normes internationales autour de l’identification et du traitement des modèles dotés de capacités dangereuses. Des collaborations internationales en matière de recherche sur la sécurité renforceraient également notre capacité à rendre les systèmes fiables et résilients face à une mauvaise utilisation.
Enfin, dans les situations où les États sont incités (par exemple en raison de la concurrence économique) à s'écarter mutuellement de leurs engagements réglementaires, les institutions internationales peuvent contribuer à soutenir et à encourager les meilleures pratiques et même à contrôler le respect des normes.
Quatre modèles institutionnels potentiels
Nous explorons quatre modèles institutionnels complémentaires pour soutenir les fonctions de coordination et de gouvernance mondiales :
- Une intergouvernementale Commission sur l'IA frontalière pourrait construire un consensus international sur les opportunités et les risques liés à l’IA avancée et sur la manière de les gérer. Cela permettrait de sensibiliser le public et de mieux comprendre les perspectives et les enjeux de l’IA, de contribuer à un compte rendu scientifiquement informé de l’utilisation de l’IA et de l’atténuation des risques, et de constituer une source d’expertise pour les décideurs politiques.
- Une organisation intergouvernementale ou multi-acteurs Organisation de gouvernance avancée de l’IA pourrait contribuer à internationaliser et à aligner les efforts visant à faire face aux risques mondiaux liés aux systèmes d’IA avancés en établissant des normes et standards de gouvernance et en aidant à leur mise en œuvre. Il peut également assurer des fonctions de surveillance de la conformité pour tout régime de gouvernance international.
- UN Collaboration Frontier AI pourrait promouvoir l’accès à l’IA avancée dans le cadre d’un partenariat international public-privé. Ce faisant, cela aiderait les sociétés mal desservies à bénéficier d’une technologie d’IA de pointe et favoriserait l’accès international à la technologie de l’IA pour atteindre les objectifs de sécurité et de gouvernance.
- Un Projet de sécurité de l'IA pourrait rassembler des chercheurs et des ingénieurs de premier plan et leur fournir un accès à des ressources de calcul et à des modèles d’IA avancés pour la recherche sur l’atténuation technique des risques liés à l’IA. Cela favoriserait la recherche et le développement sur la sécurité de l’IA en augmentant son échelle, ses ressources et sa coordination.
Défis opérationnels
De nombreuses questions importantes restent ouvertes concernant la viabilité de ces modèles institutionnels. Par exemple, une commission sur l’IA avancée sera confrontée à d’importants défis scientifiques étant donné l’extrême incertitude quant aux trajectoires et aux capacités de l’IA et le nombre limité de recherches scientifiques sur les questions liées à l’IA avancée à ce jour.
Le rythme rapide des progrès de l’IA et les capacités limitées du secteur public sur les questions d’IA de pointe pourraient également rendre difficile pour une organisation de gouvernance avancée de l’IA d’établir des normes adaptées au paysage des risques. Les nombreuses difficultés de la coordination internationale soulèvent des questions sur la manière dont les pays seront incités à adopter ses normes ou à accepter sa surveillance.
De même, les nombreux obstacles qui empêchent les sociétés d’exploiter pleinement les avantages des systèmes d’IA avancés (et d’autres technologies) peuvent empêcher un Frontier AI Collaborative d’optimiser son impact. Il peut également y avoir une tension difficile à gérer entre le partage des bénéfices de l’IA et la prévention de la prolifération de systèmes dangereux.
Et pour le projet AI Safety, il sera important d’examiner attentivement quels éléments de la recherche sur la sécurité sont les mieux menés par le biais de collaborations plutôt que par les efforts individuels des entreprises. De plus, un projet pourrait avoir du mal à obtenir un accès adéquat aux modèles les plus performants pour mener des recherches sur la sécurité auprès de tous les développeurs concernés.
Compte tenu des immenses opportunités mondiales et des défis que présentent les systèmes d’IA à l’horizon, un débat plus approfondi est nécessaire entre les gouvernements et les autres parties prenantes sur le rôle des institutions internationales et sur la manière dont leurs fonctions peuvent renforcer la gouvernance et la coordination de l’IA.
Nous espérons que cette recherche contribuera à alimenter les conversations au sein de la communauté internationale sur les moyens de garantir le développement d’une IA avancée au profit de l’humanité.
