Comment garantir que nous profitons à la société grâce à la technologie la plus percutante développée aujourd'hui
En tant que directeur des opérations de l'un des principaux laboratoires d'intelligence artificielle au monde, je passe beaucoup de temps à réfléchir à l'impact de nos technologies sur la vie des gens et à la manière dont nous pouvons garantir que nos efforts aboutissent à des résultats positifs. C’est l’objet de mon travail et le message essentiel que j’apporte lorsque je rencontre des dirigeants mondiaux et des personnalités clés de notre industrie. Par exemple, c'était au premier plan de la table ronde sur « L'équité grâce à la technologie » que j'ai organisée cette semaine au Forum économique mondial à Davos, en Suisse.
Inspiré par les conversations importantes qui ont lieu à Davos sur la construction d'un monde plus vert, plus juste et meilleur, je voulais partager quelques réflexions sur mon propre parcours en tant que leader technologique, ainsi qu'un aperçu de la façon dont nous, chez DeepMind, abordons le défi de construire une technologie qui profite réellement à la communauté mondiale.
En 2000, j'ai pris un congé sabbatique de mon travail chez Intel pour visiter l'orphelinat au Liban où mon père a grandi. Pendant deux mois, j'ai travaillé à l'installation de 20 PC dans le premier laboratoire informatique de l'orphelinat et à former les élèves et les enseignants à leur utilisation. Le voyage a commencé comme une façon d’honorer mon père. Mais le fait de vivre dans un endroit doté d'une infrastructure technique aussi limitée m'a également donné une nouvelle perspective sur mon propre travail. J'ai réalisé que sans un réel effort de la part de la communauté technologique, de nombreux produits que je construisais chez Intel seraient inaccessibles à des millions de personnes. J’ai pris pleinement conscience de la façon dont cet écart d’accès exacerbait les inégalités ; Même si les ordinateurs résolvaient des problèmes et accéléraient le progrès dans certaines régions du monde, d’autres étaient encore plus laissées pour compte.
Après ce premier voyage au Liban, j'ai commencé à réévaluer mes priorités de carrière. J'ai toujours voulu participer à la création d'une technologie révolutionnaire. Mais à mon retour aux États-Unis, mon objectif s’est concentré sur la création de technologies susceptibles d’avoir un impact positif et durable sur la société. Cela m'a amené à occuper divers postes à l'intersection de l'éducation et de la technologie, notamment celui de cofondateur Équipe4Techune organisation à but non lucratif qui œuvre pour améliorer l'accès à la technologie pour les étudiants des pays en développement.
Lorsque j'ai rejoint DeepMind en tant que COO en 2018, je l'ai fait en grande partie parce que je pouvais dire que les fondateurs et l'équipe avaient le même accent sur l'impact social positif. En fait, chez DeepMind, nous défendons désormais un terme qui reflète parfaitement mes propres valeurs et espoirs d'intégrer la technologie dans la vie quotidienne des gens : être pionnier de manière responsable.
Je pense qu’être pionnier de manière responsable devrait être une priorité pour quiconque travaille dans le secteur de la technologie. Mais je reconnais également que c’est particulièrement important lorsqu’il s’agit de technologies puissantes et répandues comme l’intelligence artificielle. L’IA est sans doute la technologie la plus marquante développée aujourd’hui. Il a la potentiel bénéfique à l’humanité de multiples façons – de la lutte contre le changement climatique à la prévention et au traitement des maladies. Mais il est essentiel que nous tenions compte de ses impacts positifs et négatifs en aval. Par exemple, nous devons concevoir les systèmes d’IA avec soin et réflexion pour éviter d’amplifier les préjugés humainscomme dans les contextes d’embauche et de maintien de l’ordre.
La bonne nouvelle est que si nous remettons continuellement en question nos propres hypothèses sur la façon dont l’IA peut, et doit, être construite et utilisée, nous pouvons construire cette technologie d’une manière qui profite réellement à tout le monde. Cela nécessite d’inviter la discussion et le débat, de répéter à mesure que nous apprenons, d’intégrer des garanties sociales et techniques et de rechercher des perspectives diverses. Chez DeepMind, tout ce que nous faisons découle de la mission de notre entreprise consistant à résoudre l'intelligence pour faire progresser la société et bénéficier à l'humanité, et construire une culture de pionnier de manière responsable est essentiel pour faire de cette mission une réalité.
À quoi ressemble concrètement le fait d’être pionnier de manière responsable ? Je crois que cela commence par créer un espace pour des conversations ouvertes et honnêtes sur la responsabilité au sein d'une organisation. L'un des domaines où nous avons fait cela chez DeepMind est notre groupe de direction multidisciplinaire, qui donne des conseils sur les risques potentiels et l'impact social de nos recherches.
Faire évoluer notre gouvernance éthique et formaliser ce groupe a été l'une de mes premières initiatives lorsque j'ai rejoint l'entreprise – et, dans une démarche quelque peu peu conventionnelle, je ne lui ai donné un nom ni même un objectif précis qu'après plusieurs réunions. Je voulais que nous nous concentrions sur les aspects opérationnels et pratiques de la responsabilité, en commençant par un espace sans attentes dans lequel chacun pourrait parler franchement de ce que signifie pour lui être pionnier de manière responsable. Ces conversations ont été essentielles à l’établissement d’une vision commune et d’une confiance mutuelle, ce qui nous a permis d’avoir des discussions plus ouvertes à l’avenir.
Un autre élément du pionnier responsable consiste à adopter une Kaizen philosophie et approche. J'ai découvert le terme Kaizen dans les années 1990, lorsque j'ai déménagé à Tokyo pour travailler sur les normes technologiques DVD pour Intel. C'est un mot japonais qui signifie « amélioration continue » – et dans le sens le plus simple, un processus Kaizen est un processus dans lequel de petites améliorations progressives, apportées continuellement au fil du temps, conduisent à un système plus efficace et idéal. Mais c’est l’état d’esprit derrière le processus qui compte vraiment. Pour que le Kaizen fonctionne, tous ceux qui touchent au système doivent être à l’affût des faiblesses et des opportunités d’amélioration. Cela signifie que chacun doit avoir à la fois l’humilité d’admettre que quelque chose pourrait être brisé et l’optimisme de croire qu’il peut le changer pour le mieux.
Lorsque j'étais COO de la société d'apprentissage en ligne Coursera, nous avons utilisé une approche Kaizen pour optimiser notre structure de cours. Lorsque j'ai rejoint Coursera en 2013, les cours sur la plateforme avaient des délais stricts et chaque cours n'était proposé que quelques fois par an. Nous avons rapidement compris que cela n'offrait pas suffisamment de flexibilité. Nous avons donc opté pour un format entièrement à la demande et à votre rythme. Les inscriptions ont augmenté, mais les taux d’achèvement ont chuté – il s’avère que même si trop de structure est stressante et peu pratique, trop peu conduit à une perte de motivation. Nous avons donc à nouveau opté pour un format dans lequel les sessions de cours commencent plusieurs fois par mois et les apprenants travaillent sur les étapes hebdomadaires suggérées. Il a fallu du temps et des efforts pour y parvenir, mais l’amélioration continue a finalement abouti à une solution permettant aux utilisateurs de profiter pleinement de leur expérience d’apprentissage.
Dans l’exemple ci-dessus, notre approche kaizen a été largement efficace car nous avons demandé des commentaires à notre communauté d’apprenants et écouté leurs préoccupations. Il s’agit là d’un autre aspect crucial d’un travail de pionnier responsable : reconnaître que nous n’avons pas toutes les réponses et établir des relations qui nous permettent d’exploiter continuellement des apports extérieurs.
Pour DeepMind, cela signifie parfois consulter des experts sur des sujets tels que la sécurité, la confidentialité, la bioéthique et la psychologie. Cela peut également signifier tendre la main à diverses communautés de personnes directement touchées par notre technologie et les inviter à une discussion sur ce qu’elles veulent et ce dont elles ont besoin. Et parfois, cela signifie simplement écouter les gens qui nous entourent – quelle que soit leur formation technique ou scientifique – lorsqu’ils parlent de leurs espoirs pour l’avenir de l’IA.
Fondamentalement, être pionnier de manière responsable signifie donner la priorité aux initiatives axées sur l’éthique et l’impact social. Un domaine d’intérêt croissant dans nos recherches chez DeepMind concerne la manière dont nous pouvons rendre les systèmes d’IA plus équitables et inclusifs. Au cours des deux dernières années, nous avons publié des recherches sur IA décoloniale, l'équité queer dans l'IA, atténuer les risques éthiques et sociaux dans les modèles de langage d’IA, et plus. Dans le même temps, nous travaillons également à accroître la diversité dans le domaine de l'IA grâce à nos équipes dédiées. programmes de bourses. En interne, nous avons récemment commencé à organiser des sessions de la communauté de l'IA responsable qui rassemblent différentes équipes et efforts travaillant sur la sécurité, l'éthique et la gouvernance – et plusieurs centaines de personnes se sont inscrites pour s'impliquer.
Je suis inspiré par l'enthousiasme de nos employés pour ce travail et profondément fier de tous mes collègues de DeepMind qui placent l'impact social au premier plan. En veillant à ce que la technologie profite à ceux qui en ont le plus besoin, je crois que nous pouvons réellement progresser face aux défis auxquels notre société est aujourd’hui confrontée. En ce sens, être pionnier de manière responsable est un impératif moral – et personnellement, je ne peux pas imaginer une meilleure voie à suivre.
