La vie chez DeepMind
Avishkar Bhoopchand, ingénieur de recherche au sein de l'équipe Théorie des jeux et multi-agents, partage son parcours vers DeepMind et comment il travaille à rehausser le profil de l'apprentissage profond en Afrique.
En savoir plus sur Apprentissage profond Indaba 2022le rassemblement annuel de la communauté africaine de l’IA – qui aura lieu en Tunisie en août.
Comment se déroule une journée type au travail ?
En tant qu'ingénieur de recherche et responsable technique, aucune journée n'est la même. Je commence généralement ma journée en écoutant un podcast ou un livre audio pendant mon trajet jusqu'au bureau. Après le petit-déjeuner, je me concentre sur les e-mails et l'administration avant de me lancer dans ma première réunion. Celles-ci varient des rencontres individuelles avec les membres de l'équipe et des mises à jour du projet aux groupes de travail sur la diversité, l'équité et l'inclusion (DE&I).
J'essaie de réserver du temps pour ma liste de choses à faire l'après-midi. Ces tâches peuvent impliquer la préparation d'une présentation, la lecture d'articles de recherche, la rédaction ou la révision de code, la conception et la réalisation d'expériences ou l'analyse des résultats.
Lorsque je travaille à la maison, mon chien Finn m'occupe ! Lui enseigner ressemble beaucoup à l’apprentissage par renforcement (RL) – comme la façon dont nous formons des agents artificiels au travail. Ainsi, une grande partie de mon temps est consacrée à réfléchir à l’apprentissage profond ou à l’apprentissage automatique d’une manière ou d’une autre.
Comment vous êtes-vous intéressé à l’IA ?
Lors d'un cours sur les agents intelligents à l'Université du Cap, mon professeur a fait une démonstration d'un robot à six pattes qui avait appris à marcher à partir de zéro grâce à RL. À partir de ce moment, je n’ai cessé de penser à la possibilité d’utiliser des mécanismes humains et animaux pour construire des systèmes capables d’apprendre.
À l’époque, les applications et la recherche en apprentissage automatique n’étaient pas vraiment une option de carrière viable en Afrique du Sud. Comme beaucoup de mes camarades étudiants, j’ai fini par travailler dans le secteur financier en tant qu’ingénieur logiciel. J'ai beaucoup appris, notamment en matière de conception de systèmes robustes à grande échelle qui répondent aux exigences des utilisateurs. Mais après six ans, je voulais quelque chose de plus.
À cette époque, l’apprentissage profond a commencé à prendre son essor. J'ai d'abord commencé à suivre des cours en ligne comme celui d'Andrew Ng cours d'apprentissage automatique sur Coursera. Peu de temps après, j'ai eu la chance d'obtenir une bourse à l'University College de Londres, où j'ai obtenu ma maîtrise en statistiques informatiques et en apprentissage automatique.
Quelle est votre implication dans le Deep Learning Indaba ?
Au-delà de DeepMind, je suis également fier d'être organisateur et membre du comité directeur du Apprentissage profond Indaba, un mouvement visant à renforcer l’apprentissage automatique et l’IA en Afrique. Cela a commencé en 2017 comme école d'été en Afrique du Sud. Nous nous attendions à ce qu’une trentaine d’étudiants se réunissent pour en apprendre davantage sur le machine learning – mais à notre grande surprise, nous avons reçu plus de 700 candidatures ! C’était incroyable à voir et cela montrait clairement la nécessité d’établir des liens entre les chercheurs et les praticiens en Afrique.
Depuis lors, l'organisation est devenue une célébration annuelle de l'IA en Afrique avec plus de 600 participants et des événements IndabaX locaux organisés dans près de 30 pays africains. Nous avons également des subventions de recherche, des bourses de thèse et des programmes complémentaires, notamment un programme de mentorat – que j’ai lancé pendant la pandémie pour maintenir l’engagement de la communauté.
En 2017, aucune publication avec un auteur africain, basé dans une institution africaine, n'a été présentée à NeuroIPS, la principale conférence sur l'apprentissage automatique. Les chercheurs en IA sur tout le continent africain travaillaient en silos – certains avaient même des collègues travaillant sur le même sujet dans une autre institution plus loin et ne le savaient pas. Grâce à l'Indaba, nous avons construit une communauté florissante sur le continent et nos anciens élèves ont formé de nouvelles collaborations, publiant des articles à NeurIPS et toutes les grandes conférences.
De nombreux membres ont obtenu des emplois dans des entreprises technologiques de premier plan, créé de nouvelles startups sur le continent et lancé d’autres projets d’IA locaux étonnants en Afrique. Même si l'organisation de l'Indaba demande beaucoup de travail, cela en vaut la peine en voyant les réalisations et la croissance de la communauté. Je quitte toujours notre événement annuel inspiré et prêt à affronter l’avenir.
Qu’est-ce qui vous a amené à DeepMind ?
DeepMind était l'entreprise dans laquelle je rêvais de travailler, mais je ne pensais pas avoir de chance. De temps en temps, j'ai souffert du syndrome de l'imposteur : lorsqu'on est entouré de personnes intelligentes et capables, il est facile de se comparer sur un seul axe et de se sentir comme un imposteur. Heureusement, ma merveilleuse épouse m'a dit que je n'avais rien à perdre en postulant, alors j'ai envoyé mon CV et j'ai finalement reçu une offre pour un poste d'ingénieur de recherche !
Mon expérience antérieure en génie logiciel m'a vraiment aidé à me préparer à ce rôle, car j'ai pu m'appuyer sur mes compétences en ingénierie pour le travail quotidien tout en développant mes compétences en recherche. Ne pas obtenir l’emploi de ses rêves tout de suite ne signifie pas que la porte est fermée pour toujours à cette carrière.
De quels projets êtes-vous le plus fier ?
J'ai récemment travaillé sur un projet visant à donner aux agents artificiels la capacité de transmission culturelle en temps réel. La transmission culturelle est une compétence sociale que possèdent les humains et certains animaux, qui nous donne la capacité d’apprendre des informations en observant les autres. C'est la base de l'évolution culturelle cumulative et le processus responsable de l'expansion de nos compétences, de nos outils et de nos connaissances sur plusieurs générations.
Dans ce projet, nous avons formé des agents artificiels dans un environnement simulé en 3D pour observer un expert effectuer une nouvelle tâche, puis copier ce modèle et nous en souvenir. Maintenant que nous avons montré que la transmission culturelle est possible au sein d’agents artificiels, il est peut-être possible d’utiliser l’évolution culturelle pour contribuer à générer une intelligence générale artificielle (IAG).
C'était la première fois que je travaillais sur du RL à grande échelle. Ce travail combine l’apprentissage automatique et les sciences sociales, et j’avais beaucoup à apprendre du côté de la recherche. Parfois, les progrès vers notre objectif étaient également lents, mais nous y sommes finalement arrivés ! Mais en réalité, je suis très fier de la culture incroyablement inclusive que nous avions en tant qu'équipe de projet. Même lorsque les choses étaient difficiles, je savais que je pouvais compter sur le soutien de mes collègues.
Faites-vous partie de groupes de pairs chez DeepMind ?
J'ai été très impliqué dans un certain nombre d'initiatives de diversité, d'équité et d'inclusion (DE&I). Je suis convaincu que la DE&I sur le lieu de travail conduit à de meilleurs résultats, et pour construire l'IA pour tous, nous devons avoir une représentation d'un ensemble diversifié de voix.
Je suis animatrice d'un atelier interne sur le concept d'alliance, qui consiste à utiliser sa position de privilège et de pouvoir pour remettre en question le statu quo en soutenant les personnes issues de groupes marginalisés. Je suis impliqué dans différents groupes de travail qui visent à améliorer l'inclusion communautaire parmi les ingénieurs de recherche et la diversité dans l'embauche. Je suis également un mentor dans le Programme de bourses DeepMindqui a des partenariats en Afrique et dans d’autres parties du monde.
Quel impact espérez-vous que le travail de DeepMind puisse avoir ?
Je suis particulièrement enthousiasmé par les possibilités offertes par l'IA d'avoir un impact positif sur la médecine, notamment pour mieux comprendre et traiter les maladies. Par exemple, les problèmes de santé mentale comme la dépression affectent des centaines de millions de personnes dans le monde, mais nous semblons avoir une compréhension limitée des mécanismes causals qui les sous-tendent et, par conséquent, des options de traitement limitées. J’espère que dans un avenir pas trop lointain, les systèmes généraux d’IA pourront travailler en collaboration avec des experts humains pour percer les secrets de notre esprit et nous aider à comprendre et guérir ces maladies.