Avant qu’un médicament soit approuvé par la Food and Drug Administration (FDA) des États-Unis, il doit démontrer à la fois son innocuité et son efficacité. Cependant, la FDA n’exige pas de comprendre le mécanisme d’action d’un médicament pour être approuvé. Cette acceptation des résultats sans explication soulève la question de savoir si le processus décisionnel de la « boîte noire » d’un modèle d’intelligence artificielle sûr et efficace doit être entièrement expliqué afin d’obtenir l’approbation de la FDA.
Ce sujet était l'un des nombreux points de discussion abordés le lundi 4 décembre lors de la Clinique MIT Abdul Latif Jameel pour l'apprentissage automatique en santé (Clinique Jameel) Conférence sur l'IA et la politique de réglementation de la santé, qui a déclenché une série de discussions et de débats parmi les professeurs ; les régulateurs des États-Unis, de l’UE et du Nigeria ; et des experts de l'industrie concernant la réglementation de l'IA dans le domaine de la santé.
Alors que l’apprentissage automatique continue d’évoluer rapidement, l’incertitude persiste quant à savoir si les régulateurs peuvent suivre le rythme et réduire encore la probabilité d’impacts néfastes tout en garantissant que leurs pays respectifs restent compétitifs en matière d’innovation. Afin de promouvoir un environnement de discussion franche et ouverte, la participation à l'événement de la Jameel Clinic a été soigneusement organisée pour un public de 100 participants débattant de l'application de la règle de Chatham House, afin de permettre aux orateurs de conserver l'anonymat pour discuter d'opinions et d'arguments controversés sans être identifiés comme la source. .
Plutôt que d'organiser un événement pour générer du buzz autour de l'IA dans le domaine de la santé, l'objectif de la Jameel Clinic était de créer un espace pour tenir les régulateurs informés des avancées les plus avant-gardistes en matière d'IA, tout en permettant aux professeurs et aux experts de l'industrie de proposer des approches nouvelles ou différentes en matière de réglementation. cadres pour l’IA dans le domaine de la santé, en particulier pour son utilisation en milieu clinique et dans le développement de médicaments.
Le rôle de l'IA en médecine est plus pertinent que jamais, alors que l'industrie est aux prises avec une pénurie de main-d'œuvre post-pandémique, une augmentation des coûts (« Ce n'est pas un problème de salaire, malgré l'opinion commune », a déclaré un intervenant), ainsi que des taux élevés d'épuisement professionnel et de démissions. parmi les professionnels de la santé. Un intervenant a suggéré que les priorités en matière de déploiement de l’IA clinique devraient se concentrer davantage sur les outils opérationnels plutôt que sur le diagnostic et le traitement des patients.
Un participant a souligné un « manque évident d’éducation de la part de tous les acteurs – non seulement parmi les communautés de développeurs et les systèmes de santé, mais également auprès des patients et des régulateurs ». Étant donné que les médecins sont souvent les principaux utilisateurs des outils d’IA clinique, un certain nombre de médecins présents ont supplié les régulateurs de les consulter avant d’agir.
La disponibilité des données était une question clé pour la majorité des chercheurs en IA présents. Ils ont déploré le manque de données pour faire fonctionner efficacement leurs outils d’IA. Beaucoup d’entre eux se sont heurtés à des obstacles tels que la propriété intellectuelle qui en interdisait l’accès ou simplement le manque d’ensembles de données volumineux et de haute qualité. « Les développeurs ne peuvent pas dépenser des milliards pour créer des données, mais la FDA le peut », a souligné un intervenant lors de l'événement. « Il existe une incertitude sur les prix qui pourrait conduire à un sous-investissement dans l'IA. » Les intervenants de l’UE ont vanté le développement d’un système obligeant les gouvernements à mettre les données de santé à la disposition des chercheurs en IA.
À la fin de l’événement d’une journée, de nombreux participants ont suggéré de prolonger la discussion et ont salué la conservation sélective et l’environnement fermé, qui ont créé un espace unique propice à des discussions ouvertes et productives sur la réglementation de l’IA dans le domaine de la santé. Une fois que les futurs événements de suivi seront confirmés, la clinique Jameel développera des ateliers supplémentaires de nature similaire pour maintenir l'élan et tenir les régulateurs au courant des derniers développements dans le domaine.
« L'étoile polaire de tout système de réglementation est la sécurité », a reconnu un participant. « La pensée générationnelle naît de là, puis travaille en aval. »
