Imaginez que vous êtes dans un avion avec deux pilotes, un humain et un ordinateur. Tous deux ont la « main » sur les contrôleurs, mais ils sont toujours à la recherche de choses différentes. S’ils prêtent tous les deux attention à la même chose, c’est l’humain qui dirige. Mais si l’humain est distrait ou manque quelque chose, l’ordinateur prend rapidement le relais.
Découvrez l'Air-Guardian, un système développé par des chercheurs du Laboratoire d'informatique et d'intelligence artificielle du MIT (CSAIL). Alors que les pilotes modernes sont aux prises avec une avalanche d'informations provenant de plusieurs moniteurs, en particulier pendant les moments critiques, Air-Guardian agit comme un copilote proactif ; un partenariat entre l’humain et la machine, ancré dans la compréhension de l’attention.
Mais comment détermine-t-il l’attention, exactement ? Pour les humains, il utilise le suivi oculaire, et pour le système neuronal, il s'appuie sur ce qu'on appelle des « cartes de saillance », qui indiquent où l'attention est dirigée. Les cartes servent de guides visuels mettant en évidence les régions clés d’une image, aidant ainsi à saisir et à déchiffrer le comportement d’algorithmes complexes. Air-Guardian identifie les premiers signes de risques potentiels grâce à ces marqueurs d'attention, au lieu d'intervenir uniquement lors de violations de sécurité comme les systèmes de pilote automatique traditionnels.
Les implications plus larges de ce système vont au-delà de l’aviation. Des mécanismes de contrôle coopératifs similaires pourraient un jour être utilisés dans les voitures, les drones et un spectre plus large de robots.
« Une caractéristique intéressante de notre méthode est sa différentiabilité », déclare Lianhao Yin, postdoctorant au MIT CSAIL, auteur principal d'une nouvelle étude. article sur Air-Guardian. « Notre couche coopérative et l'ensemble du processus de bout en bout peuvent être formés. Nous avons spécifiquement choisi le modèle de réseau neuronal causal à profondeur continue en raison de ses caractéristiques dynamiques dans la cartographie de l'attention. Un autre aspect unique est l'adaptabilité. Le système Air-Guardian n'est pas » t rigide ; il peut être ajusté en fonction des exigences de la situation, garantissant un partenariat équilibré entre l'homme et la machine.
Lors des tests sur le terrain, le pilote et le système ont pris des décisions basées sur les mêmes images brutes lors de la navigation vers le waypoint cible. Le succès d'Air-Guardian a été évalué sur la base des récompenses cumulées gagnées pendant le vol et du trajet plus court jusqu'au waypoint. Le gardien a réduit le niveau de risque des vols et augmenté le taux de réussite de la navigation vers les points cibles.
« Ce système représente l'approche innovante de l'aviation centrée sur l'humain et basée sur l'IA », ajoute Ramin Hasani, affilié de recherche MIT CSAIL et inventeur des réseaux de neurones liquides. « Notre utilisation de réseaux de neurones liquides offre une approche dynamique et adaptative, garantissant que l'IA ne remplace pas simplement le jugement humain mais le complète, conduisant à une sécurité et une collaboration améliorées dans le ciel. »
La véritable force d’Air-Guardian réside dans sa technologie fondamentale. À l’aide d’une couche coopérative basée sur l’optimisation utilisant l’attention visuelle des humains et des machines, ainsi que de réseaux neuronaux en temps continu (CfC) liquides et fermés, connus pour leurs prouesses dans le déchiffrement des relations de cause à effet, il analyse les images entrantes à la recherche d’informations vitales. En complément, l'algorithme VisualBackProp identifie les points focaux du système dans une image, garantissant ainsi une compréhension claire de ses cartes d'attention.
Pour une future adoption massive, il est nécessaire d’affiner l’interface homme-machine. Les commentaires suggèrent qu’un indicateur, comme une barre, pourrait être plus intuitif pour indiquer quand le système gardien prend le contrôle.
Air-Guardian annonce une nouvelle ère de ciel plus sûr, offrant un filet de sécurité fiable pour les moments où l'attention humaine vacille.
« Le système Air-Guardian met en évidence la synergie entre l'expertise humaine et l'apprentissage automatique, contribuant ainsi à l'objectif d'utiliser l'apprentissage automatique pour augmenter les pilotes dans des scénarios difficiles et réduire les erreurs opérationnelles », déclare Daniela Rus, professeure d'électricité Andrew (1956) et Erna Viterbi. Ingénierie et informatique au MIT, directeur du CSAIL et auteur principal de l'article.
« L'un des résultats les plus intéressants de l'utilisation d'une mesure de l'attention visuelle dans ce travail est la possibilité de permettre des interventions plus précoces et une plus grande interprétabilité par les pilotes humains », explique Stephanie Gil, professeur adjoint d'informatique à l'Université Harvard, qui n'a pas participé à l'étude. travail. « Cela présente un excellent exemple de la façon dont l'IA peut être utilisée pour travailler avec un humain, en abaissant les barrières pour établir la confiance en utilisant des mécanismes de communication naturels entre l'humain et le système d'IA. »
Cette recherche a été partiellement financée par le laboratoire de recherche de l’US Air Force (USAF), l’accélérateur d’intelligence artificielle de l’USAF, Boeing Co. et l’Office of Naval Research. Les résultats ne reflètent pas nécessairement les opinions du gouvernement américain ou de l’USAF.
