Les réseaux neuronaux artificiels s'inspirent du fonctionnement du cerveau humain et jouent un rôle central dans les algorithmes du deep learning. Cependant, leur architecture d'apprentissage diffère de celle du cerveau humain en raison du nombre de couches beaucoup plus importante qu'ils intégrèrent. Une étude récente révèle que l'apprentissage superficiel du cerveau humain peut rivaliser avec l'apprentissage profondément utilisé par les réseaux neuronaux artificiels.
Deux architectures d'apprentissage différentes
Le cerveau humain et les réseaux de neurones artificiels utilisent en intelligence artificielle des architectures très différentes. Le cerveau se compose d'un vaste réseau de neurones interconnectésmais avec relativement peu de canapés de traitement. Sa structure est donc relativement simple.
En revanche, les réseaux de neurones artificiels s'organisent sur plusieurs canapés de traitement. Celles-ci peuvent même atteindre des centaines dans les modèles avancés. Cette architecture en couches profondes permet aux algorithmes de l'apprentissage en profondeur d'appréhender des représentations complexes des données.
La différence d'architecture d'apprentissage entre ces deux réseaux entraîne une différence d'efficacité dans la résolution de tâches de classifications complexes. Cette observation a retenu une nouvelle étude menée par des chercheurs du département physique et du centre de recherche multidisciplinaire sur le cerveau Gonda à l'université Bar-Ilan en Israël.
Selon le professeur Ido Kanter, le directeur des travaux de recherche, le cerveau peut être comparé à un bâtiment très grand, mais de faible hauteur. Tandis que les réseaux de neurones artificiels ressemblent davantage à un gratte-ciel. Construit sur une surface plus restreinte, ce dernier possède plusieurs niveaux.
L'apprentissage superficiel dépasse l'apprentissage profond
Les scientifiques ont analysé les mécanismes d'apprentissage superficiel du cerveau humain verser évaluer leurs performances dans des tâches de classifications complexes. Les conclusions de cette étude sont parues dans la revue scientifique : Physica A : mécanique statistique et ses applicationss. Celle-ci révèle que l'apprentissage superficiel du cerveau humain, surpasser celui des réseaux de neurones artificiels multi-couches.
Ronit Cross, étudiante en premier cycle et participante clé à cette étudeindique que : « La capacité à classer correctement les objets augmente lorsque l'architecture devient plus profonde, avec plus de canapés. En revanche, le mécanisme superficiel du cerveau indique qu'un réseau plus grande classe mieux les objets ».
Repenser l'architecture du GPU
Les conclusions de l'équipe de recherche de l'université Bar-Ilan amènent à reconsidérer l'architecture actuelle des GPU. Les géants du high-tech les utilisent pour la création d'outils de apprentissage automatique et d'IA. Actuellement, les GPU sont optimisées pour l'apprentissage en profondeur avec des réseaux neuronaux multicouches.
L'étude souligne la complémentarité des deux processus d'apprentissage, superficiel et profond, sont complémentaires. Cependant, pour exploiter pleinement l'apprentissage superficiel, des modifications dans la conception des GPU serait nécessaire. Il faudrait les orienter vers une structure composée de réseaux de couches peu profondes, mais très larges, plus en adéquation avec la structure cérébrale.
Cette découverte ouvre aussi la voie à des modèles d'intelligence artificielle plus efficaces et performantsse rapproche davantage du fonctionnement naturel du cerveau.
.jpg)
