Les architectures d'intégration conjointe (JE) sont apparues comme une voie prometteuse pour acquérir des représentations de données transférables. Cependant, un obstacle majeur à l’utilisation des méthodes JE est le défi inhérent à l’évaluation des représentations apprises sans accès à une tâche en aval et à un ensemble de données annotées. Sans évaluation efficace et fiable, il est difficile d’itérer sur les choix d’architecture et de formation pour les méthodes JE. Dans cet article, nous introduisons LiDAR (Linear Discriminant Analysis Rank), une métrique conçue pour mesurer la qualité des représentations au sein des architectures JE. Notre métrique corrige plusieurs lacunes des approches récentes basées sur le classement de covariance des caractéristiques en discriminant les caractéristiques informatives et non informatives. Essentiellement, LiDAR quantifie le rang de la matrice d'analyse discriminante linéaire (LDA) associée à la tâche SSL de substitution, une mesure qui capture intuitivement le contenu des informations relatives à la résolution de la tâche SSL. Nous démontrons empiriquement que le LiDAR surpasse considérablement les approches naïves basées sur les classements en termes de pouvoir prédictif des hyperparamètres optimaux. Le critère proposé présente un moyen plus robuste et intuitif d'évaluer la qualité des représentations au sein des architectures JE, ce qui, nous l'espérons, facilitera une adoption plus large de ces techniques puissantes dans divers domaines.
