Le biais des données devient un problème de plus en plus pressant pour les entreprises qui exploitent l’intelligence artificielle et l’apprentissage automatique, mais de nombreuses organisations ont du mal à y remédier efficacement.
Les deux tiers des dirigeants pensent qu'il existe actuellement un biais en matière de données dans leur organisation, selon une étude mondiale parrainée par Progress et menée par Insight Avenue.
Le biais des données est devenu une préoccupation majeure pour les entreprises qui utilisent l’intelligence artificielle (IA) et l’apprentissage automatique (ML) pour analyser et donner un sens à leurs données. Avec le passage au numérique, les entreprises ont désormais accès à une multitude d’informations – dans la plupart des cas, trop d’informations pour savoir par où commencer.
L’IA et le ML peuvent tirer des informations exploitables du Big Data, aidant ainsi les entreprises à prendre de meilleures décisions commerciales.
Il n’est donc pas étonnant que de plus en plus d’entreprises aient commencé à utiliser et à s’appuyer sur l’IA : l’étude a montré que 66 % des organisations prévoient de devenir davantage dépendantes de l’IA et/ou du ML pour la prise de décision.
Même si l’intention est de rendre les entreprises plus intelligentes et plus efficaces, l’utilisation de l’IA a également eu des conséquences involontaires, le biais des données étant l’un des principaux problèmes.
Les décisions prises avec des données biaisées peuvent avoir un impact négatif sur la finance, l'informatique, le numérique, les opérations, les ventes et la stratégie. Pire encore, les biais liés aux données peuvent conduire à une mauvaise expérience client, nuire à la réputation des entreprises et faire reculer les efforts d'inclusion et de diversité.
« Chaque jour, les préjugés peuvent avoir un impact négatif sur les opérations commerciales et la prise de décision, depuis la gouvernance et la perte de confiance des clients jusqu'aux implications financières et aux risques juridiques et éthiques potentiels », a déclaré John Ainsworth, vice-président directeur et directeur général de la plateforme d'applications et de données chez Progress.
« Nous plaçons nos clients au centre de tout ce que nous faisons et, à mesure que nous explorons tout ce que l'IA/ML peut faire, nous voulons nous assurer que nos clients disposent des bonnes informations pour prendre les meilleures décisions pour faire progresser leur entreprise », a-t-il ajouté. .
Chez Progress, nous voulions avoir une idée de l'ampleur des biais liés aux données, des mesures prises par les entreprises pour prévenir et lutter contre les biais, des obstacles à leur résolution et des implications des biais incontrôlés. En partenariat avec Insight Avenue, basé au Royaume-Uni, nous avons commandé une enquête mondiale auprès de 640 responsables commerciaux et informatiques qui utilisent les données pour prendre des décisions ou envisagent d'utiliser l'IA ou le ML pour soutenir la prise de décision. Tous les dirigeants dirigeaient des entreprises de plus de 500 salariés.
L'étude a révélé que si 78 % pensent que les biais dans les données deviendront un problème plus important à mesure que l'utilisation de l'IA/ML augmente, seuls 13 % s'attaquent actuellement aux biais dans les données et disposent d'un processus d'évaluation continu pour les éliminer. De plus, plus de la moitié des personnes interrogées considèrent le manque de sensibilisation aux biais potentiels comme un obstacle à la lutte contre les biais dans les données.
Lisez d’autres faits saillants de l’étude ci-dessous ou télécharger une copie de l'étude pour avoir une image complète de l’état des biais en matière de données dans les entreprises.
Reconnaître la menace du biais des données
Bien que les entreprises varient dans leurs stratégies pour remédier aux biais potentiels dans les données, elles sont conscientes des risques et des conséquences que les biais dans les données peuvent entraîner.
77 % des personnes interrogées reconnaissent qu'elles doivent faire davantage pour comprendre et lutter contre les préjugés au sein de leur organisation, et 76 % affirment qu'il y aura des implications sociales plus larges si les entreprises ne traitent pas de manière adéquate le problème des biais liés aux données.
La plupart des dirigeants (78 %) sont conscients qu’à mesure que l’IA sera plus largement utilisée, le problème ne fera que s’intensifier. Dans cette optique, 67 % des dirigeants pensent que leur organisation a évalué la technologie pour lutter contre les biais liés aux données, et 40 % ont déclaré que les biais liés aux données étaient un facteur à prendre en compte lors de l'évaluation des fournisseurs d'IA/ML.
Il faudra probablement une combinaison de personnes, d'outils, de formation et de politiques pour éviter les biais dans les données : 76 % reconnaissent qu'il est préférable de lutter contre les biais dans les données de manière centralisée au sein de l'organisation plutôt que de confier le problème à des départements cloisonnés.
Où les organisations peuvent s'améliorer
Lorsqu’il s’agit de lutter contre les biais liés aux données, les organisations doivent surmonter plusieurs obstacles avant de pouvoir progresser. Les principaux obstacles à la lutte contre les biais dans les données comprennent le manque de sensibilisation aux biais potentiels (51 %), le manque de compréhension de la manière d'identifier les biais (43 %) et le manque de ressources expertes (31 %).
Seulement 9 % des personnes interrogées ont déclaré qu'elles ne considéraient pas les biais dans les données comme un problème, ce qui indique que l'inaction peut être attribuée à des difficultés de planification et d'exécution, plutôt qu'à une incapacité à reconnaître la menace d'un biais dans les données.
77 % des personnes interrogées ont déclaré que leur organisation devait encore faire davantage pour comprendre les biais liés aux données. Les dirigeants estiment que les mesures les plus efficaces seront la technologie et les outils (65 %), davantage de formation (59 %) et l'ajustement de leur stratégie et de leur vision (49 %).
Comment les entreprises peuvent traiter et éviter les biais en matière de données
Alors que de plus en plus d’organisations commencent à s’appuyer sur l’IA et le ML, la nécessité de lutter contre les biais potentiels dans les données devient plus urgente. Les entreprises devront mettre en place des plans et des processus pour identifier et prévenir les biais dans les données, et les entités devront reconnaître comment cela peut menacer tous les aspects d’une entreprise.
Les organisations devront examiner toutes les parties d'un projet, du recrutement et de la diversité des équipes à la formation et à la technologie. Les biais liés aux données peuvent avoir un impact sur les décisions quotidiennes de n’importe quelle entreprise et avoir un effet néfaste sur ses victimes. Ceux qui dirigent les efforts en matière de technologie et de formation devront veiller à ce que leur travail favorise l’équité et la justice sur le lieu de travail.