Si l’IA offre des avancées remarquables et un potentiel de transformation, elle soulève également toute une série de préoccupations, notamment en ce qui concerne les préjugés. Le potentiel de préjudices représentatifs et de préjudices allocatifs apparaît comme des problèmes urgents qui nécessitent une attention particulière.
MassTLC a discuté avec Shanae Chapman, fondatrice, PDG et directrice générale de Diva ringarde, pour un aperçu des utilisations et des risques des outils d'IA et de la manière dont les entreprises peuvent créer des pratiques plus inclusives.
À quels types de tâches les outils d'IA comme ChatGPT, ChatSonic et Amazon CodeWhisperer sont-ils utiles ?
-
- Algorithmes de codage pour les applications sans failles de sécurité (examen requis)
- Rédaction destinée à un public général sans failles de sécurité (révision requise)
- Résumer le contenu général sans failles de sécurité (révision requise)
- Réfléchir à de nombreuses idées sans failles de sécurité (révision requise)
- Vérification des mots-clés et du référencement des sites Web et des applications
- Rédiger un brouillon pour votre CV ou votre lettre de motivation
- Découvrez comment d'autres personnes utilisent ChatGPT ici
Quels sont les risques liés à l’utilisation d’outils d’IA comme ChatGPT ?
-
- Biais dans l’IA
- Dommage allocatif dans le traitement du langage naturel
- Représentant en traitement du langage naturel
- Risques de sécurité
- Les données sensibles de l'entreprise sont collectées et partagées dans toute la base de données et ne sont pas cryptées.
- Vulnérabilités via les intégrations, les API, le partage de données sensibles sur des réseaux non sécurisés
- Manque de formation à la sécurité pour l'utilisation des outils d'IA
- Biais dans l’IA
Les entreprises peuvent-elles utiliser l’IA en tant que pseudo-utilisateurs pour tester des produits au lieu de faire des recherches avec des utilisateurs humains ?
Les données qualitatives ne peuvent pas être remplacées par l'IA et doivent être complétées par des utilisateurs cibles réels sur la base de critères établis par les PM, l'UX et l'ingénierie.
Comment les entreprises peuvent-elles partager au mieux les données de recherche et les recommandations de conception en interne pour influencer les décisions fondées sur les données ?
Il est important de connaître votre public. Certaines cultures organisationnelles sont plus ouvertes aux longs rapports tandis que d’autres préféreraient quelque chose de plus proche d’un résumé. J'ai commencé à faire en sorte que mes rapports ne dépassent pas 5 pages et j'ai fourni des liens vers les détails dans un document séparé pour une numérisation facile en partageant clairement les points saillants et les recommandations.
Que peuvent faire les entreprises pour créer des pratiques plus inclusives avec l’IA et d’autres technologies ?
Créez des directives inclusives pour le traitement du langage naturel, les guides de style, les portails de développement, la documentation et les systèmes de conception.
Ressources:
Mener des recherches inclusives pour évaluer et remédier aux préjugés dans l’IA et l’apprentissage automatique
Ressources:
Embaucher et retenir des talents diversifiés pour contribuer à une gouvernance et des normes inclusives
Ressources:
Membre de MassTLC, Diva ringardest une entreprise boutique appartenant à des femmes noires proposant une recherche, une conception, une formation technique et une stratégie de contenu de classe mondiale pour se développer et se développer en entreprises matures avec une excellente expérience utilisateur, une diversité et une inclusion stratégiques, et un investissement dans la croissance de leur communauté aux niveaux local et mondial. .
Lire la suite de Shanae dans la diva ringarde Archives du bulletin d'information