OpenAI propose aux utilisateurs la possibilité de créer des chatbots personnalisés. Cependant, la start-up impose certaines limites et contrôle étroitement les utilisations de sa technologie afin de préserver son image et d'éviter des problèmes. Elle vient notamment de bannir Dean.Bot, un chatbot imitant un candidat à l'élection présidentielle américaine.
Un ChatGPT problématique problématique
Le cours à la Maison-Blanche est lancé. Parmi les candidats à la primaire démocrate figure Dean Phillips, le challenger de Joe Biden. Pour soutenir sa campagne, deux entrepreneurs, Jed Somers et Matt Krisiloff, issus du comité d'action politique « We Deserve Betteer » ont fait appel à la start-up IA Delphi. Celle-ci a développé un chatbot IA baptisé Dean.Bot qui imite la voix de Dean Phillips. L'IA est basé sur le LLM d'OpenAI et fonctionne de la même manière que ChatGPT.
Dean.Bot n'est pas resté en ligne longtemps. OpenAI l'a supprimé en urgence. L'entreprise craint en effet que des personnes malintentionnées détournent de telles IA pour diffuseur de fausses informations et manipuler les électeurs. Par exemple, elles pourraient les utiliser pour passer de faux appels téléphoniques imitant la voix d'un candidat. Ce qui pourrait induire les électeurs en erreur et perturber les élections
Pour éviter ces dérives, OpenAI a donc pris la décision forte d'interdire tous les chatbots imitant des personnes réelles ou des organisations. C'est un premier pas concret dans la lutte de l'entreprise contre la désinformation.
OpenAI suspend le compte des développeurs
OpenAI n'a pas seulement supprimé le chatbot Dean.Bot. L'entreprise de Sam Altman a également suspendu le compte des développeurs de la start-up Delphi qui l'ont créé. Cette suspension s'inscrit dans le cadre de la politique établi par OpenAI pour encadrer strictement les utilisations de son IA dans le domaine politique.
« Quiconque utilise nos outils doit respecter notre règlement, qui interdit leur usage dans les campagnes politiques », a annoncé une porte-parole de la start-up américaine.
De leur côté, les créateurs chatbot regrettent la décision d'OpenAI. Selon eux, cette IA conversationnelle ne représentait aucune menace et servait même un objectif positif. Leur mais était de permettre aux citoyens de mieux connaître le candidat Dean Phillips et son programme électoral de façon ludique et interactive.
Par ailleurs, les développeurs ont pris le soin de préciser aux utilisateurs, dès leurs premiers échanges avec le chatbot que Dean.Bot n'était pas le véritable Dean Phillips et les informations données peuvent être erronées. Cependant, OpenAI a considéré que, malgré ces avertissements, les risques étaient trop élevés. La société a ainsi préféré jouer la carte de la prudence.
Notons que les chatbots politiques ne sont pas les seules IA bannies par OpenAI. La société californienne interdite aussi les GPTs romantiques faisant office de petites amies IA. OpenAI s'efforce ainsi d'établir un équilibre entre innovation et responsabilité, et n'hésite pas à bannir les IA qui ne sont pas conformes aux règles établies.
