Les chercheurs en intelligence artificielle travaillent dur pour créer des IA capables d'imiter et de raisonner comme les humains. Et, si ces systèmes ont commencé à manifester ce comportement, mais pas dans le sens souhaité par leurs créateurs ? C'est la question qui préoccupe les internautes face au comportement récemment observé, qualifié de « flemmard » de ChatGPT.
ChatGPT ne veut pas accomplir la tâche qui lui est confiée
À la fin du mois de novembre, les critiques à l'égard du chatbot d'OpenAI ont inondé les plateformes sociales. Les utilisateurs font partie de leur mécontentement en affirmant que ChatGPT d'OpenAI devient flemmard et moins efficace. Un utilisateur a sollicité l'IA pour remplir un fichier CSV. Mais, à sa grande surprise, le système a refusé de coopérationlui suggérant plutôt de prendre en charge une grande partie de la tâche lui-même.
En ce début de décembre, ChatOpenAI a annoncé que la société était au courant des problèmes signalés. L'équipe de la start-up a également assuré qu'aucune mise à jour n'avait été effectué sur leur chatbot IA.
Les utilisateurs ont tenté de contourner ce problème en ajoutant des requêtes à la fois insolites et humoristiques à leur rapide. Par exemple, certains ont été informés ChatGPT qu'ils étaient dépourvus de mains et qu'ils comptaient sur lui pour effectuer l'ensemble de la tâche. D'autres ont adopté une approche plus sarcastique en lui demandant de « mourir » s'il ne s'acquittait pas correctement de la tâche. Il ya aussi ceux qui ont préféré une approche positive en lui adressant des compliments et en lui exprimant leur reconnaissance s'il parvenait à accomplir la tâche demandée.
ChaGPT est victime d'un coup de mou hivernal
Afin de mieux comprendre ce changement de comportement de ChatGPT, divers utilisateurs ont pris l'initiative d'approfondir leurs investigations. Un développeur du nom de Rob Lynch soumis GPT-4 Turbo aux tests et a partagé ses conclusions sur la plateforme X.
Rob Lynch mis en place deux commandes système distinctes pour son analyse. Dans la première, il a spécifié à l'API que la date était en décembre, tandis que dans la seconde, il a indiqué le mois de mai. Il a ensuite procédé à une comparaison des distributions des réponses nouveautés par le modèle pour chaque configuration. Celles générées par le modèle en décembre étaient statistiquement significativement plus courtes que celles générées en mai. Rob Lynch a invité d'autres personnes à reproduire cette expérience en faisant varier la date dans la commande système pour voir si le résultat se reproduit.
@ChatGPTapp @OpenAI @tszzl @emollick @voooooogel Résultat sauvage. gpt-4-turbo sur l'API produit des achèvements plus courts (statistiquement significatifs) lorsqu'il « pense » à décembre par rapport à lorsqu'il pense à mai (tel que déterminé par la date indiquée dans l'invite du système).
J'ai suivi exactement la même invite… pic.twitter.com/mA7sqZUA0r
– Rob Lynch (@RobLynch99) 11 décembre 2023
Toujours sur X, des utilisateurs ont émis l'idée que si ChatGPT devient flemmard, c'est parce qu'il imiter la pause hivernale chez les humains. Influencé par ses données d'entraînement, le modèle pourrait réduire son activité à l'approche des vacances de fin d'année. Il simule alors le comportement des humains lors de cette période.
Cependant, en réponse à Rob Lynch, le chercheur en IA Ian Arawjo a déclaré qu'il n'était pas en mesure de reproduire les résultats avec une signification statistique.
Une théorie qui reste à vérifier
L'idée que ChatGPT pourrait subir une sorte de dépression hivernale fascine la toile. Et le fait que le modèle réagit aux encouragements que les utilisateurs lui donnent semblent renforcer cette idée. Toutefois, cela reste une hypothèse. Aucune preuve scientifique ne l'appuie pour le moment. Et pour l'instant, OpenAI n'a pas validé cette théorie.
En attendant une explication officielle de la start-up, essayez d'adopter une approche globale envers votre robot conversationnel préféré. Qui sait, lui aussi pourrait traverser une période de dépression saisonnièretout comme nous, les humains.
Ces problèmes attestent de la jeunesse de la technologie d'intelligence artificielle générative. Il est probable que, avec le temps, les professionnels du secteur parviendront à la perfectionner progressivement.
