OpenAI indique que la mémoire de ChatGPT est activée par défaut, ce qui signifie qu'un utilisateur doit la désactiver activement. La mémoire peut être effacée à tout moment, soit dans les paramètres, soit en demandant simplement au robot de l'effacer. Une fois le paramètre Mémoire effacé, ces informations ne seront pas utilisées pour entraîner son modèle d'IA. On ne sait pas exactement quelle quantité de ces données personnelles est utilisée pour entraîner l'IA. alors que quelqu'un discute avec le chatbot. Et désactiver la mémoire ne signifie pas que vous avez totalement refusé que vos discussions entraînent le modèle d'OpenAI ; il s'agit d'un droit de non-participation distinct.
La société affirme également qu'elle ne stockera pas certaines informations sensibles en mémoire. Si vous indiquez à ChatGPT votre mot de passe (ne faites pas cela) ou votre numéro de sécurité sociale (ou ceci), la mémoire de l'application est heureusement oublieuse. Jang dit également qu'OpenAI sollicite toujours des commentaires pour savoir si d'autres informations personnelles identifiables, comme l'origine ethnique d'un utilisateur, sont trop sensibles pour que l'entreprise puisse les capturer automatiquement.
« Nous pensons qu'il existe de nombreux cas utiles pour cet exemple, mais pour l'instant, nous avons entraîné le modèle pour éviter de mémoriser ces informations de manière proactive », explique Jang.
Il est facile de voir comment la fonction Mémoire de ChatGPT pourrait mal tourner : dans des cas où un utilisateur aurait pu oublier qu'il avait interrogé le chatbot à propos d'un problème, d'une clinique d'avortement, ou d'une manière non violente de traiter avec une belle-mère, pour ensuite être surpris. je l'ai rappelé ou que d'autres personnes le voient dans une prochaine discussion. La manière dont la mémoire de ChatGPT gère les données de santé est également une question ouverte. « Nous évitons à ChatGPT de mémoriser certains détails de santé, mais cela reste un travail en cours », a déclaré Niko Felix, porte-parole d'OpenAI. De cette façon, ChatGPT est la même chanson, juste dans une nouvelle ère, sur la permanence d'Internet : regardez cette nouvelle fonctionnalité géniale de mémoire, jusqu'à ce que ce soit un bug.
OpenAI n’est pas non plus la première entité à jouer avec la mémoire dans l’IA générative. Google a mis l'accent sur la technologie « multi-tours » Gemini 1.0, son propre LLM. Cela signifie que vous pouvez interagir avec Gemini Pro à l'aide d'une invite à un seul tour (un aller-retour entre l'utilisateur et le chatbot) ou avoir une conversation continue à plusieurs tours dans laquelle le bot « se souvient » du contexte des messages précédents.
Une société de framework d'IA appelée LangChain a développé un module de mémoire qui aide les grands modèles de langage à rappeler les interactions précédentes entre un utilisateur final et le modèle. Donner aux LLM une mémoire à long terme « peut être très puissant pour créer des expériences LLM uniques : un chatbot peut commencer à adapter ses réponses à votre égard en tant qu'individu en fonction de ce qu'il sait de vous », explique Harrison Chase, cofondateur et PDG de LangChain. « Le manque de mémoire à long terme peut également créer une expérience grinçante. Personne ne veut avoir à répéter sans cesse à un chatbot de recommandation de restaurant qu’il est végétarien.
Cette technologie est parfois appelée « rétention de contexte » ou « contexte persistant » plutôt que « mémoire », mais l'objectif final est le même : que l'interaction homme-machine soit si fluide, si naturelle, que l'utilisateur puisse facilement l'oublier. ce dont le chatbot pourrait se souvenir. Il s’agit également d’une aubaine potentielle pour les entreprises qui déploient ces chatbots et qui souhaitent maintenir une relation continue avec le client à l’autre bout du fil.
« Vous pouvez les considérer comme un simple nombre de jetons ajoutés au début de vos conversations », explique Liam Fedus, chercheur scientifique chez OpenAI. « Le robot est doté d'une certaine intelligence et, en coulisses, il examine les souvenirs et dit : « Ils semblent liés ; » laissez-moi les fusionner. Et cela s’ajoute ensuite à votre budget symbolique.
Fedus et Jang disent que la mémoire de ChatGPT est loin d'atteindre la capacité du cerveau humain. Et pourtant, presque dans le même souffle, Fedus explique qu'avec la mémoire de ChatGPT, vous êtes limité à « quelques milliers de jetons ». Si seulement.
S'agit-il de l'assistant virtuel hypervigilant promis aux consommateurs de technologie au cours de la dernière décennie, ou simplement d'un autre système de capture de données qui utilise vos goûts, vos préférences et vos données personnelles pour mieux servir une entreprise technologique que ses utilisateurs ? Peut-être les deux, même si OpenAI ne le dit pas ainsi. « Je pense que les assistants du passé n'avaient tout simplement pas l'intelligence », a déclaré Fedus, « et maintenant nous y arrivons. »
Will Knight a contribué à cette histoire.
