Lorsque la chercheuse en IA Melanie Mitchell a publié Intelligence artificielle : un guide pour les humains pensants en 2019, elle a entrepris de clarifier l'impact de l'IA. Quelques années plus tard, ChatGPT a déclenché un nouveau boom de l’IA, avec un effet secondaire qui l’a prise au dépourvu. Une imitation de son livre générée par l'IA est apparue sur Amazon, dans le but apparent de tirer profit de son travail. Cela ressemble à un autre exemple du géant du commerce électronique problème persistant avec une surabondance d’ebooks générés par l’IA de mauvaise qualité.
Mitchell a appris que la recherche de son livre sur Amazon avait fait apparaître non seulement son propre tome, mais également un autre ebook portant le même titre, publié en septembre dernier. Il ne faisait que 45 pages et répétait les idées de Mitchell dans un langage hésitant et maladroit. L’auteur répertorié, « Shumaila Majid », n’avait pas de biographie, de portrait ou de présence sur Internet, mais en cliquant sur ce nom, des dizaines de livres similaires résumaient les titres récemment publiés.
Mitchell a deviné que le livre électronique contrefait avait été généré par l’IA, et son intuition semble être correcte. WIRED a demandé à la startup de détection de deepfake Reality Defender d'analyser la version ersatz de Intelligence artificielle : un guide pour les humains pensants, et son logiciel a déclaré que le livre était probablement généré à 99 % par l'IA. « Cela m'a rendu fou », déclare Mitchell, professeur au Santa Fe Institute. « C'est tout simplement horrible de voir à quel point les gens se laissent convaincre d'acheter ces livres. »
Amazon a retiré l'imitation du livre de Mitchell après que WIRED a contacté la société. « Bien que nous autorisons le contenu généré par l'IA, nous n'autorisons pas le contenu généré par l'IA qui viole notre contenu Kindle Direct Publishing. des lignes directricesy compris du contenu qui crée une expérience client décevante », a déclaré la porte-parole d'Amazon, Ashley Vanicek.
Mais Mitchell est loin d’être le seul chercheur en IA apparemment ciblé et utilisant la même technologie sur laquelle il travaille. Fei-Fei Li, informaticien pionnierles nouveaux mémoires de Les mondes que je vois : curiosité, exploration et découverte à l’ère de l’IA Plus d'une douzaine de résumés différents apparaissent lorsque vous recherchez le livre sur Amazon.
Contrairement au décollage du livre de Mitchell, les résumés de celui de Li s'annoncent comme tels. L'un, carrément intitulé Résumé et analyse des mondes que je vois, a une description de produit qui commence : « AVIS DE NON-RESPONSABILITÉ !! CECI N'EST PAS UN LIVRE DE FEI-FEI LI, NI IL N'EST AFFILIÉ À EUX. C'EST UNE PUBLICATION INDÉPENDANTE QUI RÉSUMÉ LE LIVRE DE FEI-FEI LI EN DÉTAILS. C'EST UN RÉSUMÉ. Pourtant, ces livres semblent eux aussi être générés par l’IA et n’apportent que peu de valeur ajoutée aux lecteurs. Reality Defender a analysé un échantillon du Résumé et analyse livre et j’ai découvert qu’il était également probablement généré par l’IA. « Une réécriture complète et totale du texte. Par exemple, quelqu'un a demandé à un LLM de réécrire le texte, pas de le résumer », explique Scott Steinhardt, responsable du marketing de Reality Defender. « C'est comme une version KidzBop de la vraie chose. » Contactée pour commenter par e-mail, Li a distillé sa réaction en un seul emoji : 🤯.
Exécution sommaire
Les résumés de livres louches constituent un problème de longue date sur Amazon. En 2019, Le journal de Wall Street constaté que beaucoup a utilisé une couverture et un texte délibérément confus, irritant les écrivains, y compris l'entrepreneur Tim Ferriss. « Nous, avec certains éditeurs, essayons de les faire supprimer depuis un certain temps maintenant », a déclaré Mary Rasenberger, PDG de Authors Guild. L’essor de l’IA générative a dynamisé l’industrie des résumés de spam. « C'est le premier marché que nous nous attendions à voir inondé par l'IA », déclare Rasenberger. Elle affirme que ces programmes correspondent aux atouts de grands modèles de langage, qui sont passables dans la production de résumés du travail dont ils sont nourris et peuvent le faire rapidement. Les fruits de cette génération rapide sont désormais courants dans les recherches de titres de non-fiction populaires sur Amazon.
Les résumés générés par l’IA vendus sous forme de livres électroniques ont « considérablement augmenté en nombre, déclare Jane Friedman, experte du secteur de l’édition – qui a elle-même été la cible d’une enquête. différents schémas de livres générés par l'IA. Et ce malgré Amazon en septembre limiter les auteurs à télécharger un maximum de trois livres à son magasin chaque jour. « Il est courant à l'heure actuelle qu'un auteur de non-fiction célèbre le lancement de son livre, puis découvre quelques jours plus tard l'un de ces résumés en vente. »