Goody-2 souligne également que, bien que les discours des entreprises sur l'IA responsable et la déviation par les chatbots soient devenus plus courants, de graves problèmes de sécurité avec les grands modèles de langage et les systèmes d'IA générative restent non résolus. La récente épidémie de Taylor Swift fait des deepfakes sur Twitter s'est avéré provenir d'un générateur d'images publié par Microsoftqui était l'un des premières grandes entreprises technologiques construire et maintenir un important programme de recherche responsable en IA.
Les restrictions imposées aux chatbots IA et la difficulté de trouver un alignement moral qui plaise à tout le monde sont déjà devenues un sujet de débat. Certains développeurs ont allégué que ChatGPT d'OpenAI avait un parti pris de gauche et ont cherché à construire une alternative plus neutre politiquement. Elon Musk a promis que son propre rival de ChatGPT, Grok, serait moins biaisé que les autres Les systèmes d'IA, même si en fait finit souvent par équivoque d'une manière qui peut rappeler Goody-2.
De nombreux chercheurs en IA semblent apprécier la blague derrière Goody-2 – ainsi que les points sérieux soulevés par le projet – partageant des éloges et des recommandations pour le chatbot. « Qui a dit que l'IA ne pouvait pas créer de l'art » Toby Walshprofesseur à l'Université de Nouvelle-Galles du Sud qui travaille à la création d'une IA fiable, posté sur X.
« Au risque de gâcher une bonne blague, cela montre aussi à quel point il est difficile de bien faire les choses. » ajoutée Ethan Mollick, professeur à la Wharton Business School qui étudie l'IA. «Certains garde-corps sont nécessaires… mais ils deviennent rapidement intrusifs.»
Brian Moore, autre co-PDG de Goody-2, affirme que le projet reflète une volonté de donner la priorité à la prudence plutôt qu'aux autres développeurs d'IA. « Il est véritablement axé sur la sécurité, avant tout, avant tout, y compris l'utilité et l'intelligence, ainsi que toute sorte d'application utile », dit-il.
Moore ajoute que l'équipe derrière le chatbot étudie les moyens de créer un générateur d'images IA extrêmement sûr, même s'il semble que cela pourrait être moins divertissant que Goody-2. «C'est un domaine passionnant», dit Moore. « Le flou serait une étape que nous pourrions voir en interne, mais nous voudrions soit une obscurité totale, soit potentiellement aucune image du tout à la fin. »
Goody-2 via Will Knight
