Ni l'un ni l'autre Oui ! Neo ni Super Crazy Kids n'ont répondu à la demande de commentaires de WIRED.
Peu de limites
Oui! Neo, Super Crazy Kids et d'autres chaînes similaires partagent un look commun : elles présentent une animation 3D dans un style similaire à Cocomelon, la chaîne YouTube pour enfants la plus populaire aux États-Unis. (Dana Steiner, porte-parole de la société mère de Cocomelon, Moonbug, affirme qu'aucune de ses émissions n'utilise actuellement l'IA, « mais notre talentueuse équipe créative explore toujours de nouveaux outils et technologies. »)
Cette esthétique familière signifie qu'un parent occupé jetant un coup d'œil rapide à un écran pourrait confondre le contenu de l'IA avec un programme qu'il a approuvé. Et même s'il n'est pas particulièrement bien conçu, le contenu des vidéos diffusées par ces chaînes a tendance à être de mauvaise qualité, de la même manière qu'une grande partie des divertissements pour enfants créés par l'homme aujourd'hui sont de mauvaise qualité : frénétiques, bruyants et sans originalité.
YouTube est en train d'introduire de nouvelles politiques concernant le contenu généré par l'IA, même si la société ne cherche pas à le restreindre de manière significative. « YouTube va bientôt introduire des étiquettes de contenu et des exigences de divulgation pour les créateurs qui mettent en ligne du contenu contenant du matériel réaliste modifié ou synthétique, y compris du contenu destiné aux enfants et aux familles », a déclaré la porte-parole de YouTube, Elena Hernandez.
Lorsque WIRED a demandé si YouTube rechercherait de manière proactive le contenu généré par l'IA et le qualifierait comme tel, Hernandez a déclaré que plus de détails viendraient plus tard, mais qu'il prévoyait de s'appuyer principalement sur la divulgation volontaire. « Notre approche principale sera d'exiger des créateurs eux-mêmes qu'ils divulguent lorsqu'ils ont créé un contenu modifié ou synthétique qui est réaliste. » La société affirme utiliser une combinaison de filtres automatisés, d'examens humains et de commentaires des utilisateurs pour déterminer quel contenu est accessible dans le plus restreint Service YouTube Kids.
Certains craignent que YouTube et les parents du monde entier ne soient pas suffisamment préparés à la prochaine vague de contenus pour enfants générés par l'IA. Le neuroscientifique Erik Hoel a récemment regardé certains tutoriels sur la création de contenu pour enfants avec l'IA, ainsi que certaines vidéos qu'il soupçonnait d'avoir été réalisées à l'aide de cette technologie. Hoel était tellement perturbé par ce qu'il a vu qui s'est opposé au concept de son Substack, notamment en distinguant Super Crazy Kids. « Partout dans le pays, des tout-petits sont plongés devant des iPad, soumis à des écoulements synthétiques, privés de contact humain, même dans les médias qu'ils consomment », a-t-il déclaré. a écrit. « Il n'y a pas d'autre mot que dystopique. »
L'avertissement de Hoel rappelle le dernier grand scandale concernant le YouTube pour enfants, surnommé « Elsagate ». Il lancé en 2017 quand les gens ont commencé à remarquer vidéos surréalistes et dérangeantes destiné aux enfants sur la plate-forme, mettant souvent en vedette des personnages populaires comme Elsa de Disney's CongeléSpiderman et le héros porcin titulaire de Peppa Pig. Bien que le contenu généré par l'IA n'ait pas atteint un niveau similaire, ses créateurs semblent poursuivre un objectif similaire : attirer l'attention des recommandations automatisées de YouTube.
Père bébé créatif
Certaines chaînes vidéo IA plus obscures s’orientent déjà vers un territoire étrange. La chaîne Brain Nursey Egg TV, par exemple, donne à ses vidéos des noms troublants comme « Cars for Kids ». Bande-annonce de la diapositive avec les paroles. La description de la vidéo est une gigantesque chaîne de mots-clés, notamment « Disney Junior Elimi Birakma 24 Chima Sorozat BeamNG-Destruction ali babanın çiftliği şarkısı la brujita creative baby padre finger ».
La vidéo sans intrigue est un amalgame de visuels glitch comme des globes oculaires flottants et des blocs de couleurs fondants. La bande sonore présente des enfants applaudissant, une voix robotique comptant, des bébés individuels riant et différentes voix robotiques entonnant le mot « YouTube » à des intervalles apparemment aléatoires. « Cela a généré des voix partout et est soit alimenté par un script généré par l'IA, soit peut-être l'une des œuvres d'art vidéo surréaliste les plus grandes et les plus sous-estimées de mémoire récente », déclare Colman de Reality Defender. Quoi qu'il en soit, ce type de contenu n'a pas encore suscité beaucoup d'intérêt : certaines vidéos de la chaîne n'ont qu'une poignée de vues. Brain Nursery Egg TV ne fournit pas d'adresse e-mail ni aucun autre moyen de contacter les responsables de la chaîne.