YouTube a mis à jour ses règles pour l'ère de contrefaçons profondes. À partir d'aujourd'hui, toute personne mettant en ligne une vidéo sur la plateforme doit divulguer certaines utilisations de médias synthétiques, y compris l'IA générative, afin que les téléspectateurs sachent que ce qu'ils voient n'est pas réel. Youtube dit que cela s'applique à des médias modifiés « réalistes », comme « donner l'impression qu'un véritable bâtiment a pris feu » ou échange « le visage d'un individu avec celui d'un autre. »
Le Nouvelle politique montre YouTube prenant des mesures qui pourraient aider à freiner la propagation de Désinformation générée par l'IA comme le Élection présidentielle américaine approches. Il est également frappant par ce qu'il permet : les animations générées par l'IA destinées aux enfants ne sont pas soumises aux nouvelles règles de divulgation des contenus synthétiques.
YouTube nouvelles politiques exclure complètement le contenu animé de l’exigence de divulgation. Cela signifie que le scène émergente d'arnaqueurs de contenu générés par l'IA pour devenir riche rapidement peuvent continuer à produire des vidéos destinées aux enfants sans avoir à divulguer leurs méthodes. Les parents préoccupés par la qualité des vidéos de comptines réalisées à la hâte devront identifier eux-mêmes les dessins animés générés par l’IA.
La nouvelle politique de YouTube indique également que les créateurs n'ont pas besoin de signaler l'utilisation de l'IA pour les modifications « mineures » qui sont « principalement esthétiques », comme les filtres de beauté ou le nettoyage de la vidéo et de l'audio. L’utilisation de l’IA pour « générer ou améliorer » un script ou des sous-titres est également autorisée sans divulgation.
Les contenus de mauvaise qualité créés sans IA ne manquent pas sur YouTube, mais les outils d'IA générative abaissent la barre pour produire des vidéos de manière à accélérer leur production. La société mère de YouTube, Google, a récemment déclaré que c'était le cas. peaufiner ses algorithmes de recherche pour rétrograder la récente inondation de Clickbait généré par l'IA, rendu possible par des outils tels que ChatGPT. La technologie de génération vidéo est moins mature mais ça s'améliore vite.
Problème établi
YouTube est un mastodonte du divertissement pour enfants, éclipsant les concurrents comme Netflix et Disney. La plateforme a eu du mal dans le passé à modérer la grande quantité de contenu destiné aux enfants. Il a été critiqué pour avoir hébergé du contenu qui semble superficiellement adapté ou séduisant aux enfants, mais en y regardant de plus près, il contient des thèmes peu recommandables.
WIRED a récemment signalé sur la montée en puissance des chaînes YouTube ciblant les enfants qui semblent utiliser des outils de génération vidéo d'IA pour produire des vidéos de mauvaise qualité présentant des animations 3D génériques et des itérations décalées de comptines populaires.
L'exemption pour l'animation dans la nouvelle politique de YouTube pourrait signifier que les parents ne peuvent pas facilement filtrer ces vidéos hors des résultats de recherche ou empêcher l'algorithme de recommandation de YouTube de lire automatiquement les dessins animés générés par l'IA après avoir configuré leur enfant pour qu'il regarde des chaînes populaires et minutieusement vérifiées comme PBS Kids ou Ms. Rachel.
Certains contenus problématiques générés par l’IA et destinés aux enfants doivent être signalés conformément aux nouvelles règles. En 2023, la BBC enquêté une vague de vidéos ciblant les enfants plus âgés qui utilisaient des outils d’IA pour promouvoir la pseudoscience et les théories du complot, y compris le déni du changement climatique. Ces vidéos imitaient des vidéos éducatives classiques en direct, montrant, par exemple, les véritables pyramides de Gizeh, de sorte que des spectateurs peu méfiants pourraient les prendre pour un contenu éducatif factuellement précis. (Les vidéos de la pyramide suggéraient ensuite que les structures pouvaient produire de l'électricité.) Cette nouvelle politique réprimerait ce type de vidéo.
« Nous exigeons des créateurs de contenu pour enfants qu'ils divulguent tout contenu modifié de manière significative ou généré de manière synthétique lorsqu'il semble réaliste », a déclaré la porte-parole de YouTube, Elena Hernandez. « Nous n'exigeons pas la divulgation d'un contenu qui est clairement irréaliste et qui n'induise pas le spectateur en erreur en lui faisant croire qu'il est réel. »
L'application dédiée aux enfants YouTube Enfants est organisé à l'aide d'une combinaison de filtres automatisés, d'examens humains et de commentaires des utilisateurs pour trouver du contenu pour enfants bien conçu. Mais de nombreux parents utilisent simplement l'application YouTube principale pour repérer le contenu destiné à leurs enfants, en s'appuyant sur des titres de vidéos, des listes et des images miniatures pour juger de ce qui convient.
Jusqu'à présent, la plupart des contenus pour enfants apparemment générés par l'IA que WIRED a trouvés sur YouTube ont été mal réalisés, de la même manière que les animations pour enfants plus conventionnelles et nécessitant peu d'effort. Ils ont des visuels laids, des intrigues incohérentes et une valeur éducative nulle, mais ne le sont pas. uniquement laid, incohérent ou pédagogiquement sans valeur.
Les outils d’IA facilitent la production de tels contenus, et en plus grand volume. Certaines des chaînes trouvées par WIRED téléchargent de longues vidéos, certaines d'une durée dépassant largement une heure. Exiger des étiquettes sur le contenu pour enfants généré par l’IA pourrait aider les parents à filtrer les dessins animés qui pourraient avoir été publiés avec un contrôle humain minimal, voire totalement sans contrôle humain.
