OpenAIle leader fr intelligence artificiellea introduit un outil révolutionnaire pour identifier les images créées par son générateur DALL-E AI. Cette avancée vient compléter les méthodes de filigrane nouvellement développées. Ces innovations marquent clairement le contenu généré par l'IA.
Nouvelles méthodes de suivi et de provenance
Selon un récent article du blog d'OpenAI, l'organisation a développé des méthodes inédites pour suivre l'origine du contenu. Un classificateur d'image basé sur l'IA est désormais capable de déterminer si une image provient de DALL-E 3.
De plus, un nouveau type de filigrane inviolable a été mis au point. Il est capable de marquer des contenus, tels que l'audio, avec des signaux invisibles à l'œil nu.
Fiabilité et précision du classificateur
Le classificateur peut prédire avec une précision de 98 % si une image a été générée par DALL-E 3. Cependant, il identifie seulement entre 5 à 10 % des images issues d'autres générateurs d'images IA comme À mi-parcours.
Cette différence de performances souligne l'efficacité spécifique du classificateur pour les produits d'OpenAI, même après des modifications telles que le recadrage, la compression ou la modification de la saturation.
Collaboration et normes de provenance
OpenAI n'est pas seul dans cette entreprise. En tant que membre de la Coalition de provenance et d'autorité du contenu (C2PA)aux côtés de géants technologiques tels que Microsoft et Adobe, OpenAI intègrent des informations d'identification dans les métadonnées des images.
Ces filigranes fournis des détails sur le propriétaire de l'image et la manière dont on l'a créée. Plus récemment, OpenAI a rejoint le comité de pilotage du C2PA. De ce fait, elle renforce son engagement envers des pratiques de transparence accumulées.
Innovation dans la synthèse vocale
Le développement ne s'arrête pas aux images. OpenAI a aussi commencé à appliquer des filigranes à Voice Engine, sa plateforme de synthèse vocale. Actuellement en aperçu limité, cette technologie pourrait également bénéficier des avancées en matière de détection et de filigranage.
Amélioration continue et appel à la collaboration
Le perfectionnement du classificateur d'images et du signal de filigrane audio est toujours en cours. OpenAI sollicite les retours des utilisateurs pour affiner l'efficacité de ces outils. En outre, l'organisation invite les chercheurs et les entreprises de journalisme à mais non lucratif, à tester le classificateur sur sa plateforme d'accès à la recherche.
Défis et progrès futurs
Malgré le succès de ces outils de détection d'image, OpenAI a connu des défis, notamment avec un programme de 2023 destiné à identifier le texte généré par l'IA. Malheureusement, sa faible précision a entraîné l'interruption de ce programme. Cela souligne l'importance des efforts continus dans le domaine de la détection du contenu généré par IA.
Ces initiatives d'OpenAI ne sont pas seulement des avancées technologiques. Elles représentent également une évolution cruciale dans la manière dont nous percevons et régulons le contenu généré par l'IA. En améliorant la transparence et la vérifiabilité, OpenAI ouvre la voie vers une utilisation plus responsable de l'intelligence artificielle dans la création de contenu.
- Partager l'article :
Notre blog est alimenté par les lecteurs. Lorsque vous achetez via des liens sur notre site, nous pouvons percevoir une commission d'affiliation.