OpenIA générative
OpenAI, la jeune pousse derrière les fameux outils d’intelligence artificielle (IA) ChatGPT et DALL-E, ouvre désormais son outil de détection d’images générées par des programmes d’IA aux chercheurs.
Avec l’essor de l’IA générative, la validation de contenus en ligne est devenue une priorité cruciale. Cette technologie permet de créer une multitude de contenus sur demande, y compris des images falsifiées de personnes ou des enregistrements audio frauduleux.
OpenAI a développé un programme spécifique pour détecter les images générées par DALL-E 3. D’après des tests internes sur une version antérieure de cet outil, il identifie correctement environ 98% des images générées par DALL-E 3, avec moins de 0,5% d’erreurs d’attribution à d’autres sources.
Cependant, la start-up, soutenue en grande partie par Microsoft, a noté que la performance de son programme diminue lorsque les images générées par DALL-E 3 sont altérées ou proviennent d’autres modèles.
OpenAI a également annoncé son intention d’ajouter des marques en filigrane aux images générées par l’IA pour se conformer aux normes de la Coalition for Content Provenance and Authenticity (C2PA). Cette coalition, initiée par l’industrie technologique, établit des standards techniques pour garantir la provenance et l’authenticité des contenus numériques.
Le mois dernier, Meta (Facebook, Instagram) a déclaré qu’il commencerait à étiqueter les contenus générés par l’IA selon les normes de la C2PA à partir de mai, suivi par Google, qui a également rejoint cette initiative.
