Les fakenews ne sont pas une révolution. Elles ont toujours existé. Ce qui a changé avec l’arrivée d’Internet, du web et surtout des réseaux sociaux c’est leur vitesse de propagation. Avec l’arrivée des outils grand publics d’IA générative, on a franchi un nouveau cap : la création de contenus, texte, images, et vidéos, avec des résultats impressionnants, n’a jamais été aussi facile. Cette innovation technologique a largement altéré notre rapport à l’information et à sa fiabilité.
Comme dans la silicon vallée on n’est pas à un paradoxe près, dans la plus pure tradition du solutionnisme technique (en gros, il suffit d’une application pour régler un problème), les entrepreneurs de la tech ont lancé des applications censées détecter les contenus générés par IA. « On est sauvés » se sont dits les factcheckers du monde entier. Sauf que pas du tout. Il n’existe pas d’outil magique pour identifier des contenus générés par IA. Pour preuve, on en a testé quelques uns. Verdict : médiocres.
Dans la vidéo ci-dessous, nous demandons à l’outil de Hive Moderation d’identifier des images créées par IA via le site this-person-does-not-exist.com. Résultat : l’outil indique que la photo que nous avons générée a 6,5% de chance d’être un contenu généré par IA.
Ce n’était un coup de pas de chance ou un concours de circonstances puisque après avoir réitéré l’opération plusieurs fois, le score pour des images issues de this-person-does-not-exist.com n’a jamais dépassé les 9%.
Alors comment reconnaître des images ou vidéos générées par IA ? Se fier à son intuition ? Attendre l’outil magique qui viendra peut-être un jour ? Espérer que tous les outils d’IA générative respecteront la toute récente norme C2PA et inséreront des métadonnées indiquant explicitement si un contenu a été généré par IA ?
Dans l’immédiat rien de tout ça. Le meilleur outil de détection reste la vieille méthode académique d’analyse des 5W (What, Who, Where, When, Why) bien connue des journalistes et très bien décrite dans le guide d’analyse visuelle de FirstDraftNews :
- Est-ce que vous disposez de la version ORIGINALE ?
- Savez-vous QUI a pris cette photo ?
- Savez-vous OÙ cette photo a été prise ?
- Savez-vous QUAND cette photo a été prise ?
- Savez-vous POURQUOI cette photo a été prise ?
Côté technique, apprendre à lire les métadonnées d’une image peut aussi aider, sans pour autant garantir à 100% un résultat fiable. En effet, tout fichier informatique comprend des informations descriptives appelées “métadonnées”. Elles sont présentes dans les fichiers : pdf, jpg, png, docx, odt, etc. Les formats image tels que TIFF ou JPEG sont parmi les plus bavards. Le métadonnées de ces fichiers peuvent contenirla date, l’heure, la marque, le numéro de série de l’appareil voire les données GPS du lieu de prise de vue d’une photo.
Là où ça nous aide c’est que les photos générées par IA ne contiennent pas de méta données Exif. Mieux, une nouvelle norme destinée à identifier les contenus générés par IA est en train de s’imposer : le Coalition for Content Provenance and Authenticity (C2PA). Cette norme fonctionne en intégrant une métadonnée indiquant si tout ou partie d’une image a été crée à l’aide d’un outil d’IA générative. Problème : tous les éditeurs de service d’IA ne respectent pas cette norme, Midjourney entre autres pour ne citer que ce service.
Et pour compliquer la chose, il est facile de modifier ou effacer les métadonnées. Heureusement les créateurs de la norme C2PA ont été malin c’est que cette métadonnée est très difficilement falsifiable puisqu’elle est signée cryptographiquement à l’aide d’une clé publique.
En résumé :
- Si une image contient des données exif, ce n’est probablement pas une image générée par IA.
- Si une image contient des métadonnées C2PA, c’est forcément une image générée par IA.
- Si une image ne contient pas de métadonnées C2PA, cela ne signifie pas pour autant qu’elle a été générée par IA, car si les méta données C2PA ne peuvent être modifiées, elles peuvent être facilement effacées.
Si vous voulez avoir plus de conseils sur l’analyse d’images et de vidéos, consultez notre support de formation OSINT Analyse d’images et de vidéos, on vient juste de le mettre à jour !