En ce 3 mai, journée mondiale de la liberté de la presse, nous consacrons notre newsletter à la lutte contre la désinformation et plus précisément aux deepfakes.
Prouesse technologique ou danger ? Les deux mon capitaine ? Les deepfakes divisent. Deepkafe est la contraction de “deep” pour “deep learning”, une méthode d’apprentissage automatisée des machines qui utilise des intelligences artificielles (IA) et de “fake”, soit la traduction de faux en français. Un deepfake, c’est une vidéo manipulée à l’aide de mécanismes d’intelligence artificielle. Le résultat : une vidéo tellement bien truquée qu’il est impossible de distinguer le vrai du faux. Avec les deepfakes, il est possible de faire dire ou faire faire n’importe quoi à n’importe qui. C’est ainsi que vous voyez Emma Watson en actrice porno, Barack Obama insulter Donald Trump (il s’agissait alors d’une vidéo de prévention contre les deepfakes) ou Marc Zuckerberg annonçant son intention de contrôler l’humanité.
Manipulation politique, extorsion (au Mexique, des personnes contactées sur les réseaux sociaux devaient payer pour empêcher la divulgation de fausses vidéos d’elles nues ou de leurs supposés ébats sexuels ne soient divulguées) ou atteinte à l’intégrité physique et morale d’une personne par pure vengeance sont autant d’applications potentielles des deepfakes. Dans une ère de post vérité, les deepfakes sont un nouvel outil de désinformation que des État, partis ou des officines privées peuvent être tentés d’utiliser.
Comment fait-on un deepfake ?
Plusieurs techniques sont utilisées pour réaliser un deepfake. La plus commune est le face swap. Il s’agit de mixer le corps d’une personne avec le visage d’une autre. Par exemple, le corps d’une actrice porno avec le visage d’Emma Watson. Pas besoin de compétence particulière pour en faire usage. C’est cette technique qui est utilisée sur Facebook et Snapchat, via des filtres proposés.
Plus dur à maîtriser, la deuxième méthode est le face to face. Sur une vidéo, vous avez alors le visage de la personne ciblée, et la bouche d’un imitateur greffée dessus. C’est la technique utilisée dans la vidéo (consentie) de Barack Obama, ou dans celle (non consentie) de Nancy Pelosi, une femme politique américaine démocrate. Sa voix est transformée, et sonne comme si elle était saoule. Et devinez quoi ? Des proches de Donald Trump se sont fait le plaisir de relayer cette vidéo devenue virale.
Enfin, le lip sync, consiste à transformer seulement la partie du visage qui comprend les lèvres et ses alentours. Comme dans la vidéo de Marc Zuckerberg. L’image était parfaite, la voix non. C’est ainsi que la supercherie a pris fin.
Comment reconnaître un deepfake ?
Pour s’en prémunir, sachez déjà que si vous êtes la victime de la vidéo, vous pouvez la signaler auprès de la police et de la gendarmerie. Pensez aussi à la plateforme Pharos, dédiée au signalement des contenus et comportements malveillants en ligne.
Pour ne pas tomber dans le panneau, des moyens sont à votre disposition. Le premier est – comme dans toute entreprise de vérification d’information – le sens critique. Ainsi il est possible de déceler à l’œil nu des indices sur la véracité d’une vidéo :
- un visage qui aurait une échelle incohérente
- des différences de tons de peau, d’éclairage, ou de résolution entre le corps et le visage.
- des battements de paupière étranges ou absents
- des mouvements de bouche saccadés ou robotiques
Il existe des outils techniques qui vous permettent d’aller plus loin dans l’analyse. Certains se penchent sur les métadonnées, d’autres sur des éléments difficilement repérables comme l’absence de battements cardiaques ou d’afflux sanguins :
- Microsoft a mis au point la Video Authentificator en 2019, à l’approche de l’élection présidentielle américaine.
- Il existe aussi des outils libres et open source que vous pouvez installer vous même si vous êtes un peu geek tels que Resemblyzer ou Deepstar
Au delà de ça, les deepfakes ne dérogent pas aux règles que l’on doit appliquer pour vérifier tout type d’information : les fameux 5 W chers aux journalistes : what, when, who, where, why (quoi, quand, qui, où, pourquoi). L’ONG Firstdraftnews, spécialisée dans la lutte contre la désinformation, a publié une grille méthodologique de vérification des vidéos :
Les deepfakes ont beau être un objet technique nouveau, elles ne sont jamais qu’une nouvelle forme de désinformation. Et la méthode de vérification de l’information est toujours la même !
Précédemment dans Nothing2Hide
Nothing2Hide est désormais membre du CiviCERT (Computer Incident Response Center for Civil Society). Le Civicert est un réseau d’acteurs de la sécurité informatique qui s’est fixé pour mission d’optimiser le soutien que chacun des membres de cette organisation peut apporter à la société civile, journalistes, militants et acteurs associatifs. Nous sommes ravis de pouvoir contribuer à cette mission aux côtés entre autres d’Amnesty International, Internews, EFF, OCCRP et Frontline defenders !
À venir dans Nothing2Hide
Les 10, 11 et 12 mai prochain, nous participerons au Stockholm Internet Forum (SIF). Le SIF est un événement hébergé par l’Agence suédoise de coopération internationale au développement (Sida). Ce forum a pour objectif de favoriser les échanges autour d’un projet : créer et préserver un Internet libre, ouvert et sécurisé. Nous sommes ravis de pouvoir contribuer aux discussions et de pouvoir ramener notre grain de sable.
Revue de presse
- Les Echos Entrepreneurs nous en disent plus sur les dark datas, ces données inexploitées par les entreprises.
- En Belgique, la banque de données générales de la police (BNG) a collecté pendant des années des millions de données sans cadre précis. Le média indépendant Medor a mené l’enquête (participative).
- Jean Marc, cofondateur de N2H, témoigne dans Vice Magazine : « Aujourd’hui, ne pas aller sur Google est un choix politique et idéologique. Il faut être un peu militant ».
- Des printemps arabes aux formations à la sécurité numérique, Jean-Marc, encore lui, raconte dans Médiapart les origines de Nothing2Hide.
- L’ONG Pen America lance une campagne contre le harcèlement en ligne et publie un rapportproposant une quinzaine de pistes aux plateformes de réseaux sociaux pour mieux lutter contre le cyberharcèlement des journalistes (co-écrit par Elodie Vialle, ancienne collègue de RSF, Elodie, si tu nous lis, bravo !).
- Snowflake est une extension pour navigateurs chrome et firefox qui vous permet de transformer votre navigateur web en passerelle d’entrée au réseau Tor. C’est un moyen simple d’aider à contourner la censure à l’aide du réseau Tor.
- Vous en avez marre d’être pistés par les prédateurs de données que sont Google, Facebook, Criteo, Quantcast, Tapad et consors ? Il est temps de contre attaquer. Une fois installée dans votre navigateur préféré, l’extension ad nauseam envoie des requêtes aléatoires sur toutes les publicités identifiées d’une page afin de pourrir les données des régies publicitaires.
À propos de Nothing2Hide
Nothing2Hide (N2H) est une association qui s’est donnée comme objectif de fournir aux journalistes, avocats, militants des droits humains et “simples” citoyens les moyens de protéger leurs données et leurs communications, en leur apportant des solutions techniques et des formations adaptées à chaque contexte. Notre vision est de mettre la technologie au service de la diffusion et de la protection de l’information afin de renforcer les démocraties partout dans le monde.
Vous avez envie d’agir ?
Soutenez-nous ! Parce que la protection de l’information et de la vie privée sont des éléments essentiels pour garantir la liberté d’expression, soutenez les actions de Nothing2Hide en donnant 10€ ou plus par mois (seulement 3,40€ après déduction fiscale).