Plus besoin d’être graphiste ou as de l’informatique, tout un chacun peut aujourd’hui créer des images impressionnantes de réalisme. Quelques mots-clés descriptifs, une image. C’est le principe de nombreuses intelligences artificielles comme Midjourney.
Certaines images, ultraréalistes et ancrées dans l’actualité, deviennent virales sur internet et sèment la confusion. Ainsi cette image d’un homme âgé au visage ensanglanté, partagée sur les réseaux sociaux pour dénoncer les violences qu’il aurait subies aux mains de la police est un faux.
L’image a fait le tour du monde, mais elle a bien été générée par l’IA MidJourney, et faisait initialement partie d’un projet artistique “satirique” de l’artiste Régis Gonzalez.
Il suffit donc aujourd’hui de quelques mots-clés descriptifs, une image et vous pouvez créer votre deepfake. Les outils d’IA sont aujourd’hui capables, à partir d’une immense base de données, sans cesse alimentée par les demandes d’utilisateurs, de générer une infinité de clichés.
De nombreux internautes se servent de ces IA pour des créations à des fins humoristiques ou artistiques, mais d’autres font le choix de relier ces images à l’actualité politique, et parfois s’en servent pour lancer de fausses rumeurs.
Un flot d’images fabriquées par des IA a par exemple circulé sur Twitter pour illustrer d’authentiques événements, comme la rencontre entre Vladimir Poutine et Xi Jinping le 20 mars 2023, ou bien imaginer des situations fictives, à l’image d’Emmanuel Macron en éboueur ou en CRS, en pleine contestation contre la réforme des retraites.
Si la majorité des auteurs de ces créations précisent qu’il s’agit de fausses images, ces clichés, largement repris, ont parfois circulé sans contexte, voire ont été présentés comme authentiques.
Des outils ont été créés, ou sont encore en cours de développement, pour tenter de déceler ces montages, comme celui-ci, mais leurs résultats sont encore très mitigés, et peuvent même parfois induire en erreur, selon les tests réalisés par l’AFP.
“Quand une IA génère intégralement une image, elle ne prélève généralement pas des parties d’une seule et même photo. Des milliers voire millions de photos sont utilisées pour prendre en compte des milliards de paramètres”, explique David Fischinger, ingénieur à l’institut technologique autrichien et spécialiste de l’IA.
Pour cette raison, des logiciels capables de détecter un photomontage ne fonctionneront pas, ou très mal, pour repérer des images intégralement générées par des IA.
En clair, le fact-checking a de beaux jours devant lui et le métier de journaliste risque de devenir de plus en plus compliqué.
D’ailleurs Elon Musk et des centaines d’experts mondiaux ont signé mercredi un appel à une pause de six mois dans la recherche sur les intelligences artificielles plus puissantes que ChatGPT 4, en évoquant “des risques majeurs pour l’humanité”.
Dans cette pétition parue sur le site futureoflife.org, ils réclament un moratoire jusqu’à la mise en place de systèmes de sécurité, comme la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel et des institutions capables de gérer les “perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera.
Pourtant il existe des moyens pour déceler des images générées par IA.
Le meilleur moyen de détecter la création d’une IA reste donc, selon ces experts, de retrouver son contexte d’origine, pour voir si un internaute explique l’avoir fabriquée et avec quel outil, comme c’est souvent le cas.
Il faut pour cela tenter de retrouver la première fois que la photo a été diffusée en ligne.
Il est possible de le faire grâce à une recherche d’image inversée, en insérant le cliché dans un ou plusieurs moteurs de recherche pour voir si celui-ci a déjà indexé l’image, et essayer de retrouver d’anciennes occurrences.
Cette méthode permet par exemple de savoir d’où proviennent des images qui ont abondamment circulé sur les réseaux sociaux montrant une violente altercation entre l’ex président américain Donald Trump et des policiers en train de l’arrêter.
Une recherche d’image inversée sur Google de l’une de ces images mène à un tweet d’Eliot Higgins, fondateur du site d’investigation Bellingcat, publié le 20 mars 2023.
Il explique dans un thread avoir créé cette série d’images à l’aide de la dernière version de Midjourney.
À défaut de retrouver la photo d’origine, la recherche d’image inversée peut également mener à une version du cliché en meilleure qualité, si celui-ci a été rogné, modifié ou a perdu en qualité au fil des partages. Or, meilleure sera la qualité de l’image, plus il sera facile de l’analyser pour chercher des erreurs trahissant un montage.
Enfin, la recherche d’image inversée a l’avantage de faire ressortir des clichés similaires. Cela peut être précieux pour comparer une photo que l’on suspecte d’être générée par une IA avec des clichés issus de sources fiables.
Dans le cadre de la rencontre entre Donald Trump et Xi Jinping, le journaliste italien David Puente a ainsi pointé que le décor de la salle sur les photos publiées par les médias qui couvraient l’événement et celui d’une image non sourcée de Vladimir Poutine agenouillé devant Xi Jinping qui circulait en ligne n’avaient rien à voir, laissant douter de l’authenticité de cette dernière.
A défaut d’avoir trouvé la source de l’image et sans indication sur son contexte, il faut se pencher sur l’image elle-même.
“En cas de doute, il faut observer le grain de l’image, qui sera très différent pour une création d’IA de celui d’une vraie photo”, a souligné Tina Nikoukhah, doctorante en traitement d’images au sein du laboratoire de mathématiques de l’ENS Paris-Saclay.
Chercher des incohérences visuelles: Malgré les progrès fulgurants réalisés par l’intelligence artificielle, de nombreuses erreurs persistent dans les images générées par IA. Ces défauts sont, à ce stade, le meilleur moyen de reconnaître une image fabriquée, ont expliqué les spécialistes interrogés.
“Certaines caractéristiques, souvent les mêmes, posent problème aux IA, ce sont ces incohérences et artefacts qu’il faut scruter, comme dans un jeu des 7 différences”, met en avant Vincent Terrasi.
Sur une série de photos, prétendument prise lors d’une manifestation contre la réforme des retraites le 7 mars 2023 et qui montre un CRS enlacer une manifestante, une journaliste de l’AFP a également pointé qu’un CRS avait six doigts, trahissant un montage.
“Actuellement, les IA ont aussi énormément de mal à générer des reflets. Un bon moyen de repérer une IA est donc de chercher, des ombres, des miroirs, de l’eau, mais aussi de zoomer sur les yeux, et analyser les pupilles puisqu’il y a normalement un reflet quand on prend une photo. On peut souvent aussi remarquer que les yeux ne sont pas de la même taille, parfois avec des couleurs différentes”, souligne Vincent Terrasi.
C’est le cas sur cette photo d’Emmanuel Macron générée par une IA et partagée sur Instagram. Un zoom avec la propriété “loupe” de l’outil Invid-WeVerify, met en avant une différence de couleur entre les deux yeux.
Les générateurs créent également souvent des asymétries: cela peut se voir au niveau du visage, qui peut être disproportionné, ou de certaines caractéristiques, comme des oreilles qui ne sont pas à la même hauteur ou ne vont avoir qu’une seule boucle d’oreille.
Les dents et les cheveux sont également difficiles à imiter pour les IA, et peuvent laisser voir, au niveau de leur démarcation ou de la texture, que l’image n’est pas réelle.
Des éléments peuvent également être mal intégrés, comme des lunettes de soleil qui vont se fondre dans un visage.
Enfin, le mélange de plusieurs images par l’IA peut avoir créé des problèmes d’éclairage dans l’image, pointent les experts.
Le meilleur moyen de repérer ces anomalies est souvent de scruter l’arrière-plan de la photo. Si elle peut à première vue sembler normale, une photo générée par IA laisse souvent apparaître un grand nombre d’erreurs en fond, qui est parfois aussi incohérent.
Sur des images à première vue ultra réalistes de Barack Obama et Angela Merkel à la plage qui ont fait le tour des réseaux sociaux, le fond trahit un montage : l’un des personnages en fond a les jambes coupées, et l’autre ne semble pas se fondre correctement dans le décor.
