Logo webradio media

Désinformation massive par IA dans le conflit Iran-Israël


Des deepfakes et vidéos truquées inondent les réseaux sociaux, mettant en lumière le besoin urgent d'outils de détection plus performants.

Désinformation massive par IA dans le conflit Iran-Israël

Depuis le début de la confrontation militaire entre l'Iran et Israël, une déferlante de fausses informations et de vidéos créées par l'IA inonde les réseaux sociaux. Des «deepfakes» générés par l’intelligence artificielle, des chatbots relayant des infox, et des séquences de jeux vidéo présentées comme de vraies scènes de guerre se propagent à une vitesse alarmante. Ce phénomène met en lumière le besoin urgent d’outils de détection plus performants, selon des experts, à un moment où les plateformes ont réduit la modération de contenu et se passent de fact-checkeurs.

Après des salves de missiles tirés par l’Iran en riposte aux bombardements israéliens, des vidéos générées par l’intelligence artificielle ont prétendu montrer des dégâts subis sur l’aéroport Ben Gourion de Tel Aviv. Ces images, en réalité fabriquées, proviennent d’un compte TikTok produisant du contenu généré par l’IA, selon le travail de vérification de l’AFP.

Une vague de désinformation sans précédent

Ken Jon Miyachi, fondateur de l’entreprise spécialisée BitMindAI, constate une «vague de désinformation générée par l’IA» en lien avec le conflit Israël-Iran. Cette désinformation se distingue par son échelle et sa sophistication sans précédent.

Les outils de l'IA dans la propagation de fausses informations

GetReal Security, une entreprise américaine spécialisée dans la détection de contenus truqués avec l’IA, pointe notamment les images hyperréalistes générées par l’outil de Google, Veo 3. L’entreprise a par exemple lié des vidéos convaincantes de scènes apocalyptiques de bombardements iraniens en Israël au générateur d’IA Veo 3. Le logo de Veo 3 est d’ailleurs visible au bas de l’une de ces vidéos publiée par le média Tehran Times, censée montrer «le moment où un missile iranien a frappé Tel Aviv».

Hany Farid, co-fondateur de GetReal Security et professeur à l’Université de Californie à Berkeley, estime que ce n’est pas une surprise que les outils d’IA générative soient détournés pour diffuser de la désinformation. Il souligne que la durée des vidéos créées par Veo 3, huit secondes, donne «une bonne raison de prendre le temps de vérifier avant de la partager».

Identification des sources de désinformation

L’entreprise américaine NewsGuard, qui analyse la fiabilité des contenus en ligne, a identifié 51 sites internet qui ont publié plus d’une douzaine d’infox. Ces infox incluent des photos générées par l’IA censées montrer des destructions massives à Tel Aviv et des éléments fabriqués de toutes pièces faisant état de pilotes israéliens capturés par l’Iran. Parmi les diffuseurs de ces faux contenus, on trouve des chaînes Telegram liées à l’armée iranienne et des sources affiliées aux médias d’Etat iraniens, selon NewsGuard.

McKenzie Sadeghi, chercheur à NewsGuard, explique que «nous assistons à un déferlement de désinformation, et les Iraniens lambda semblent être le cœur de cible». Il ajoute que «les Iraniens sont pris au piège dans un environnement d’information clos, dominé par les médias d’Etat, qui se contredisent activement les uns les autres dans une tentative désordonnée de contrôler le récit». Certains de ces faux contenus ont été relayés par des médias d’Etat russes et chinois, les exportant ainsi sur une scène plus vaste.

Séquences de jeux vidéo et désinformation

S’ajoutent à ce torrent de désinformation des séquences tirées de jeux vidéo et indûment présentées comme de vraies scènes de guerre. L’équipe de fact-checking de l’AFP a ainsi identifié sur X une vidéo qui prétendait montrer un avion israélien abattu par l’Iran, mais venue du jeu de simulation militaire Arma 3. Ce phénomène n’est pas nouveau et a déjà été observé pour des conflits comme ceux en Ukraine ou en Syrie.

L’entrepreneur Ken Jon Miyachi alerte sur le besoin urgent de meilleurs outils de détection, d’éducation aux médias, et de responsabilisation des plateformes, pour préserver l’intégrité du discours public.

Conclusion

La désinformation générée par l’IA représente un défi majeur dans le contexte du conflit entre Israël et l’Iran. Les outils technologiques, bien que puissants, doivent être utilisés avec discernement pour éviter de propager des fausses informations. Il est crucial de développer des méthodes de vérification plus robustes et de sensibiliser le public à la véracité des contenus partagés en ligne.