C’est désormais la norme. Des millions de fausses photographies générées par intelligence artificielle sont publiées chaque jour sur Internet. Parmi elles, les « Boomer Traps » : des images conçues pour cibler les personnes facilement influençables. Pourquoi ? Comment ? On vous explique.
Vous les avez inévitablement remarquées, ou peut-être en avez vous été victime sans le savoir, des images générées artificiellement inondent en ce moment nos réseaux sociaux. Des photos souvent plus vraies que nature qui passent sous nos yeux au quotidien.
Celles-ci sont parfois si réalistes qu’il devient de plus en plus difficile de séparer le vrai du faux, même pour les initiés. Dans ce contexte, un usage particulier des images « fake » par IA a vu le jour sur fond de luttes politiques et économiques. On les appelle les Boomer Traps.
Cas d’école
Un cas en particulier a attiré notre attention récemment. Il s’agit d’une « photographie » d’une toute jeune femme, aux traits de modèle, habillée en tenue militaire, qui semble faire un selfie au milieu d’un troupeau de moutons.
L’image est accompagnée d’un texte misérabiliste invitant à soutenir cette pauvre jeune femme « traditionaliste » qui se sacrifie pour ses animaux. L’image est bluffante de réalisme et pourtant totalement fausse, générée par un outil de type Midjourney en quelques secondes. Pourtant, la fausse photo est recopiée des centaines de fois sur Facebook notamment, récoltant des centaines de milliers de likes et de commentaires francophones.
Ces commentaires sont, eux, bien réels, tout comme le temps de cerveau disponible généré par la fausse photo pour les publicitaires de la plateforme. Un constat émerge rapidement de ces réactions : ils viennent essentiellement de personnes relativement âgée : la génération boomer. Une tranche d’âge qui, dans sa globalité, n’est pas initiée aux évolutions technologiques récentes et aux pièges qu’elles représentent.
Ceux qui génèrent ces fausses images en ont parfaitement conscience, que ce soit en France, mais également en Asie et, surtout, aux Etats-Unis. Car ces images ont toutes un point commun : elles visent les personnes susceptibles de réagir de manière très affective, sans recul critique.
Pour ce faire, elles affichent des références traditionalistes, pastorales, religieuses, identitaires, sexistes, nationalistes et/ou misérabilistes, tout en préservant une forme d’esthétisme propre au domaine publicitaire. Enfin, ces images sont accompagnées d’un texte généré également par une intelligence artificielle, étudié pour maximiser les réactions des utilisateurs. Le mot « Réac » n’aura jamais si bien porté son sens. Le phénomène de Réactance se nourrit d’une ignorance.
Les Boomer Traps « réac »
Un terme est né pour définir ces images générées par intelligence artificielle visant spécifiquement le troisième âge et plus globalement la sphère réactionnaire : Boomer Trap.
Malheureusement, ce phénomène a pris une telle ampleur qu’il est devenu incontrôlable et souligne la scission profonde qui consume le cœur de la population. Nous voilà exposés à un tsunami inarrêtable d’images plus loufoques les unes que les autres, affichant une vision dystopique de notre réalité : le faux est devenu banal et, aussi manifeste soit-il pour une partie d’entre nous, des masses de millions d’individus alimentent la supercherie.
Pendant que les fake IA occupent l’espace, les publications sérieuses, les informations de fond, les articles comme celui-ci sont dégagés par les algorithmes. Tout le modèle des réseaux sociaux est conçu pour alimenter le faux et la vacuité intellectuelle. La loi de Brandolini nous condamne à l’impuissance.
La loi de Brandolini
La loi dite de Brandolini, ou principe d’asymétrie des baratins, est un procédé selon lequel « la quantité d’énergie nécessaire pour réfuter des sottises est supérieure d’un ordre de grandeur à celle nécessaire pour les produire ».
Pour chaque petit mensonge médiatique facilement affirmé par un éditocrate comme Pascal Praud ou Hanouna, il faut dépenser énormément d’énergie pour rétablir la vérité. Et le message n’arrivera probablement jamais aux oreilles des concernés, faute d’un audimat aussi puissant que les médias concernés. Avec l’IA, le phénomène est décuplé de manière exponentielle. Il est impossible pour chaque « fake » d’exposer la supercherie sans rapidement s’épuiser moralement. Une fois encore, le contenu « sérieux » ne bénéficie d’aucune viralité.
Tout ceci génère un contexte explosif que des groupes politiques utilisent volontiers pour répandre à large échelle des valeurs dans ce groupe social visé, en l’occurrence, des valeurs réactionnaires. En effet, il a été mainte fois démontré que dans les pays développés, c’est la population « âgée » (les plus de 50 ans) qui dicte l’agenda politique.
Selon les statistiques, ceux-ci ont tendance à voter très à droite. En effet, au premier tour des élections législatives de cette année, le RN (Rassemblement National) a pu compter sur 40 % d’électeurs âgés de 50 à 59 ans et près d’un votant sur trois âgé d’au moins 70 ans. Une cible de choix pour les mouvements politiques réactionnaires qui ont compris que les réseaux sociaux étaient un moyen direct d’atteindre leur cible, quitte à user d’outils de manipulation pour y parvenir. Le danger démocratique est réel tant le terrain de jeu est déséquilibré.
En effet, on pourrait estimer que cette manipulation est disponible autant à droite qu’à gauche de l’échiquier politique mais ce n’est pas le cas dans les faits. Pour que ces fausses images IA soient virales, elles doivent nécessairement inciter un phénomène immédiat de Réactance chez l’utilisateur. Un mécanisme qui ne s’active pas dans les mouvements militants humanistes, visant une population plus jeune et plus informée sur l’IA.
Sur plusieurs centaines de cas répertoriés de fausses images IA virales, aucune d’entre elles ne ciblait le champ des valeurs sociales. Des conclusions importantes doivent être tirées de cette observation car à l’échelle d’une nation, le danger démocratique du phénomène est réel. Peut-être s’est-il déjà manifesté dans la réalité politique à notre insu à tous.
Un nid de cibles pour les brouteurs et les marques
Les Boomer Traps ne sont pas que des congrégations de toutes les réactions et frustrations identitaires. Ils rassemblent dans des groupes de réseaux des individus susceptibles d’être manipulés tant par des marques que par des brouteurs à l’étranger.
Concrètement, les pages qui publient ces Boomer Traps n’ont pas nécessairement un objectif politique bien qu’ils en utilisent les outils. L’objectif est bien souvent purement économique.
D’un part, les pages qui récoltent ces likes peuvent être revendues sur un marché de l’influence à de nouvelles marques. Celles-ci, une fois la page renommée, peuvent ainsi démarrer une activité avec plusieurs milliers de potentiels « pigeons » prêts à consommer et plus facilement manipulables que d’autres.
Par ailleurs, les brouteurs, principalement d’Afrique de l’Ouest, chassent également leurs proies dans les commentaires de ces publications pour les mêmes raisons : les personnes facilement influençables ont plus de chance de tomber dans un piège sentimental que d’autres. Les fakes IA apparaissent ainsi comme autant de filets capturant les internautes influençables à vaste échelle. À ce stade, il est facile de comprendre qu’on est bien loin de quelques images perdues sur le web…
Comment s’en prémunir ?
Fais de ton ennemi ton meilleur ami. C’est probablement la question la plus difficile à résoudre à travers un paradoxe inextricable. Pour notre part, quand la génération d’images IA type Midjourney a vu le jour, nous avons décidé de sauter le pas et de générer des images à des fins artistiques et éducatives dans la mesure où elles restaient épisodiques et sans qu’elles n’influent sur nos partenariats déjà en place. Dans le cadre d’un modèle indépendant reposant déjà en partie sur des banques d’images libres de droit pour faire survivre son travail d’information, ces créations ont pu être utiles.
Nous ne regrettons pas aujourd’hui. Cet exercice nous a permis de suivre l’évolution des technologies d’IA et donc d’entraîner notre œil afin de reconnaître une image générée en un simple regard. Pour éviter les pièges, il y a donc un effort d’éducation à réaliser en s’exposant aux images, comme on s’exposerait au feu pour ne plus jamais se brûler.
Evidemment, on recommandera aux novices d’avoir un esprit critique activé en permanence devant les images ET vidéos, en observant particulièrement les détails de l’arrière plan. Les IA ont toujours du mal pour fignoler les détails. L’erreur serait d’observer une photo dans sa globalité et de réagir à l’affect trop rapidement. Nous en revenons inévitablement à une perspective « politique » au sens citoyen du terme…
Sur les réseaux comme en société, nous sommes dans un espace politique inévitablement. Donc nous sommes aussi la cible de manipulations, qu’on le veuille ou non. Un média honnête va préciser son orientation. Ceux qui ne le font pas sont toujours susceptibles de nous manipuler. Et l’un des moyens immédiats et permanents de s’en prémunir à vie, c’est d’étudier la psychosociologie de la Réactance.
L’IA et l’enfer qui vient
Un mot pour finir, probablement pas des plus optimistes… Vous êtes ici une minorité consciente à nous lire. Une minorité qui fait l’effort intellectuel de se remettre en question devant des phénomènes de société complexes. Cet effort est minoritaire. La majorité se contente de simplifications et de résumés racoleurs sur Cnews.
Demain, l’IA vidéo sera aussi performante que celle de l’image et nous allons vivre dans un environnement informatif plus faux que jamais. Le challenge social et politique sera colossal. Ce n’est pas tant l’Intelligence Artificielle le problème, par exemple quand celle-ci permet de gagner 20 ans de recherche sur le cancer et la génétique… c’est l’usage politique et économique que nous en faisons.
Et nous voilà une fois encore face à notre système capitaliste conservateur et ses institutions aux objectifs chiffrés. N’oublions jamais que celui-ci n’hésitera pas un instant à sacrifier l’Humain si la Machine lui est plus profitable ou si cette dernière lui permet de perpétuer ses privilèges.
– Mr Mondialisation
