Lutter contre la désinformation, pour notre démocratie, et contre l'IA slop

Cet article présente succinctement le cheminement allant des faits, des informations reçues, des débats, de la formation de nos opinions dans le cadre démocratique.

Il résume dans un deuxième temps la méthode préconisée pour lutter contre la désinformation.

ET vous trouverez quelques adresses de sites pour s’informer et comprendre : la cybermalveillance, la désinformation, et pour identifier l’origine d’une information virale, d’une photo ou d’une vidéo hyper-truquée (« deepfake »).

En fin d'article, l'arrivée de "l'AI Slop" est expliquée. (Par "slop", nous désignons un média de mauvaise qualité, comprenant des textes, des sons et des images, réalisé à l'aide d'une technologie IA générative)

 

Vérification de l'information

 

Nous devons donc apprendre à vérifier les informations que nous recevons, et devenir des "fact checkers" permanents.

 

Pour la démocratie, les débats sont nécessaires,

Un minimum d’empathie envers ses concitoyens est une condition indispensable pour un débat serein. Certains politiciens ont une autre opinion sur l'intérêt des débats serein : 

« La faiblesse fondamentale de la civilisation occidentale est l’empathie »

expliquait Elon Musk dans un interview sur le podcast de Joe Rogan. 

 

 

L'émergence d'un IA SLOP

Le slop (aussi appelé AI Slop) est un média de mauvaise qualité, comprenant des textes, des sons et des images, réalisé à l'aide d'une technologie d'intelligence artificielle générative. Inventé dans les années 2020, le terme a une connotation péjorative proche de celle de « spam ». Les contenus des « slops » sont ensuite réingérés dans les IA, et le cycle continue.

Citons l’article de Hubert Guillaud sur le texte de  la chercheuse Kate Crawford dans une tribune pour e-flux , « Vers l’effondrement métabolique » du 19 septembre 2025 (dans la Lettre hebdomadaire de café IA):    

(1) L’industrialisation de contenus synthétiques réalisés à l'aide de l’IA

« Les producteurs de contenus synthétiques atteignent des taux d’engagements supérieurs aux influenceurs humains qui semblent de plus en plus indiscernables des humains, comme l’était, dès 2018, l’une des premières influenceuses synthétiques, Lil Miquela. Les équipes de création de contenu déploient des outils d’IA pour générer des centaines de publications, d’images et de vidéos potentielles, puis utilisent l’analyse de l’engagement pour identifier les combinaisons les plus addictives afin de les optimiser. L’industrialisation du contenu viral s’auto-accélère. Les fonds destinés aux créateurs de contenus se transforment en subvention du seul contenu synthétique, à l’image de TikTok ou Meta qui sponsorisent les usines à slops en distribuant des revenus du fait de leur viralité… »

(2) Effondrement de l’IA slop ?

« L’évolution vers une IA générative massive et gourmande en données affecte l’environnement, le travail, la culture, la science … Les LLM sont en train de supplanter les sources d’information en ligne, cannibalisant les marchés de la création de contenu….De nombreuses études ont montré que les systèmes d’IA dégénèrent lorsqu’ils se nourrissent trop de leurs propres productions – un phénomène d’effondrement que les chercheurs appellent MAD (La maladie du modèle autophage). En d’autres termes, l’IA s’autodétruira, puis s’effondrera progressivement dans le non-sens et le bruit….’’L’IA slop n’est pas une aberration, mais une caractéristique inévitable du fonctionnement des médias génératifs’’. Cette rupture métabolique promet de multiples effondrements, prédit la chercheuse : effondrement des modèles, effondrement écologique et effondrement cognitif s’entrecroisent dans une forme de polycrise. »

 

Prenons la mesure de la dégradation du paysage informationnel à cause de la montée en puissance des IA génératives et la prolifération du slop.

• L’apparition de contenus absurdes et viraux produits très facilement par des outils comme Sora, Veo ou Runway Gen qui permettent à quiconque de créer des vidéos hyperréalistes. La distinction du vrai du faux n’est pas facile.
• Le changement d’attitude des consommateurs d’information en ligne : Aujourd’hui (fin 2025), 7% de ces consommateurs utilisent des assistants IA pour s'informer – et jusqu’à 15% chez les moins de 25 ans, d’après Reuters.
• Plus de la moitié des articles mis en ligne dans l’espace d’une journée étaient créés sur des IA, d’après une étude de l’agence Graphite, publiée courant octobre et basée sur l’analyse de 65000 textes.Ces articles :
  • sont  souvent des plagiats remixés d’enquêtes journalistiques datant parfois de plusieurs mois
  • ont aussi la particularité d’être publiés sur des sites zombies. Il peut s’agir de médias étudiants ou locaux laissés à l’abandon, ou d’anciens sites d’entreprises de livraison de fruits et légumes ou de promotion d’événements passés dont l’URL a été récupérée.
  • seraient pour le moment largement invisibles et peu recommandés par Google ou ChatGPT.

Pour plus d’information, voir le site de la Fondation Nieman pour le journalisme, une institution majeure de l'Université de Harvard, visant à promouvoir et élever les normes du journalisme.

• L’accès sur internet à des articles issues d’une source « vérifiée » est pas facile
  • l’information relayée par les «moteurs de réponses» se trouve bien souvent dégradée. D’après une étude dirigée par la BBC, publiée le 22 octobre, 45% des réponses données par ChatGPT, Copilot, Gemini et Perplexity (sur 3000 requêtes analysées) présentaient au moins un problème important, tandis que 31% des réponses révélaient de graves problèmes de sourcing.
  • La distinction entre les sites générés par de vrais sites de presse et issues d’un travail journalistique et les sites zombies diffusant des articles générés par des IA Slop n’est pas faite par le principal pourvoyeur d’audience, l’agrégateur Google Discover. Les pages des sites zombies sont souvent suffisamment optimisées en SEO pour pouvoir apparaître dans l’agrégateur Google Discover.
• Les médias traditionnels sont en difficultés pour diversifier leurs sources de revenus (dû en particulier au bouleversement du marché des recettes publicitaires, et à la force algorithmique des grandes plateformes qui recommande le contenu sur les pages que vous consutez), ou sont rachetés par des actionnaires très riches peu scrupuleux sur la nécessité d’une information vérifiée par des « fact checkers » reconnus.
• Rappelons la situation actuelle de notre dépendance à des entreprises américaines ou chinoises propriétaires des réseaux sociaux qui n’assument pas le statut d’éditeurs de contenu, mais qui nous imposent leur ligne éditoriale par l’intermédiaire de leurs algorithmes. Seuls les contenus recommandés par leurs algorithmes sont vus, les autres demeurent invisibilisés. Ces algorithmes sont élaborés en toute opacité, basés sur des calculs purement quantitatifs arrimés à des objectifs commerciaux ou politiques, par une poignée d’acteurs privés qui effectuent le tri entre les contenus visibles et ceux que personne ne verra.

La frontière entre vrai et faux s’efface chaque jour davantage.

Pour aller plus loin : lire les articles

• •  « Tendances médias : comment le journalisme peut lutter contre le slop » de David-Julien Rahmil
  • «Il faut accepter l’idée, le slop est en train de gagner» (Albertine Meunier et Hugo du Plessix interrogés par David-Julien Rahmil, L'ADN, 16 octobre 2025)
  • Roi du slop et du grotesque, Trump a retourné le paysage médiatique (David-Julien Rahmil, L'ADN, 21 octobre 2025)
  • Quand l’IA tue la littérature (Stéphanie Parmentier, The Conversation, 19 octobre 2025)
  • IA: comment sortir de la bulle ? (Antonin Bergeaud, Le Grand Continent, 21 octobre 2025)

 

Conseils pour lutter contre 
la désinformation et l'IA Slop 

 

👉  A notre niveau personnel : Nos actions au fil de l’eau de vos usages d’internet

 

1. Choix de vos sources d'information : Choix de vos applications numériques / plateformes les plus « éthiques » et (défense/promotion du bien collectif), et moins néfastes à l’environnement et à la protection de vos données personnelles : Exemple : Messagerie concurrent de Whatsapp, Navigateur et Moteur de recherche (Quant, ….), Identifier les modèles d’IA peu gourmande en données et énergie…
2. Vérification de l’information / lutte contre les deepfakes 
   1. Vérifier les informations écrites, les images et vidéos et sons, que vous recevez :

1. 1. en premier lieu avec votre analyse de bon sens et une observation attentive pour repérer des éléments suspects de l’information reçue, soyons conscient de nos propres biais (nous aimons souvent nous divertir avec des informations que nous ne questionnons pas assez)
   2. en vous posant les questions : Qui est l’émetteur du message reçu ? Qui est derrière la plateforme  ou le site ? Qui finance cette diffusion d’information ?
   3. en recoupant cette information avec d’autres sources que vous jugez fiables,
   4. ou en vous faisant aider d’outils disponibles sur internet (voir ci-dessous)

1. 1. Ne partager cette information sur vos réseaux ou par mail qu’après cette phase de vérification
2. Prise de conscience des conséquences néfastes des interfaces numériques et des algorithmes des plateformes
   -    En matière de liberté : Les interfaces de ces systèmes numériques construits à base d'IA « peuvent masquer nos réelles possibilités d’agir ou orientent nos décisions, et restreindre peu à peu notre autonomie »
   -    En matière de santé, citons « les processus compulsifs et addictifs … en jeux »
   -    En matière d’écologie, la consommation énergétique de tous les algorithmes, matériels et infrastructures numériques, et l’incitation à la surconsommation ne vont pas dans le sens du respect des principes écologiques.
   -    En matière de démocratie, ces systèmes pour certains « sapent l’apprentissage du débat contradictoire au profit du clash et de la violence verbale sur Internet. En effet, ces processus de captation de l’attention… ont tendance à favoriser les contenus choquants et les fausses informations, à polariser les utilisateurs, et à réduire leur capacité à comprendre d’autres points de vue, et même à le vouloir. L’économie de l’attention atrophie notre capacité à partager des idées, à échanger, bref, appauvrit notre expérience du monde ».
3. Adoption d'une posture de responsabilité : éviter les amalgames technologiques, exiger et s'imposer une rigueur évaluative, distinguer prescription et adoption réelle des usages, et concevoir la littératie comme un continuum évolutif. (La littératie est la capacité d'une personne à lire et comprendre des textes, lui permettant d'être fonctionnelle en société). 
4. Soyons prêt à dépenser un peu d’argent pour accéder à des sites fiables (La presse écrite, audiovisuelle ont en très grande majorité des contrats avec des « fact checkers » (vérificateur d’information, comme l’AFP…). Quand un site est « gratuit », cherchez à comprendre son modèle économique. Produire de l’information « vérifiée » coûte de l’argent. 

 

👉  A notre niveau de citoyen, consommateur, investisseur :

 

 

💡 Comme citoyen, participer aux réflexions, et actions nécessaires à la gouvernance du numérique ;

1. 1. Exprimer vos demandes aux politiques qui doivent concevoir nos lois numériques et les faire appliquer (en particulier lors des différentes élections), comme par exemple obliger les réseaux sociaux commerciaux à s’ouvrir à d’autres services de recommandation de contenus, laissant aux utilisateurs la liberté de choisir quel système leur recommande les contenus, selon quels critères et dans quel but.
   2. Demander à l’Etat ou/et aux administrations territoriales de :
      1. nous informer correctement, 
      2. nous former pour nous protéger des risques de l’IA,
      3. avec la mise en place de structures-organisations adéquates
      4. en utilisant des produits européens, ou "non liés à une puissance étrangère hostile"

      5. et comme le préconise Ethan Zuckerman, directeur de l’infrastructure numérique de l’Etat, participer à la mise en place de média alternatifs sociaux non surveillants, construits sur des déploiements algorithmiques basés sur l’analyse de contenus qui œuvre au « bien commun », plutôt que sur l’analyse des visiteurs. Il reste que le financement de ces services d’intérêt général, indispensable à la démocratie, et leur gouvernance indépendante de l’Etat est à inventer.

Remarque : Pour mémoire, rappellons l’expérience de la radio dans les année 30. John Reith a imaginé une radio publique, la BBC, qui ne soit contrôlé ni par les états, ni par les entreprises, financé par l’État, mais indépendante du gouvernement. Il propose de mettre en place des services publics de la communication démocratique. Et Il existe aujourd’hui des services mondiaux numériques non commerciaux Wikipedia, Openstreet ou Signal.

👉Comme investisseurs et consommateur :

1. 1. 1. 💡investir dans la recherche et le développement de systèmes de recommandation collaboratifs, qualitatifs et citoyens. Différents systèmes de recommandation pourraient être développés, par des médias, des institutions académiques, des acteurs associatifs, qui se verraient ainsi dans la capacité de recommander des contenus selon des critères diversifiés et transparents, qui s’appuient sur les avis de différentes communautés de pairs.
      2. 💡investir et soutenir les réseaux sociaux alternatifs non-commerciaux et décentralisés. 
      3. 💡comme consommateur, choisissez des produits "éthiques" si possible. Evitez X, Instagram... 
      4. être aider à devenir un consommateur "éthique", à choisir des produits "éthiques" si possible. (Evitez X, Instagram…)
         ---> Faire un label « site d’information vérifiée » avec des « fact checkers » (vérificateur d’information, comme l’AFP…), ou « réseau social avec un organe modérateur reconnu et labélisé » ou imposer une notation « éthique » des sites et réseau sociaux sur le respects de nos lois et ceux de l’Europe (DSA, DMA, RGPD, IA ACt)
         

 

Pour aller plus loin sur ce thème, voir la conférence d' Ethan Zuckerman à Sciences Po du 17.05.2022  : "Nous devons imaginer un meilleur internet"

 

 

Quelques sites à connaître

Pour vous informer sur la cyber-malveillance, nous vous conseillons d'aller sur le site du gouvernement : 

Assistance aux victimes de cybermalveillance | Site Officiel

 

Quelques sites pour s’informer et comprendre la désinformation, et pour identifier l’origine d’une information virale, d’une photo ou d’une vidéo hyper-truquée (« deepfake ») 

 

• le site du gouvernement : Lutter contre les fake news | info.gouv.fr 

 

• Le site français De facto (https://defacto-observatoire.fr/ ) est le premier espace indépendant où chercheurs, journalistes et professionnels de l’éducation aux médias et à l’information unissent leurs efforts dans la lutte contre la désinformation. Son ambition est de promouvoir la qualité de l’information – essentielle pour nos démocraties -, la diversité du débat public et la régulation des plateformes numériques.

 

• Le site de l’Europe (UE) pour comprendre la désinformation pilotée par la Russie
  EU vs Disinfo,   Site du Service européen (partie du service diplomatique de l’UE, dirigé par le haut représentant de l’UE) pour contrer la désinformation de la Russie. Ce site est le travail du  groupe de travail East Stratcom, une équipe constituée d’experts qui ont principalement suivi une formation en communication, journalisme, sciences sociales et étude de la Russie.

 

• • Pour simple information citons le dispositif européen RAS - Rapid Alert System. : Le système d’alerte rapide (RAS) est un élément important de l’approche globale de l’UE pour lutter contre la désinformation, et est un des quatre piliers du Plan d’action contre la dés-information approuvé par le Conseil Européen en décembre 2018. Il a été établi pour promouvoir le partage des connaissances entre les institutions de l’UE et les États membres en ce qui concerne les campagnes de désinformation et de coordonner les réponses. Le RAS de base sur des informations en open source et s’appuie également sur les connaissances du monde universitaire, des vérificateurs de faits (fact checker), des plateformes en ligne et des partenaires internationaux. 

 

👉  En Anglais ; 2 sites pour vérifier une image ou une vidéo 

 

• Deepware   (en anglais) qui permet de reconnaître les vidéos « hyper-truquée » (deepfake),

 

• TinEye - : Vous vous interroger que l’origine d’une image : Vous pouvez effectuer une recherche par image ou ce que TInEye appele une recherche inversée d’image. Vous pouvez le faire en téléchargeant une image ou en recherchant par URL. Vous pouvez aussi simplement glisser-déposer vos images pour commencer votre recherche. TinEye fait constamment le crawl du web et ajoute des images à son index. Aujourd’hui, l’indice TinEye compte plus de 72,1 milliards d’images.

 

 

 

 

 

Articles individuels