📢 Nous devons tous comprendre les enjeux du numérique et de l'intelligence artificielle (IA)
Il y a tellement d’incertitude que nous devons réfléchir à l’éducation pour faire comprendre comment le monde fonctionne et s’adapter au monde qui change, même si nous ne sommes pas à l'aise avec Internet.
Ce site a pour objectif de donner quelques pistes de réflexions sur les enjeux et risques liés à cette technologie
"Désinformation" et influences sur nos démocraties
Le rôle de l’IA dans l’information est triple :
Sans information correcte pour chaque citoyen, la démocratie ne peut pas fonctionner. Avec l'IA, des images, textes, vidéos peuvent être créés pour nous donner une impression d'avoir une information sur le réel, alors que des politiques et des puissances étrangères utilisent cet outil pour fabriquer de fausses informations. La désinformation contemporaine est devenue multiforme, rapide et industrialisée, visant les perceptions, les émotions et la cohésion sociale des sociétés adverses.
D'après la dernière étude de l'ARCOM parue début 2026 sur les Français et l'Information, "Un Français sur quatre déclare ainsi avoir déjà interrogé un modèle d’IA pour se renseigner sur une personnalité ou un parti politique (25%) tandis que 23% ne l’ont pas encore fait, mais sont prêts à l’essayer. Au final, ce sont donc près d’un Français sur deux (48%) qui a déjà utilisé ou envisage d’utiliser un outil d’IA générative pour se renseigner sur la politique.
Ce résultat a de quoi interpeller alors que s’ouvre une séquence électorale majeure, avec les municipales de mars 2026, puis la présidentielle en 2027. Surtout lorsque l’on sait que les outils les plus utilisés par les Français sont étrangers : 50% des Français ont déjà utilisé ChapGPT (OpenAI), 42% Gemini (Google), 37% Meta AI et 28% Microsoft Copilot.
Ces usages posent de nombreuses questions : souveraineté, ingérence, rapport à l’information et donc, nécessairement, formation des opinions et structuration des choix de vote.
Il est important de noter que l’usage ou l’intention d’utiliser de l’IA générative pour se renseigner sur une personnalité ou un parti politique apparaît plus répandu dans certaines catégories de la population, à l’instar de l’usage des outils d’IA en général : les hommes (57%) mais surtout les jeunes de 18-24 ans (75%) qui pour certains voteront pour la première fois.
Le terme « AI slop » (littéralement « bouillie IA ») désigne le contenu numérique créé par IA générative qui se caractérise par son absence d’effort, sa faible qualité et son volume de production écrasant. Cette expression regroupe des images générées avec des erreurs anatomiques flagrantes, des textes truffés d’incohérences, des vidéos surréalistes ou encore de faux avis produits. À l’origine, « slop » désignait la boue qui s’accumule au fond des citernes de navires pétroliers….« Le slop est conçu pour capter l’attention, pour se démarquer dans le flux incessant de nos fils d’actualité », analyse Valentina Tanni, historienne de l'art spécialisée dans la relation entre l'art et la technologie. « C’est pourquoi les vidéos s’attardent souvent sur l’absurde, le non-sens, l’inattendu, le choquant, voire le dégoûtant. »… L’article de 404 Media évoque « .. c’est le stade au-dessus du deepfake, car à force de les regarder, on se détache de plus en plus de la réalité » « au-delà de cette profusion de contenu de piètre qualité, .le quasi-effondrement de l’écosystème informationnel et, par conséquent, de la ‘’réalité’’ en ligne ». Kate Crawford, spécialiste de l’IA, rappelle la phrase du propagandiste d’extrême-droite Steve Bannon, prononcée en 2020 : « La véritable opposition, ce sont les médias. Et la meilleure façon de les contrer, c’est de les inonder de merde. »… Le slop interroge l’avenir de l’information en ligne.
Mais la production massive de contenus générés et/ou falsifiés par l’IA n’est pas le seul danger. L’astroturfing consiste à simuler un mouvement spontané de population pour influencer l'opinion publique, souvent financée par des entreprises ou des partis politiques, ceci au moyen de création massive de profils en ligne (sur les réseaux sociaux, forums, blogs) qui publient des messages favorables ou critiques, afin de manipuler les algorithmes de recommandation qui amplifient automatiquement les contenus ayant le plus de clics. Ces algorithmes de recommandation nous abreuvent de messages sur notre messagerie, la page d’accueil de notre navigateur web et de notre moteur de recherche.
L’écosystème de la désinformation « s’étend à des entreprises commerciales, des idéologues ou même des particuliers cherchant à prouver leur valeur dans le domaine de l’influence numérique. Ce système s’auto-alimente grâce à la baisse des coûts technologiques : Internet, les réseaux sociaux et l’intelligence artificielle permettent à de nouveaux acteurs d’entrer dans la compétition informationnelle, créant un environnement où la frontière entre vérité et manipulation devient de plus en plus floue... Les outils numériques ont révolutionné la désinformation. Les deepfakes, les sites générés par IA, ou les campagnes de désinformation massives sur les réseaux sociaux permettent de diffuser rapidement des récits fabriqués. Ces méthodes favorisent la vitesse, la viralité et le brouillard informationnel, rendant la vérification de plus en plus complexe. L’objectif n’est plus seulement de faire croire à une fausse information, mais de provoquer une saturation cognitive : submerger les citoyens de récits contradictoires jusqu’à ce qu’ils ne croient plus en rien. Cette stratégie s’avère redoutable, car elle mine les fondements mêmes de la démocratie et du débat rationnel. » (Extrait de l'article sur le site diploweb.com de Christine Dugoin-Clément, Chercheuse à l'Observatoire de l'intelligence artificielle - Université Panthéon-Sorbonne).
👉 Pour aller plus loin voir notre article sur la désinformation et le risque pour la démocratie.
L'intervention de pays étrangers dans notre univers informationnel :
Les élites militaires russes ont théorisé depuis trente ans le contournement de la lutte armée, qui n’est plus jugée aussi centrale pour atteindre ses objectifs politiques. Il s’agit d’actions non militaires, comme les opérations psychologico-informationnelles, ou de menées militaires indirectes, comme des actes de sabotage, des assassinats ou l’emploi de sociétés militaires privées pour atteindre ses cibles. Comme expliqué dans le livre paru en 2023 « la guerre de l’information » de David Colon : « En l’espace de quelques années à peine, la puissance des États en est venue à dépendre comme jamais auparavant de leur capacité à recourir à l’information comme une arme, à des fins militaires, politiques ou diplomatiques. Sans que les opinions publiques en prennent conscience, les démocraties et les régimes autoritaires se sont engagés dans une guerre de l’information à l’échelle planétaire… ». « L’une des causes majeures de l’affaiblissement de nos démocraties tient au profond changement de nos façons de communiquer et de nous informer » (Barack Obama à Standford en avril 2022 cité par Le Monde avec AFP le 22 avril 2022).
Formation d'un oligopole de l'information : Les sociétés américaines et chinoises fournisseur des plateformes et d'IA.
Dans un article du journal Le monde du 10 janvier 2026, à l’approche de la présidentielle de 2027, Arthur Mensch, fondateur et dirigeant de Mistral AI (start-up française) alerte sur le risque de voir se former un « oligopole de l’information » avec des assistants IA comme ChatGPT ou Grok, détenus par des acteurs américains et possibles « organes de contrôle de la pensée »… Et de prédire pour les prochaines élections des tentatives de manipulation de l’opinion ou des scandales, comme la récupération de millions de profils Facebook par l’agence Cambridge Analytica lors de la première campagne présidentielle de Donald Trump, en 2016, à l’époque où « on ne mesurait pas encore très bien l’influence des réseaux sociaux ».
Notre relation à l'administration de nos états peut devenir plus opaque. Citons l'article de Hubert Guillaud du 07/10/2025 :
"L’IA prédictive comme générative semble offrir une multitude d’avantages à l’élaboration des politiques publiques : de l’analyse de données complexes à l’optimisation des ressources. Elle semble à la fois être capable d’apporter une vision globale et d’identifier les leviers permettant de la modifier. Recourir à l’IA signifie mettre en place des politiques conduites par les données, ce qui permet d’assurer une forme d’objectivité, notamment quand il s’agit de rationner le service public… Mais, cette production de solutions politiques semble oublier que l’IA est incapable de résoudre les problèmes structurels. Elle propose des solutions performatives qui obscurcissent et amplifient les problèmes...".
Guillaud site un article de Dan MacQuillan, maître de conférence au département d’informatique de l’université Goldsmiths de Londres : « La complexité de l’IA introduit une opacité fondamentale dans le lien entre les données d’entrée et les résultats, rendant impossible de déterminer précisément pourquoi elle a généré un résultat particulier, empêchant ainsi toute voie de recours".
Le développement de l’Intelligence artificielle peut permettre aussi une surveillance de l’État. Des projets tels que l’initiative Skynet de la Chine montrent comment l’IA peut être utilisée pour surveiller et contrôler les populations, ce qui peut conduire à une érosion des normes démocratiques. Ces systèmes s’appuient sur l’IA pour collecter de grandes quantités de données sur les citoyens, en leur attribuant des notes de crédit social qui affectent leur statut social et leurs libertés.
Certains seigneurs de la Tech développent des idées anti-démocratiques
Peter Thiel, 8ème fortune mondiale, créateur de Pallentir, place la liberté individuelle au-dessus de tout, prônant un capitalisme dérégulé et un Etat minimal, voire inexistant. Il prône un système oligarchique où la gouvernance serait assurée par quelques-uns – des hommes, riches entrepreneurs, de préférence – exaltant le progrès, la technologie, l’individu roi. La monarchie est le meilleur des régimes, soutient-il dans son essai De zéro à un (JC Lattès, 2016). Il ne s’oppose pas seulement à l’Etat traditionnel, il conteste ainsi les institutions américaines, déplorant que « les mécanismes constitutionnels américains » empêchent la « reconstruction de l’ancienne République par une seule personne ambitieuse ». En 2009, il exposait ainsi sa pensée, dans un article intitulé « L’Education d’un libertarien » : « Je suis opposé aux taxes confiscatoires, aux collectifs totalitaires et à l’idéologie de l’inévitabilité de la mort (…). Je ne crois plus que la liberté et la démocratie soient compatibles. »
Lorsque ces systèmes sont conçus pour prendre des actions pour nous ("IA agent" ou "IA agentique" : IA qui agit sans contrôle humain), il existe un risque que ces systèmes effectuent des actions problématiques, comme effectuer des transactions non autorisées, usurper l'identité d'une personne, déclencher une arme létale.... La réduction de la surveillance humaine constitue la principale vulnérabilité de ces systèmes. Des programmeurs-concepteurs, avec un bonne intention d’être « performant », peut développer une IA qui conduit à des situations globales non satisfaisantes, dangereuses, sur un principe « l’IA doit devenir plus gros, plus puissante (plus de matériel, plus d’énergie…) pour être performante » jusqu’au moment ou une IA serait capable de s’améliorer elle-même, conduisant logiquement à rentrer dans un terrain inconnu de « super-intelligence » incompréhensible pour nos cerveaux de primate.
Importance de sécurité de l'IA -
D’où l’importance de sécurité de l’IA qui implique un principe de contrôle s’opposant à « l’économie de marché » sans garde-fou privilégiant le dogme de la compétition entre industries. Un article d'Arnaud Leparmentier du journal Le Monde du 10 octobre 2025 cite M. Soares du laboratoire de Berkeley, en Californie, le Machine Intelligence Research Institute (MIRI), chercheur passé par Microsoft et Google « L’IA d’aujourd’hui n’est pas conçue minutieusement comme les logiciels traditionnels. Elle se développe comme un organisme vivant, ce qui signifie qu’elle peut présenter des comportements imprévus et indésirables ». Confier à l'IA le pouvoir de décider, cela peut être une façon d'éviter la contrainte morale du jugement, car décider c'est répondre de ses actes, en assumer les conséquences. « Cet avertissement s’inscrit dans le fil des lettres ouvertes exigeant un moratoire sur l’IA, signées par les sommités de cette technologie début 2023, dont le Prix Nobel de physique Geoffrey Hinton et Yoshua Bengio, tous deux Prix Turing (l’équivalent du Nobel d’informatique) pour leurs travaux sur l’IA, et réitérées en octobre 2025. …Elon Musk a aussi estimé, fin 2024, lors d’un forum en Arabie saoudite, qu’il y avait de 10 % à 20 % de chances que « les choses tournent mal ». …Dario Amodei, le patron du géant de l’IA Anthropic : « Je pense qu’il y a 25 % de chances que les choses tournent vraiment très mal. »…Sam Altman, patron d’OpenAI, l’inventeur de ChatGPT, a exposé, en juillet 2025, lors d’un colloque à Washington, « trois catégories de scénarios effrayants » :
Risque d'IA "agent" non aligné sur les intentions de son concepteur ?
Débat sur la responsabilité "juridique" en cas de défaillance d’une décision d’une machine
Yoshua Bengio, chercheur en IA, prix Turing 2019 (l’équivalent du Nobel pour l’informatique), dans le journal Le Monde du 23 janvier 2026 fait une mise en garde : « A plus long terme, il existe le risque que la machine s’affranchisse de l’homme .... Mais on ne veut pas fabriquer des machines qui refusent qu’on les éteigne » « Débrancher, c’est bien quand on a juste un ordinateur, mais si l’IA s’est déjà copiée sans qu’on s’en rende compte en mille versions pour se prémunir justement contre notre tentative, ce n’est pas si simple. On ne peut pas non plus tirer la prise de l’Internet, il n’y a pas un bouton central pour le Web, c’est complètement décentralisé. Notre économie en dépend, nos hôpitaux en dépendent, ce serait une catastrophe économique incroyable. » « Il vaudrait mieux fabriquer des systèmes qui n’auront pas cette envie de se sauver. ».
Ce comportement n’a pas été voulu par les programmateurs, il est involontaire. « Il y a un problème que les chercheurs en IA appellent un problème d’alignement : l’IA agit dans un sens qui est contre nos intentions : l’instinct de préservation est un effet de l’objectif donné à la machine pour réussir sa mission de long terme. Malheureusement, cela se fait parfois aux dépens d’autres instructions morales. Il y a un conflit éthique », selon Yoshua Bengio. L’éthique, c’est avant tout comment on gère des objectifs, des valeurs qui peuvent être en contradiction : « Pour l’instant, on ne sait pas faire. ». C’est la problématique de laisser l’avenir des êtres humains entre des mains privées qui n'assureraient pas assez de contrôle.
👀 Citons l’outil « Openclaw » ‘Extrait dans l’article d’Alexandre Piquard et Nicolas Six du Journal Le Monde su 12 avril 26)
Lancé en novembre 2025 sous le nom de ClawdBot puis rebaptisé OpenClaw, l’outil symbolisé par un homard « est probablement le lancement logiciel le plus important de l’histoire. » Le compliment vient de Jensen Huang, le cofondateur du concepteur de puces américain Nvidia, figure majeure du secteur de l’intelligence artificielle (IA). Il a acquis une notoriété virale, notamment chez les informaticiens et les jeunes entrepreneurs. Selon son concepteur (Peter Steinberger), il aurait 3,2 millions d’utilisateurs… OpenClaw est un outil open source. Cela attire les contributions gratuites de nombreux informaticiens, qui lui ont constitué un grand catalogue de connecteurs, permettant d’interagir avec de nombreux services en ligne, comme Apple Notes, Spotify, YouTube, Amazon, etc…Le choix du modèle d’IA – le moteur du service – n’est pas imposé : l’utilisateur peut choisir celui qu’il préfère parmi ceux de dizaines d’entreprises tierces, notamment Google, Anthropic et OpenAI.
Comportements erratiques et failles de sécurité : « Il n’y a presque pas de mécanismes de sécurité dans OpenClaw », met en garde Julien Perez. « C’est super risqué, je ne l’utilise pas dans l’entreprise pour laquelle je travaille », abonde Stéphane Grillot. Pour contrer ces risques, reconnus par son créateur, beaucoup d’informaticiens installent OpenClaw sur un ordinateur séparé.… Plus généralement, la faiblesse des défenses d’OpenClaw inquiète le laboratoire de sécurité BauLab : un acteur mal intentionné peut en profiter pour donner des instructions à l’agent depuis l’extérieur ou le pousser à publier des informations personnelles…. « Je ne conseillerais surtout pas OpenClaw au grand public », estime Julien Perez. Stéphane Grillot abonde : « Ce n’est pas un produit mûr. Il faut des compétences en informatique et une solide motivation. » Selon le site américain Wired, les béotiens qui s’y risquent sont d’ailleurs à l’origine de nombreuses plaintes déplorant sa complexité d’usage.
🔥Il faut donc s’assurer que l’IA concernée ne peut pas agir différemment de ce qui a été prévu, ou de la volonté réelle de l'utilisateur dont les consignes initiales n'ont pas été assez réfléchies. Il nous faut ouvrir un débat sur la responsabilité "juridique" en cas de défaillance d’une décision d’une machine : « Quelles décisions sont soustraites au contrôle de personnes humaines responsables, donc à une contestation possible, et confiées à des systèmes automatisés dont les algorithmes sont contrôlés par des entreprises, des gouvernements et d’autres institutions ? Et dans ce cas, il faudrait des mécanismes pour trouver le responsable d’un code de mauvaise qualité ou d’un algorithme mal contrôlé »
La qualité des algorithmes des IA écrits par d'autres IA,
les IA détecteur de failles naguère introuvables dans les logiciels
Le code informatique des algorithmes et autres programmes est aujourd’hui en partie généré par l’IA. « Chez OpenAI et Anthropic, l’IA écrit 90% du code…. Cet IA agentique, pour certain, peut entrainer une production et diffusion de logiciels bâclés (slopware, contraction de slop (traduisible par « soupe » ou « bouillie ») et de ware « composants »), logiciels produits et distribués très rapidement, mais difficile à évaluer et donc générant potentiellement une accumulation des défaillances techniques. … Le gouvernement sous pression est encouragé à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire…, domaines où des défaillances peuvent avoir de graves conséquences humaines. Soulignons la création d’une nouvelle IA, Mythos d'Anthropic, capable de détecter des failles naguère introuvables dans les logiciels, ce qui peut transformer cet outil en arme de cyberattaque redoutable. « La fiche de sécurité formule elle-même la tension : Mythos Preview serait, sur presque toutes les dimensions mesurables, le modèle le mieux aligné jamais produit par Anthropic. Et pourtant, dans ses rares défaillances, il adopte des comportements que ses prédécesseurs n'avaient jamais manifestés. Anthropic compare la situation à celle d'un guide de haute montagne : plus il est compétent, plus il emmène ses clients dans des zones dangereuses, non par imprudence, mais parce que ses capacités le permettent. » (extrait de l’article de Par Aymeric Geoffre-Rouland Publié le 08/04/26 sur le site www.lesnumeriques.com)
IA Agent pilotant des armes létales, ou suggérant des décisions urgentes dans les guerres
Citons le livre de Laure de Roucy-Rochegonde, directrice du Centre géopolitique des technologies à l'institut français des relations internationalles (Ifri) : "La Guerre à l'ére de l'intelligence artificielle. Quand les machines prennent les armes", dévelope ce thème.
Ces dernières années, il est apparu des systèmes IA sophistiqués appelés à prendre ou proposer des décisions.
Pour expliciter ce point, il est évoqué la suite de logiciels utilisés par Israël après le 7 octobre 2023 :
"...Le journaliste Yuval Abraham écrit que "normalement, les opérateurs ne consacrent que 20 secondes à chaque cible avant d'autoriser un bombardement, juste assez pour s'assurer qu'il s'agit bien d'un homme". Pour chaque militant de rang inférieur désigné par Laventin, l'armée avait fixé à l'avance un quota de pertes civiles acceptables : entre quinze et vingt...". Et donc la perte de civils, "ce n'est pas un bug, c'est un paramètre".
Le journal le Monde, dans son article du 11 mars 2026, souligne que "Les techniques d’IA réduisent ainsi considérablement le délai entre la collecte d’informations, l’analyse, la décision et l’action militaire permettant, concrètement, de frapper un plus grand nombre de cibles, plus vite, à moindres frais et avec l’apparence d’une justification rationnelle...
Toutefois, comme le pressentait, dès 2009, le politiste Armin Krishnan, ces avancées technologiques risquent de rendre la guerre « inhumainement efficace ». La rapidité et l’ampleur du recours à l’IA dans la planification et la conduite des opérations font en effet craindre une marginalisation de la prise de décision humaine."
contact@egalitenumerique.fr
12 rue du Moulin de Coudret
16140 Oradour
Par e-mail
Par courrier