Egalité Numérique

📢 Nous devons tous comprendre les enjeux du numérique et de l'intelligence artificielle (IA)

car nous sommes tous concernés individuellement et comme citoyen, même si nous ne sommes pas à l'aise avec Internet. 

Ce site a pour objectif de donner quelques pistes de réflexions sur les enjeux et risques liés à cette technologie

Risques de l'IA : Nous devons en prendre la mesure !

01/10/2025

Risques de l'IA : Nous devons en prendre la mesure !

L'IA (Intelligence artificielle) n'est pas une simple évolution technologique, mais probablement une révolution schumpétérienne, et aussi une révolution cognitive, civilisationnelle et anthropologique …

Cet article aborde les risques liés à l’IA dans divers domaines : le qualité de l’information et nos démocraties, l'Environnement, le monde du travail, notre souveraineté, nos processus cognitifs et émotionnels, la mise en oeuvre d' IA "agent", d'une "super intelligence" ..

 

Signalons « l’appel mondial » lancé lundi fin septembre 2025 à l’occasion de la 80e session de l’assemblée générale des Nations unies par un groupe d’ONG (Centre pour la Sécurité de l’IA (CeSIA), The Future Society et le centre de recherche Center for Human-Compatible AI (CHAI) de l’université Berkeley), et de personnalités (pionniers de l’IA, prix Nobel d’économie…) …

« Sans règles internationales contraignantes, l’humanité s’expose à des périls imminents : pandémies d’origine artificielle, manipulation de masse, déstabilisation géopolitique ou perte de contrôle sur des systèmes autonomes », assure l’appel. Revendiquant l’inspiration des traités internationaux ayant banni l’usage des armes biologiques ou du clonage humain, ses promoteurs plaident pour l’instauration de « limites “claires et vérifiables” pour certains usages et comportements de l’IA considérés comme universellement inacceptables en raison des risques de dommages extrêmes et irréversibles auxquels ils exposent l’humanité. » … ils citent des exemples limitant un comportement ou un usage de l’IA : le lancement d’armes nucléaires, les armes autonomes, la surveillance de masse et la notation sociale, la manipulation volontaire en se faisant passer pour des humains, les attaques cyber d’ampleur, le développement d’armes chimiques ou la création d’IA qui pourraient s’autorépliquer ou que les humains ne pourraient désactiver… »… « Tous les types de risques sont importants » (Extrait Article Le Monde du 13 septembre)

 

Rappelons nous les mots de Marie Curie : « Rien dans la vie n’est à craindre, tout doit être compris. 

C’est maintenant le moment de comprendre davantage, afin de craindre moins ».

 

IA : une "révolution" ?
Cet article n’a pas vocation à être un document de réflexion approfondie sur les transformations que l'IA risque d'apporter , mais plutôt une incitation à approfondir ce thème, en particulier avec une liste de références « pour aller plus loin ». Il souligne la révolution schumpétérienne en cours, comparable à celle de l’arrivée de la vapeur ou de l'électricité, mais aussi une révolution cognitive :  interférant dans la pensée et la connaissance et modifiant peut-être en profondeur notre monde, comme par exemple la sélection générique de gènes, la mis en place d'implants dans notre cerveau (voir Neuralink fondée par E Musk), la colonisation de Mars, les cliniques embryonnaires (américaine) accessibles aux plus riches, l'environnement, l'information en général…


Quelques éléments de contexte de l’utilisation de l’IA 
En préalable, rappelons l’état en France en matière de maîtrise du numérique et d'illectronisme. Certes, nous avons un contexte de croissance du l’usage du numérique (en 2009, 65% de la population se connectait au moins une fois par trimestre, et en 2022, le pourcentage est passé à près de 85% : (INSEE  : https://www.insee.fr/fr/statistiques/2385835 ). Cependant, beaucoup d’entre nous ne sont pas confortables avec Internet.

9 millions de français sont en situation d’illectronisme, sans compétences numériques essentielles. 1/3 des adultes renonce à réaliser des démarches administratives dématérialisées. 24% de la population ne sait pas obtenir de l’information sur internet. Mais ces millions parmi nous doivent, comme tout citoyen, être informés et sollicités en terme compréhensible lors de notre vie démocratique.

 

Évoquons aussi trois conditions techniques actuelles pour le fonctionnement des systèmes d’IA :

• Volumes de données nécessaires : Les IA nécessitent des importants volumes de données stockées dans des systèmes nommés « big data », soulevant la question de la protection des données personnelles (voir www.cybermalvellance.gouv). En 2014, les données de 87 millions d'utilisateurs Facebook sont siphonnées par la société Cambridge Analytica, avec l'autorisation de Facebook.

• Puissance informatique : L’usage des data centers a un impact environnemental notable (gaz à effet de serre, eau, métaux précieux…). Pour mémoire, le numérique représente 3 à 4 % des émissions mondiales de gaz à effet de serre (voir le site de l’ARCEP : « L'empreinte environnementale du numérique »).

• Vulnérabilité des réseaux : Les réseaux et infrastructures restent exposés aux risques dans un contexte géopolitique instable, avec des conséquences sur la sécurité des démocraties.

Nous rentrons dans un contexte de démocratisation de l'utilisation de l'IA et d’extension des usages (dont la robotique).  

 

 

 

Nous présentons ci-dessous les principaux risques de l'IA.

Les risques de l'IA et le web

 

Risque sur notre capacité individuelle
à agir sur le monde, notre agentivité

 

Le livre « Pour une nouvelle culture de l’attention » (Odile Jacob avril 2024) détaille précisément les éléments conduisant à cette situation de risques sur notre notre agentivité, c'est à dire notre capacité individuelle à agir, donc à produire des effets causaux sur lui par nos propres actions…Les interfaces Internet pilotées par l‘IA interviennent sur ces 2 points :


1.    Le « contrôle exécutif » de nos actions et notre attention au monde (numérique) qui incluent diverses fonctions et capacités de : 
-    création et maintien de l’information la plus pertinente pour arriver à notre objectif, 
-    maintien de l’attention sur ce qu’on veut atteindre,
-    mise en œuvre des processus d’inhibition des autres comportements inappropriés à notre action-.

2.    Le manque de connaissance de ce que font réellement les algorithmes qui sont censés nous apporter de l’aide à la décision. 


L’IA utilisée dans les interfaces des réseaux sociaux, des sites marchands, des sites ou blogs à vue politique… agit en grande partie sur notre agentivité par la fatigue de l’attention générée sur internet. La multiplication des stimuli suscite de l’effort pour résister aux distracteurs… Les sollicitations incessantes des interfaces numériques (messages, vidéos, notifications, etc.), sans pause de « restauration de notre attention », aggravent le phénomène de fatigue intentionnelle. Plusieurs impacts de la fatigue de l’attention ont été démontrés : 

    • Une baisse de l’efficacité de notre mémoire à long terme, 
    • la multiplication des fautes d’inattention, d’erreurs humaines
    • L’augmentation de la probabilité de re-partager de fausses informations sur les réseaux sociaux sans en vérifier la véracité ni les sources. En effet, cette démarche de vérifier la véracité et les sources d’information est prenante (« time consuming ») et exigeante, pas dans l’esprit d’une interaction rapide avec Internet. 

Le poison de l'IA utilisée dans les interfaces des réseaux sociaux, sites marchands, sites ou blogs à vue politique… agit sur notre agentivité par exacerbation des techniques de  capture et d’exploitation de notre attention par l’hyperpersonnalisation des messages et l’optimisation des mécanismes émotionnels. Les marketeurs parlent « de nous informer et former », nous les usagers d’internet, comprenez de nous « mettre en condition d’acheter » leurs produits par internet et/ou former nos opinions, et souvent, pour atteindre leur objectif, de nous abrutir ou nous rendre « accrochés ». Nir Eyal, un des anciens étudiants de Fogg [Brian Jeffrey Fogg, directeur du Laboratoire des technologies persuasives de Standford], qui a ensuite conçu pendant plusieurs années des publicités placées sur Facebook, est l’auteur de ‘Hooked : How to build habit-forming products’ (‘Accroché : comment construire des produits addictifs’) ». 


« La façon dont les réseaux sociaux et les applications numériques capturent notre attention, consiste à assimiler celle-ci aux stratégies des casinos, de l’industrie du tabac, et encore de l’industrie alimentaire avec les aliments sucrés » . « Serge Tisseron résume les enjeux de ces nouvelles formes de « conversations personnalisées avec chacun d’entre nous » : « l’attention morcelée suscités aujourd’hui chez les utilisateurs du Net, va […] se substituer une relation nouvelle de l’homme à ces technologies numériques : de longue conversation suscitant un éventail d’émotions large et varié, nourri par l’illusion d’une présence réelle, attentive et chaleureuse…. Différents risques ont d’ores et déjà pu être identifiés et analysées, notamment par la CNIL (Avis sur les assistant vocaux 2021) » (Extrait livre « Pour une nouvelle culture de l’attention »).aux fondamentaux de l’enseignement : l’esprit critique, la complexité, la collaboration, la créativité, l’incertitude…

 

Citons aussi  le livre " La civilisation du poisson rouge - Petit traité sur le marché de l'attention  de "Bruno Patino

"«  Le poisson rouge tourne dans son bocal. Il semble redécouvrir le monde à chaque tour. Les ingénieurs de Google ont réussi à calculer la durée maximale de son attention  : 8 secondes. Ces mêmes ingénieurs ont évalué la durée d’attention de la génération des millenials, celle qui a grandi avec les écrans connectés  : 9 secondes. Nous sommes devenus des poissons rouges, enfermés dans le bocal de nos écrans, soumis au manège de nos alertes et de nos messages instantanés.
Une étude du Journal of Social and Clinical Psychology évalue à 30 minutes le temps maximum d’exposition aux réseaux sociaux et aux écrans d’Internet au-delà duquel apparaît une menace pour la santé mentale. ... Nous sommes tous sur le chemin de l’addiction  : enfants, jeunes, adultes."   

 

Le web, aujourd'hui alimenté en grande partie par des systèmes IA, peut nous apporter de la connaissance, si nous gérons bien notre navigation devant les écrans, mais ne fournit pas d'aide à l'acquisition des fondamentaux de l’enseignement : l’esprit critique, la complexité, la collaboration, la créativité, l’incertitude…  

 

Risque pour notre souveraineté
dans un cadre géopolitique et économique mouvant

Nous avons tous conscience que le monde numérique et l'IA sont dominés principalement par des sociétés américaines et chinoises. Le sommet sur l'IA à Paris le 10 et le 11 février a donné lieu à beaucoup d'articles d'analyse sur ce thème de notre souveraineté française et européenne. Ce point a été présenté par de nombreux médias, et n'est pas développé aujourd'hui dans cet article. 

Dernièrement, les Etats Unis marchandent leur protection dans le cadre de l'OTAN à l'occasion du conflit Ukraine-Russie, garantie de protection "indexée à des marqueurs de loyauté" : achat d'armement aux Etats-Unis, droits de douane désiquilibrée (en particulier sur les services numériques américains peu ou pas taxés), diminution du cadre juridique européen (IA act, DMA, DSA, RGPD...) sur les services numériques en Europe.

 

Risques pour l'Environnement 

 

Le déploiement de l'IA consomme énormément d'eau, d'énergie (et donc émetteur de CO2 aujourd'hui), de métaux précieux. Le rapport SPEC 2014 de l'AFNOR et son rapport pour une IA frugale énoncent des méthodologies de calcul et des bonnes pratiques pour mesurer et réduire l’impact environnemental de l’IA, et pour communiquer avec des allégations justes et vérifiables. Ce point a été présenté par de nombreux médias, et n'est pas développé dans cet article. 

 

Risque sur nos démocraties et la gestion de nos politiques publiques

Le développement de l’Intelligence artificielle peut permettre une surveillance de l’État. Des projets tels que l’initiative Skynet de la Chine montrent comment l’IA peut être utilisée pour surveiller et contrôler les populations, ce qui peut conduire à une érosion des normes démocratiques. Ces systèmes s’appuient sur l’IA pour collecter de grandes quantités de données sur les citoyens, en leur attribuant des notes de crédit social qui affectent leur statut social et leurs libertés.

Rappelons aussi qu'avec l'IA, des images, textes, vidéos peuvent être créés pour nous donner une impression d'avoir une information sur le réel, alors que des politiques et des puissances étrangères utilisent cet outil pour fabriquer de fausses informations. Sans information correcte pour chaque citoyen, la démocratie ne peut pas fonctionner. 

 

Par ailleurs, notre relation à l'administration de nos états peut devenir plus opaque. Citons l'article de Hubert Guillaud du

"L’IA prédictive comme générative semble offrir une multitude d’avantages à l’élaboration des politiques publiques : de l’analyse de données complexes à l’optimisation des ressources. Elle semble à la fois être capable d’apporter une vision globale et d’identifier les leviers permettant de la modifier. Recourir à l’IA signifie mettre en place des politiques conduites par les données, ce qui permet d’assurer une forme d’objectivité, notamment quant il s’agit de rationner le service public…  Mais, cette production de solutions politiques semble oublier que l’IA est incapable de résoudre les problèmes structurels. Elle propose des solutions performatives qui obscurcissent et amplifient les problèmes, explique l’iconoclaste Dan MacQuillan dans un article pour la Joseph Rowntree Foundation, une association britannique de lutte contre la pauvreté, qui a initié une réflexion sur l’usage de l’IA pour le bien public. Dan McQuillan est maître de conférence au département d’informatique de l’université Goldsmiths de Londres. Il est l’auteur de Resisting AI, an anti-fascist approach to artificial intelligence (Résister à l’IA, une approche anti-fasciste de l’intelligence artificielle, Bristol University Press, 2022, non traduit) ....   McQuillan rappelle que l’IA, par principe, consiste à produire des corrélations réductrices plutôt que des analyses causales. « La complexité de l’IA introduit une opacité fondamentale dans le lien entre les données d’entrée et les résultats, rendant impossible de déterminer précisément pourquoi elle a généré un résultat particulier, empêchant ainsi toute voie de recours".

 

Risques sur le monde du travail

Un rapport du Fonds monétaire international (FMI), élaboré à l’occasion du Forum économique mondial 2024, à Davos, soulignait que 40 % des emplois dans le monde pourraient être impactés par l’IA.

Depuis 20 ans, les études se multiplient sur l’automatisation et les risques de disparition du travail : 

  • En 2017, le Conseil d’orientation pour l’emploi estimait que 10% des emplois seraient menacés de disparition d’ici 2030 ans en France.
  • En 2013, deux chercheurs de l’Université d’Oxford, Frey & Osborne, prédisent 47 % d’emplois détruits d’ici 20 ans aux États-Unis.
  • En 2014, le cabinet Roland Berger estimait que 42% des emplois seraient menacés en France d’ici 20 ans.
  •  En 2017, le Conseil d’orientation pour l’emploi prévoyait quant à lui, suivant une autre méthode, que 10 % des emplois étaient menacés de disparition, mais que la moitié des emplois seraient potentiellement automatisés à plus de 50 %.
  • En 2018, l’OCDE soulignait que la proportion d’emplois automatisables varie grandement en fonction des pays de 40 % dans certains à 4% dans d'autres.
  • Mais certains sont plus pessimistes. « Quelque 800 000 emplois pourraient être détruits par l’IA générative, en France, au tournant de la décennie », selon une étude du cabinet Roland Berger de novembre 2023

 

Dans le processus de développement ("fabrication") de l’Intelligence artificielle, de nombreuses personnes, en particulier dans les régions économiquement moins développées, comme au Kenya ou Madagascar, se retrouvent dans des situations d’exploitation. Ces travailleurs sont souvent chargés de la labellisation des données, un processus essentiel mais peu connu dans le domaine de l’apprentissage automatique, pour des salaires bien inférieurs au niveau de vie.

 

IA, activité et compétitivité des entreprises

La mission d’information relative aux effets de l’IA sur l’activité et la compétitivité des entreprises françaises, créée en mars par la commission des Affaires économiques de l’Assemblée nationale a rendu son rapport. Les co-rapporteurs, les députés Antoine Golliot et Emmanuelle Hoffman ont formulé 70 recommandations pour que l’IA devienne « un levier de compétitivité et de souveraineté ». Le rapport dresse pourtant une analyse nuancée et souligne que la diffusion de l’IA reste encore très inégale et que son impact sur la productivité et l’organisation du travail est difficile à évaluer.

l’IA qui nous augmente et l’IA qui nous remplace ?

L’IA peut aider à acquérir des savoirs,  et des savoir-faire dans certains domaines,  mais pas des savoir-êtres que seule la vie collective,  en particulier celle au travail, apporte. Il existerait aujourd’hui un courant de pensée selon lequel 

  • l’IA ne remplacera pas les emplois dans une grande majorité de métiers, mais 
  • les personnes qui peuvent utiliser l’IA remplaceront celles qui ne le peuvent pas. 
  • Les outils d’IA générative … peuvent accroître l’efficacité dans pratiquement toutes les tâches ou tous les secteurs d’activité. »

Dans une enquête qualitative menée en 2023 analysant 96 cas d’application d’implémentation de l’IA au sein de différents métiers dans huit pays de l’OCDE, l’économiste Anna Milanez montre que ses effets sur le travail sont nuancés. Les effets sur les travailleurs sont positifs ou négatifs selon les situations (gain de temps ou de confort, accroissement de la surveillance des salariés, solitude, surcharge cognitive, etc.). 

 

Daron Acemoglu, prix Nobel d’économie 2024, dans un article du journal Le Monde du 29 décembre 2024, souligne que, pour les entreprises qui se lanceraient dans les technologies numériques sans une idée claire de la manière dont elles pourraient améliorer la productivité, « son déploiement massif en remplacement des travailleurs humains aboutit à tous les inconvénients, sans aucun avantage… Tragique pour les travailleurs, tragique pour la vie sociale et politique, tragique parce que nous aurions alors manqué une formidable opportunité… L’IA est une technologie de l’information… (qui) a pour fonction de passer au crible d’immenses quantités d’informations... ». Nous avons aujourd’hui une abondance d’informations, « mais les informations utiles se font rares… (et ces informations utiles) stimulent la productivité ». L’IA doit donc s’appliquer à des problématiques ou elle est capable de fournir de meilleures informations. « Nous avons besoin d’un paradigme industriel qui, plutôt que célébrer la supériorité des machines, met en avant leur avantage principal : l’amélioration et l’élargissement des capacités humaines ».

 

 

Risque d'une IA "agent" (qui agit sans contrôle humain),
risque d’un « super-intelligence »

Losque ces systèmes sont conçus pour prendre des actions pour nous ("IA agent"), il existe un risque que ces systèmes effectuent des actions problématiques, comme effectuer des transactions non autorisées, usurper l'identité d'une personne, déclencher une arme létale.... La réduction de la surveillance humaine constitue la principale vulnérabilité de ces systèmes. 
Des programmeurs-concepteurs, avec un bonne intention d’être « performant », peut développer une IA qui conduit à des situations globales non satisfaisantes, dangereuses, sur un principe « l’IA doit devenir plus gros, plus puissant (plus de matériel, plus d’énergie…) pour être performant  » jusqu’au moment ou une IA serait capable de s’améliorer elle-même, conduisant logiquement à rentrer dans un terrain inconnu de « super-intelligence » incompréhensible pour nos cerveaux de primate. D’où l’importance de sécurité de l’IA qui implique un principe de contrôle s’opposant à « l’économie de marché » sans garde-fou privilégiant le dogme de la compétition entre industries. C’est la problématique de laisser l’avenir des êtres humaines entre des mains privées. Des actions sont en cours aujourd’hui :

  1. Au niveau des états : création de structures en charge de s’assurer la sécurité des IA, et mise en place de textes legistlatifs comme celles de l'Europe. Citons : 
    • A.I. safety Institut aux Etats Unis
    • AI Safety institut de l’UK (dans le « Department of Science, Innovation and Technology » 
    • L’AI act de l’Europe, et les structures de l'Europe concernés par le contrôle des réglementations
    • Le projet de loi SB1047 en Californie encadrant l’utilisation de l’IA par les sociétés
    •  …
  2. Au niveau des entreprises productrices d’IA (DeepMind, Anthropic, OpenAI, Mistral…) consciente de l’IA et consacrant des moyens de contrôle de leur système d’IA... , mais peu d'informations vérifiables circulent
  3. Au niveau des citoyens, nous devons faire part de nos inquiétudes dans les sondages, et dans les urnes pour le contrôle d’une l’IA.  

 

 

 

 Conclusion

 

L’IA, à penser comme un outil, est « censé permettre aux êtres humains d’effectuer des tâches qui leur sont difficiles », plutôt que de remplacer des êtres humains comme certains producteurs d’IA veulent nous faire croire. Nous avons besoin d’une IA qui vient « en aide aux travailleurs, protège nos données et notre vie privée, améliore notre écosystème d’information et renforce la démocratie… Pour y parvenir, nous avons besoin d’un nouveau narratif dans les médias, dans les cercles politiques et dans la société civile, ainsi que de meilleurs réglementations et mesures politiques ».( Daron Acemoglu, prix Nobel d’économie 2024, article du journal Le Monde du 29 décembre 2024). Certains discours ont mis en avant des « promesses, prophéties, mythes, prédictions » qui se sédimentent en idées politiques, en particulier la destruction de la régulation, dans une représentation d’un futur si lointain qu’il permet de ne plus être fixé dans un cadre politique normé.
Dans le contexte actuel d’un secteur numérique dominé par quelques entreprises, bâties en très grande partie sur la production de publicités numérique et avec un objectif de la fabrication des opinions des utilisateurs de leurs produits (qui s’appuient sur la collecte des données des utilisateurs et leur addiction aux plateformes), espérons que collectivement, au niveau national, européen et mondial, nous devons arriver à fixer un nouveau cap à l’IA. Ce monde numérique est un enjeu important de géopolitique dans les circonstances actuelles des relations internationales fragiles. 

 

 

A notre niveau individuel, nous devons reprendre le contrôle de notre attention, et notre capacité à agir devant ce monde numérique envahissant et souvent abrutissant, pour assurer entre autres notre rôle de citoyen éclairé. Et à ce niveau de citoyen, nous devons tous exiger de nos politiques, en s’appuyant sur des courroies de transmission comme des associations ou partis politiques, qu’ils s’engagent à agir rapidement sur une gouvernance du Numérique qui défend l’intérêt général, la lutte contre la désinformation, la protection du droit de propriété intellectuelle... Il y a un impératif absolu d’assurer une gouvernance forte et la mise en place d’une réglementation de l’IA pour son utilisation au bénéfice de l’intérêt général. 

« Retrouver du sens dans les contradictions de la modernités », c’est « trouver des formes de conciliation …entre ce que l’on ressent, ce que l’on comprend, et là ou nous voulons aller ». (« Un sens à la vie » (puf, 2024) de Pascal Chabot).

Nous devons retrouver du sens dans l’utilisation de l’IA.

 

 

Pour aller plus loin : 

 

 

 

Quelques sites qui nous ont paru intéressants (Cette liste n'a pas la prétention d'être exhaustive)

 

Liste de quelques sites pour faire votre expérience de site d’IA 

 

Liste de quelques livres qui nous ont paru intéressants (Cette liste n'a pas la prétention d'être exhaustive): 

  • livre de Eric Sadin "L’Intelligence artificielle ou l’enjeu du siècle – Anatomie d’un antihumanisme radical "
    (L’échappée, 2018).
  • livre de Gérard Bronner "déchéance de rationalité" chez Grasset qui propose de comprendre notre impuissance contemporaine face à ce que beaucoup appellent la post truth society (« ère post-vérité ») du fait de la montée en puissance de l'usage social d'internet, de la blogosphère et des médias sociaux. 
    livre du journaliste Thibault Prévost, Les prophètes de l’IA (Lux éditeur, 2024) 
  • livre roman MANIAC du Chilien Benjamin Labatut se déploie de 1933 à 2019 autour de trois personnages historiques : le physicien autrichien Paul Ehrenfest, le mathématicien américain John von Neumann et le champion de go sud-coréen Lee Sedol. S'il s'agit d'un triptyque, c'est parce que le livre relate l'avènement d'un nouveau Dieu: l'Intelligence Artificielle.
  • livre « Pour une nouvelle culture de l’attention » (Stefana Broadbent, Florian Forestier, Mehdi Khamassi, Célia Zolynski) Odile Jacob
    •    …

contact@egalitenumerique.fr

12 rue du Moulin de Coudret
16140 Oradour

Par e-mail

Par courrier