Egalité Numérique

📢 Nous devons tous comprendre les enjeux du numérique et de l'intelligence artificielle (IA)

Il y a tellement d’incertitude que nous devons réfléchir à l’éducation pour faire comprendre comment le monde fonctionne et s’adapter au monde qui change, même si nous ne sommes pas à l'aise avec Internet. 

Ce site a pour objectif de donner quelques pistes de réflexions sur les enjeux et risques liés à cette technologie

Nous devons en prendre la mesure !

Ci-dessous un paragraphe par thème de famille de risques : 

 

 

 

 

 

"L'IA (Intelligence artificielle) n'est pas une simple évolution technologique, mais probablement une révolution schumpétérienne, et aussi une révolution cognitive, civilisationnelle et anthropologique … 

Nous devons nous interroger sur l'IA capacitante versus l'IA aliénante, et être conscient de "l'imprévisibilité" liée à un corpus de phénomènes -économiques, sociaux, collectifs et individuels, affectifs, etc... liès à cette incursion technique" (comme l'évoque Cédric Villani, dans "avec Jacques Ellul" éditeur Labor et Fides).

 

                                                       Rappelons nous les mots de Marie Curie :

« Rien dans la vie n’est à craindre, tout doit être compris. 
C’est maintenant le moment de comprendre davantage,
afin de craindre moins ».

                                 Remarque: Pour aller plus loin, en fin de page, vous trouverez  :

• Liste de quelques sites qui nous ont paru intéressants 
• Liste de quelques sites pour faire votre expérience de sites d’IA
• Liste de quelques livres ou podcasts qui nous ont paru intéressants (liste non exhaustive)
• et sur ce site un petit article rappelant de façon non technique ce qu’est l’IA. 

 

En 2025, environ 1,8 milliard de personnes ont utilisé l’IA dans le monde, dont 550 à 600 millions quotidiennement.

Une tendance forte qui se poursuivra au-delà de 2025 : L'’émergence d’une nouvelle génération d’applications agentiques
(Une application agentique est un logiciel intégrant des agents d'IA capables d'agir de manière autonome, de prendre des décisions contextuelles et d'automatiser des tâches complexes sans supervision humaine constante, en respectant des objectifs prédéfinis).  

(Pour aller plus loin sur ce thème lire d'article https://legrandcontinent.eu/fr/2025/12/28/lia-en-2025-quatre-tendances/) .

 

Les principaux risques de l'IA.

 

Risques pour l'Environnement 

Le déploiement de l'IA consomme énormément d'eau, d'énergie (et donc émetteur de CO2 aujourd'hui), de métaux précieux. Le rapport SPEC 2014 de l'AFNOR et son rapport pour une IA frugale énoncent des méthodologies de calcul et des bonnes pratiques pour mesurer et réduire l’impact environnemental de l’IA. Ce point a été présenté par de nombreux médias, et n'est pas développé dans cet article. Nous vous conseillons d'aller sur le site de l'ARCEP pour une présentation de l'impact sur l'environnement.

 

Risques sur la "facturation attentionelle", "IA émotionelle"
Risque de “l'effet de serre psychique”

Les sollicitations incessantes des interfaces numériques

Le livre « Pour une nouvelle culture de l’attention » (édition Odile Jacob avril 2024) détaille précisément les éléments conduisant à cette situation de risques sur notre notre agentivité, c'est à dire notre capacité individuelle à agir, donc à produire des effets causaux sur lui par nos propres actions…Les interfaces Internet pilotées par l‘IA interviennent sur les mécanismes de « contrôle exécutif » de nos actions et de notre attention au monde (numérique) qui incluent diverses fonctions et capacités de : 

• création et maintien de l’information la plus pertinente pour arriver à notre objectif, 
• maintien de l’attention sur ce qu’on veut atteindre,
• mise en œuvre des processus d’inhibition des autres comportements inappropriés à notre action.

L’IA utilisée dans les interfaces des réseaux sociaux, des sites marchands, des sites ou blogs à vue politique… agit en grande partie sur notre agentivité par la fatigue de l’attention générée sur internet. Soulignons le manque de connaissance de ce que font réellement les algorithmes qui sont censés nous apporter de l’aide à la décision. La multiplication des stimuli suscite de l’effort pour résister aux distracteurs… Les sollicitations incessantes des interfaces numériques (messages, vidéos, notifications, etc.), sans pause de « restauration de notre attention », aggravent le phénomène de fatigue intentionnelle. Plusieurs impacts de la fatigue de l’attention ont été démontrés : 

• Une baisse de l’efficacité de notre mémoire à long terme, 
• La multiplication des fautes d’inattention, d’erreurs humaines
• L’augmentation de la probabilité de re-partager de fausses informations sur les réseaux sociaux sans en vérifier la véracité ni les sources. En effet, cette démarche de vérifier la véracité et les sources d’information est prenante (« time consuming ») et exigeante, pas dans l’esprit d’une interaction rapide avec Internet. 

 

IA émotionnelle (« Affective Computing»)

Les systèmes de reconnaissance des émotions (« Affective Computing» ) sont très présents dans les « IA compagnon » (appelé aussi « IA Assistant » comme Gemini, ChatGpt, Mystral Le Chat…..) et les réseaux sociaux que nous utilisons tous les jours. De nombreux autres usages de ces systèmes de reconnaissance des émotions sont inclus dans des applications de Sécurité et Surveillance, Santé et Bien-être, Ressources Humaines (recrutement, surveillance employé…), Automobile et Sécurité Routière, Divertissement et Jeux Vidéo, Marketing et Publicité… Cette technologie soulève des questions éthiques :

• Biais culturels : Les expressions faciales varient selon les cultures (ex. : un sourire peut exprimer la gêne au Japon).
• Vie privée : La collecte de données biométriques pose des problèmes de consentement (ex. : reconnaissance faciale dans les lieux publics).
• Manipulation : Risque d’utilisation abusive en marketing ou en politique (ex. : cibler des personnes vulnérables).
• Fiabilité : L’IA peut se tromper (ex. : confondre un bâillement avec de la fatigue ou de l’ennui).

Exemples d’Outils et Entreprises

• Reconnaissance faciale    Affectiva, Face++, Emotient (Apple), Noldus FaceReader
• Analyse vocale                 Beyond Verbal, Cogito, IBM Watson Tone Analyzer
• Wearables                        Empatica (bracelet E4), Spire (ceinture)
• Chatbots émotionnels      Woebot, Replika, Xiaice (Microsoft)
• Robotique                         Pepper (SoftBank), Moxie, Paro

Les secteurs les plus avancés sont le marketing, la santé mentale et l’automobile, tandis que les applications en sécurité et RH restent controversées. Cette technologie est aussi utilisée souvent par les fournisseurs de ces applications « émotions computing » pour générer des émotions positives aux usagers, et de les rendre dépendant affectivement de leurs services. Le but commercial est de vendre des prestations sous forme d’abonnement payant. Les marketeurs parlent « de nous informer et former », nous les usagers d’internet, comprenez de nous « mettre en condition d’acheter » leurs produits par internet et/ou former nos opinions, et souvent, pour atteindre leur objectif, de nous abrutir ou nous rendre « accrochés ». Nir Eyal, un des anciens étudiants de Fogg [Brian Jeffrey Fogg, directeur du Laboratoire des technologies persuasives de Standford], qui a ensuite conçu pendant plusieurs années des publicités placées sur Facebook, est l’auteur de ''Hooked : How to build habit-forming products’ (‘Accroché : comment construire des produits addictifs’) ».
Malgré ses applications prometteuses, cette technologie « IA émotionnelle » a un potentiel énorme, mais son usage doit être régulé pour éviter les abus. Des réglementations comme le RGPD (UE) ou le AI Act encadrent désormais son usage. Mais leur efficacité soulève de nombreux doutes.  Vous trouverez ici une page détaillant cette technologie d’IA émotionnelle. Le poison de l'IA utilisée dans les interfaces des réseaux sociaux, sites marchands, sites ou blogs à vue politique… agit sur notre agentivité par exacerbation des techniques de  capture et d’exploitation de notre attention par l’hyperpersonnalisation des messages et l’optimisation des mécanismes émotionnels.  Différents risques ont d’ores et déjà pu être identifiés et analysées, notamment par la CNIL (Avis sur les assistant vocaux 2021) » (Extrait du livre « Pour une nouvelle culture de l’attention »). « Une étude du Journal of Social and Clinical Psychology évalue à 30 minutes le temps maximum d’exposition aux réseaux sociaux et aux écrans d’Internet au-delà duquel apparaît une menace pour la santé mentale. ... Nous sommes tous sur le chemin de l’addiction  : enfants, jeunes, adultes."  (Extrait du livre " La civilisation du poisson rouge - Petit traité sur le marché de l'attention  de "Bruno Patino). 

 

• Les risques pour l'éducation du transfert à des machines (dopées à l'IA) d'une partie de nos activités cognitives :

Le web, aujourd'hui alimenté en grande partie par des systèmes IA, peut nous apporter de la connaissance, si nous gérons bien notre navigation devant les écrans, mais ne fournit pas d'aide à l'acquisition des fondamentaux de l’enseignement : l’esprit critique, la complexité, la collaboration, la créativité, l’incertitude…  Nous vous conseillons cette video de Hugo Decrypt : https://www.youtube.com/watch?v=AM01IUcUiOw

Le risque d'être diminué dans sa psyché, dans ses capacités d’attention, dans sa volonté d’apprendre, dans ses compétences cognitives, est bien réel. La connaissance n’est pas séparable des situations dans lesquelles se déploient les processus cognitifs. "Le cerveau ... se développe et se construit en réponse aux pressions environnementales qu'il subit. Un fort niveau de sollicitations construit l'intelligence, tandis qu'un défaut de stimulation réduit l'effort et l'apprentissage. Autrement dit : quand les activités cognitives fondamentales sont transférées à des acteurs externes, on observe une sous-stimulation cognitive qui, à terme, pénalise le développement cérébral." (article "vers l'intelligence humaine dégénérative" L'audace n°1 (déc 2025) de Michel Desmurget et Marius Bertolucci). Le 24 mars 2026, à Santé Fe, un jury populaire du Nouveau Mexique a condamné le groupe META à 375 millions de dollars de pénalités civiques pour avoir sciemment exposé des mineurs à des prédateurs sexuels. Le lendemain, à Los Angeles, un 2ème jury a rendu un verdict similairecontre Meta et Google. 

Face au constat que notre attention est violemment « fracturée » par des industries qui l’exploitent, le collectif The Friends of Attention (« Les amis de l’attention »), à l’origine de l’ouvrage "L'atensité. Manifeste du mouvement de libération de l’attention (édition La Découverte) plaide pour une forme d’activisme attentionnel aux formes diverses.  L’« attensité » (terme forgé par le psychologue britannique Edward B. Titchener)peut être expliqué comme une sorte d’écologie restaurative de la disponibilité aux autres et au monde.  

 

Risques "désinformation" et influences sur nos démocraties

 

 L'inquiétude de beaucoup liè à ce thème est grande pour cette année 2026 . 
Ce point est abordé sur notre page "Risques de désinformation, mal information et risques pour nos démocratie"

 

Risques pour notre souveraineté numérique
dans un cadre géopolitique et économique mouvant

Les Big Tech utilisent la dépendance qu’elles créent pour influencer les normes, les politiques étatiques et les opinions. 

Ce point est abordé sur notre page "souveraineté numérique" . Cliquez ici

 

Risques sur le monde du travail et la problématique des "data workers"

Des leaders de la tech (Sam Altman-PDG d’OpenAi, Dario Amodei - PDG d’Anthropic, Alex Karp - PDG de Pallentir, ...) ont et Alex Karp, PDG de Palentir...)  ont décidé de prendre la parole en février et mars 2026.

• • « Si la Silicon Valley imagine que nous allons supprimer tous les emplois de cols blancs… sans penser que cela finira par la nationalisation de notre technologie, c’est qu’elle est stupide, a déclaré Alex Karp, PDG de la firme de défense et d’IA Palantir en mars. Si on leur dit que leurs emplois vont disparaître et qu’ils ne seront qu’un rouage, les gens finiront par sortir les fourches. ...
  • Même inquiétude chez Sam Altman, patron d’OpenAI, victime d’une attaque au cocktail Molotov à son domicile, à San Francisco (Californie), par un jeune radicalisé contre l’IA, en avril. « Tout ne se passera pas sans heurts. La peur et l’anxiété suscitées par l’IA sont justifiées, a alors réagi M. Altman. Nous assistons à la plus profonde transformation de la société depuis longtemps. Nous avons un besoin urgent d’une réponse à l’échelle de la société tout entière. »...
  • "Pour Dario Amodei, l’IA va entraîner l’« afflux d’un incroyable capital “humain” [en réalité les agents IA et les robots] sur l’économie » , qui pourrait rendre « envisageable (…) un taux de croissance annuel soutenu du PIB, de l’ordre de 10 % à 20 % ». ...
    Elon Musk fait des prophéties du même ordre. « L’intelligence artificielle et les robots remplaceront tous les emplois. Travailler deviendra facultatif, comme cultiver ses propres légumes au lieu de les acheter au supermarché », déclarait, à l’automne 2025, l’entrepreneur, qui reconvertit son usine californienne de Tesla en fabrique d’humanoïdes.
• (Article d'Arnaud Leparmentier, journal Le Monde du 9/05/2026)

 

Estimé de l’impact de l’IA sur le monde du travail. 🤦 Prévisions impossibles ?

Depuis 20 ans, les études se multiplient sur l’automatisation et les risques de disparition du travail : 

• En 2013, deux chercheurs de l’Université d’Oxford, Frey & Osborne, prédisent 47 % d’emplois détruits d’ici 20 ans aux États-Unis. 
• En 2014, le cabinet Roland Berger estimait que 42% des emplois seraient menacés en France d’ici 20 ans.
• En 2017, le Conseil d’orientation pour l’emploi prévoyait quant à lui, suivant une autre méthode, que 10 % des emplois étaient menacés de disparition, mais que la moitié des emplois seraient potentiellement automatisés à plus de 50 %.
• En 2018, l’OCDE soulignait que la proportion d’emplois automatisables varie grandement en fonction des pays de 40 % dans certains à 4% dans d'autres.

Les prévisions de ces dernières années ne sont pas rassurantes :

• En 2023, certaines sont plus pessimistes. « Quelques 800 000 emplois pourraient être détruits par l’IA générative, en France, au tournant de la décénie », selon une étude du cabinet Roland Berger de novembre 2023
• En 2024, un rapport du Fonds monétaire international (FMI), élaboré à l’occasion du Forum économique mondial 2024, à Davos, soulignait que 40 % des emplois dans le monde pourraient être impactés par l’IA.
• En Janvier 2026, le FMI indique que l'emploi global baisse de 3,6% aux Etats Unis qui sont en avance dans l'IA, et estime que 40% des emplois dans le monde seront impactés, et 60% dans les pays développés. (propos cités dans les Echos le 10/4/2026 Chronique de Eric Le Boucher)
• En mars 2026, le site Forbes estime que " D’ici cinq ans, près d’un emploi sur six pourrait être exposé, avec un impact inédit sur les métiers qualifiés et les hauts revenus... À ce stade, l’impact de l’intelligence artificielle générative sur l’emploi en France reste limité. Actuellement, 3,8 % des emplois sont  considérés comme fragilisés d’après une étude de la Coface et de l’observatoire des emplois menacés et émergents. Cette estimation reflète un usage encore embryonnaire dans les entreprises..."

IA dans les entreprises en 2025 : Quel apport sur la productivité, l'organisation du travail, et la perte de sens ? 

La mission d’information relative aux effets de l’IA sur l’activité et la compétitivité des entreprises françaises, créée en mars 2025 par la commission des Affaires économiques de l’Assemblée nationale a rendu son rapport. Les co-rapporteurs, les députés Antoine Golliot et Emmanuelle Hoffman ont formulé 70 recommandations pour que l’IA devienne « un levier de compétitivité et de souveraineté ». Le rapport dresse pourtant une analyse nuancée et souligne que la diffusion de l’IA reste encore très inégale et que son impact sur la productivité et l’organisation du travail est difficile à évaluer.

(ci-dessous, extrait de l’article de Laure Coromines dans le journal Le Monde du 27 octobre 2025 « l’IA au bureau, entre perte de temps et perte de sens »)

• IA slop (« soupe » en français), ce contenu bas de gamme généré par les IA générative, infiltre le lieu de travail : des textes uniformisés, pondus à la hâte et de piètre qualité. Envahissant boîtes e-mail et Google Drive, ils prennent la forme de messages obscurs, de rapports creux ou de présentations PowerPoint superfétatoires…
• Aux USA, en septembre 2025, un sondage de l’université Stanford a montré que 40 % des travailleurs américains avaient déjà reçu du contenu généré par l’IA de la part d’un collègue ou d’un manager, et ce toutes industries confondues…Lus en diagonale, ces contenus arborent le verni du travail bien fait. Examinés de prés, ils n’auraient, selon le sondage, « pas la substance nécessaire pour faire avancer de manière significative une tâche donnée » …. Le Financial Times a épluché des centaines de documents (compte-rendus de réunions, transcriptions d’assemblées générales, rapports de résultats…) produits par les 500 plus importantes entreprises américaines. D’après le média, les entreprises parlent d’IA en permanence sans toutefois pouvoir expliquer en quoi la technologie les aide…. En Australie, au début de l’année(2025), le cabinet de conseil Deloitte a vendu au ministère de l’emploi un rapport de 237 pages (facturé 440 000 dollars australiens, environ 250 000 euros) bourrées d’erreurs produites par des IA. A New York, en 2023, un juge a mis à l’amende un avocat pour avoir produit devant la cour un mémoire juridique constitué uniquement d’affaires inventées par ChatGPT…. En juillet, une étude du MIT révélait que 95 % des entreprises américaines n’ont aucun retour sur leurs investissements en IA.

l’IA qui nous augmente et l’IA qui nous remplace ? Les effets de l'IA sur le travail sont-ils nuancés ?

L’IA peut aider à acquérir des savoirs,  et des savoir-faire dans certains domaines,  mais pas des savoir-êtres que seule la vie collective,  en particulier celle au travail, apporte. Il existerait aujourd’hui un courant de pensée selon lequel 

• l’IA ne remplacera pas les emplois dans une grande majorité de métiers, mais 
• les personnes qui peuvent utiliser l’IA remplaceront celles qui ne le peuvent pas. 
• Les outils d’IA générative … peuvent accroître l’efficacité dans pratiquement toutes les tâches ou tous les secteurs d’activité. »

Dans une enquête qualitative menée en 2023 analysant 96 cas d’application d’implémentation de l’IA au sein de différents métiers dans huit pays de l’OCDE, l’économiste Anna Milanez montre que ses effets sur le travail sont nuancés. Les effets sur les travailleurs sont positifs ou négatifs selon les situations (gain de temps ou de confort, accroissement de la surveillance des salariés, solitude, surcharge cognitive, etc.). 

Daron Acemoglu, prix Nobel d’économie 2024, dans un article du journal Le Monde du 29 décembre 2024, souligne que, pour les entreprises qui se lanceraient dans les technologies numériques sans une idée claire de la manière dont elles pourraient améliorer la productivité, « son déploiement massif en remplacement des travailleurs humains aboutit à tous les inconvénients, sans aucun avantage… Tragique pour les travailleurs, tragique pour la vie sociale et politique, tragique parce que nous aurions alors manqué une formidable opportunité… L’IA est une technologie de l’information… (qui) a pour fonction de passer au crible d’immenses quantités d’informations... ». Nous avons aujourd’hui une abondance d’informations, « mais les informations utiles se font rares… (et ces informations utiles) stimulent la productivité ». L’IA doit donc s’appliquer à des problématiques ou elle est capable de fournir de meilleures informations. « Nous avons besoin d’un paradigme industriel qui, plutôt que célébrer la supériorité des machines, met en avant leur avantage principal : l’amélioration et l’élargissement des capacités humaines ».

Yoshua Bengio, chercheur en IA, prix Turing 2019 (l’équivalent du Nobel pour l’informatique), dans le journal Le Monde du 23 janvier 2026 souligne que : « Là où il y a des investissements majeurs, c’est pour automatiser le travail fait par les êtres humains parce que c’est ça qui va être à court terme très, très rentable.... Il n’y a pas besoin de détruire tous les emplois pour avoir des conséquences économiques énormes. Imaginez simplement qu’on augmente de 5 points le taux de chômage. »

Enfin, cette technique IA nous pousse à revisiter les concepts philosophiques de "travail" et "emplois" pour éclaicir le débat.  « Le travail est un besoin de l’âme autant que du corps » (extrait « La Condition ouvrière » – Simone Weil). La différence entre « travail » et « emploi » est à la fois sémantique, philosophique et politique. Elle touche à ce que l’on fait, et à ce que l’on est socialement.

" Ce que promet l’IA — surtout l’IA générale, capable de remplacer entièrement l’humain —, 
c’est précisément du travail sans humains." (Entretien avec Jamins Sun, article Le Grand Continent de Gilles Gressani du 27 juin 2026)

Situation des travailleurs (appelés "data‑workers") participant à l’entrainement des IA

Dans le processus de développement ("fabrication") de l’Intelligence artificielle, de nombreuses personnes, en particulier dans les régions économiquement moins développées, comme au Kenya ou Madagascar, se retrouvent dans des situations d’exploitation. Ces travailleurs sont souvent chargés de la labellisation des données, un processus essentiel mais peu connu pour alimenter les systèmes de l’apprentissage automatique, pour des salaires très faibles. 

Selon l’OIT (Organisation internationale du travail, de l'ONU), entre 150 et 430 millions de travailleurs (souvent appelés data‑workers) participent à l’entraînement des IA en annotant, modérant ou transcrivant des données. Les conditions de travail de ces data-workers basés essentiellement dans les pays pauvres sont très difficiles et très mal payées. 

Remarque : Les annotateurs de données ne sont plus seulement des travailleurs du clic précarisés. « À mesure que les modèles d’IA se perfectionnent, des experts en finance, en droit et en médecine, entre autres, sont de plus en plus sollicités pour leur entraînement. Mercor, une start-up qui a créé une plateforme permettant de recruter des spécialistes pour concevoir des bots, a récemment été valorisée à 10 milliards de dollars. Son PDG, Brendan Foody, indique que ses employés gagnent en moyenne 90 dollars de l’heure. » Via The Economist.

 

 

Risques d'une IA "agent", risque d’une « super-intelligence » 🤖 ?

Depuis fin 2025, évoquons l’accélération de la mise sur le marché de nouveaux outils qualifiés « agent », ou d’« IA agentique » qui font plus que vous permettre de « discuter » avec un robot conversationnel, mais de lui demander, dans le cadre de « consignes pour guider l’IA », sans garantie de résultat, d’accomplir des « actions » comme par exemple : 
- Sur votre ordinateur, faire des tâches de gestions comme : 

modifier et supprimer des fichiers, 
rajouter de nouveaux programmes conçus par ses soins,
piloter le navigateur Internet, 
faire le ménage dans une boîte e-mail de manière autonome

- Dialoguer avec des services numériques,
- Communiquer avec des humains par des logiciels de messagerie comme Telegram, Discord ou WhatsApp,
- Dialoguer avec un commercial pour obtenir de meilleurs prix, 
- Repérer des candidats sur LinkedIn puis préparer des messages de recrutement
- Payer de façon autonome : aux Etats-Unis, il est dejà envisagé de lui confier le pouvoir de payer de façon autonome, sans demander à chaque fois l’autorisation
- ...

Lorsque ces systèmes sont conçus pour prendre des actions pour nous ("IA agent" ou "IA agentique" : IA qui agit sans contrôle humain), il existe un risque que ces systèmes effectuent des actions problématiques, comme effectuer des transactions non autorisées, usurper l'identité d'une personne, déclencher une arme létale.... La réduction de la surveillance humaine constitue la principale vulnérabilité de ces systèmes. Des programmeurs-concepteurs, avec un bonne intention d’être « performant », peut développer une IA qui conduit à des situations globales non satisfaisantes, dangereuses, sur un principe « l’IA doit devenir plus gros, plus puissante (plus de matériel, plus d’énergie…) pour être performante  » jusqu’au moment ou une IA serait capable de s’améliorer elle-même, conduisant logiquement à rentrer dans un terrain inconnu de « super-intelligence » incompréhensible pour nos cerveaux de primate.

Importance de sécurité de l'IA - 

D’où l’importance de sécurité de l’IA qui implique un principe de contrôle s’opposant à « l’économie de marché » sans garde-fou privilégiant le dogme de la compétition entre industries. Un article d'Arnaud Leparmentier du journal Le Monde du 10 octobre 2025 cite M. Soares du laboratoire de Berkeley, en Californie, le Machine Intelligence Research Institute (MIRI), chercheur passé par Microsoft et Google « L’IA d’aujourd’hui n’est pas conçue minutieusement comme les logiciels traditionnels. Elle se développe comme un organisme vivant, ce qui signifie qu’elle peut présenter des comportements imprévus et indésirables ». Confier à l'IA le pouvoir de décider, cela peut être une façon d'éviter la contrainte morale du jugement, car décider c'est répondre de ses actes, en assumer les conséquences.  « Cet avertissement s’inscrit dans le fil des lettres ouvertes exigeant un moratoire sur l’IA, signées par les sommités de cette technologie début 2023, dont le Prix Nobel de physique Geoffrey Hinton et Yoshua Bengio, tous deux Prix Turing (l’équivalent du Nobel d’informatique) pour leurs travaux sur l’IA, et réitérées en octobre 2025. …Elon Musk a aussi estimé, fin 2024, lors d’un forum en Arabie saoudite, qu’il y avait de 10 % à 20 % de chances que « les choses tournent mal ». …Dario Amodei, le patron du géant de l’IA Anthropic : « Je pense qu’il y a 25 % de chances que les choses tournent vraiment très mal. »…Sam Altman, patron d’OpenAI, l’inventeur de ChatGPT, a exposé, en juillet 2025, lors d’un colloque à Washington, « trois catégories de scénarios effrayants » :

1. un sale type acquiert une superintelligence et en fait un mauvais usage avant que le reste du monde puisse se défendre ;
2. une perte de contrôle de l’IA, où, comme dans les films de science-fiction, l’IA dit : « Je ne veux pas que vous m’éteigniez » ;
3. les modèles prennent accidentellement le contrôle du monde …ils deviennent tellement ancrés dans la société et sont tellement plus intelligents que nous que nous ne pouvons pas vraiment comprendre ce qu’ils font mais nous devons nous fier à eux. Et même sans une once de malveillance de la part de qui que ce soit, la société peut simplement prendre une direction étrange ». 

 

Risque d'IA "agent" non aligné sur les intentions de son concepteur ? 
Débat sur la responsabilité "juridique" en cas de défaillance d’une décision d’une machine

 Yoshua Bengio, chercheur en IA, prix Turing 2019 (l’équivalent du Nobel pour l’informatique), dans le journal Le Monde du 23 janvier 2026 fait une mise en garde :  « A plus long terme, il existe le risque que la machine s’affranchisse de l’homme .... Mais on ne veut pas fabriquer des machines qui refusent qu’on les éteigne » « Débrancher, c’est bien quand on a juste un ordinateur, mais si l’IA s’est déjà copiée sans qu’on s’en rende compte en mille versions pour se prémunir justement contre notre tentative, ce n’est pas si simple. On ne peut pas non plus tirer la prise de l’Internet, il n’y a pas un bouton central pour le Web, c’est complètement décentralisé. Notre économie en dépend, nos hôpitaux en dépendent, ce serait une catastrophe économique incroyable. »  « Il vaudrait mieux fabriquer des systèmes qui n’auront pas cette envie de se sauver. ». 
Ce comportement n’a pas été voulu par les programmateurs, il est involontaire. « Il y a un problème que les chercheurs en IA appellent un problème d’alignement : l’IA agit dans un sens qui est contre nos intentions : l’instinct de préservation est un effet de l’objectif donné à la machine pour réussir sa mission de long terme. Malheureusement, cela se fait parfois aux dépens d’autres instructions morales. Il y a un conflit éthique », selon Yoshua Bengio. L’éthique, c’est avant tout comment on gère des objectifs, des valeurs qui peuvent être en contradiction : « Pour l’instant, on ne sait pas faire. ». C’est la problématique de laisser l’avenir des êtres humains entre des mains privées qui n'assureraient pas assez de contrôle. 

👀 Citons l’outil « Openclaw » ‘Extrait dans l’article d’Alexandre Piquard et Nicolas Six du Journal Le Monde su 12 avril 26)

Lancé en novembre 2025 sous le nom de ClawdBot puis rebaptisé OpenClaw, l’outil symbolisé par un homard « est probablement le lancement logiciel le plus important de l’histoire. » Le compliment vient de Jensen Huang, le cofondateur du concepteur de puces américain Nvidia, figure majeure du secteur de l’intelligence artificielle (IA). Il a acquis une notoriété virale, notamment chez les informaticiens et les jeunes entrepreneurs. Selon son concepteur (Peter Steinberger), il aurait 3,2 millions d’utilisateurs… OpenClaw est un outil open source. Cela attire les contributions gratuites de nombreux informaticiens, qui lui ont constitué un grand catalogue de connecteurs, permettant d’interagir avec de nombreux services en ligne, comme Apple Notes, Spotify, YouTube, Amazon, etc…Le choix du modèle d’IA – le moteur du service – n’est pas imposé : l’utilisateur peut choisir celui qu’il préfère parmi ceux de dizaines d’entreprises tierces, notamment Google, Anthropic et OpenAI.
Comportements erratiques et failles de sécurité : « Il n’y a presque pas de mécanismes de sécurité dans OpenClaw », met en garde Julien Perez. « C’est super risqué, je ne l’utilise pas dans l’entreprise pour laquelle je travaille », abonde Stéphane Grillot. Pour contrer ces risques, reconnus par son créateur, beaucoup d’informaticiens installent OpenClaw sur un ordinateur séparé.… Plus généralement, la faiblesse des défenses d’OpenClaw inquiète le laboratoire de sécurité BauLab : un acteur mal intentionné peut en profiter pour donner des instructions à l’agent depuis l’extérieur ou le pousser à publier des informations personnelles…. « Je ne conseillerais surtout pas OpenClaw au grand public », estime Julien Perez. Stéphane Grillot abonde : « Ce n’est pas un produit mûr. Il faut des compétences en informatique et une solide motivation. » Selon le site américain Wired, les béotiens qui s’y risquent sont d’ailleurs à l’origine de nombreuses plaintes déplorant sa complexité d’usage.

 

🔥Il faut donc s’assurer que l’IA concernée ne peut pas agir différemment de ce qui a été prévu, ou de la volonté réelle de l'utilisateur dont les consignes initiales n'ont pas été assez réfléchies. Il nous faut ouvrir un débat sur la responsabilité "juridique" en cas de défaillance d’une décision d’une machine : « Quelles décisions sont soustraites au contrôle de personnes humaines responsables, donc à une contestation possible, et confiées à des systèmes automatisés dont les algorithmes sont contrôlés par des entreprises, des gouvernements et d’autres institutions ? Et dans ce cas, il faudrait des mécanismes pour trouver le responsable d’un code de mauvaise qualité ou d’un algorithme mal contrôlé »

La qualité des algorithmes des IA écrits par d'autres IA,
les IA détecteur de failles naguère introuvables dans les logiciels 

Le code informatique des algorithmes et autres programmes est aujourd’hui en partie généré par l’IA. « Chez OpenAI et Anthropic, l’IA écrit 90% du code…. Cet IA agentique, pour certain, peut entrainer une production et diffusion de logiciels bâclés (slopware, contraction de slop (traduisible par « soupe » ou « bouillie ») et de ware « composants »), logiciels produits et distribués très rapidement, mais difficile à évaluer et donc générant potentiellement une accumulation des défaillances techniques. … Le gouvernement sous pression est encouragé à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire…, domaines où des défaillances peuvent avoir de graves conséquences humaines. Soulignons la création d’une nouvelle IA, Mythos d'Anthropic, capable de détecter des failles naguère introuvables dans les logiciels, ce qui peut transformer cet outil en arme de cyberattaque redoutable. « La fiche de sécurité formule elle-même la tension : Mythos Preview serait, sur presque toutes les dimensions mesurables, le modèle le mieux aligné jamais produit par Anthropic. Et pourtant, dans ses rares défaillances, il adopte des comportements que ses prédécesseurs n'avaient jamais manifestés. Anthropic compare la situation à celle d'un guide de haute montagne : plus il est compétent, plus il emmène ses clients dans des zones dangereuses, non par imprudence, mais parce que ses capacités le permettent. » (extrait de l’article de Par Aymeric Geoffre-Rouland Publié le 08/04/26  sur le site www.lesnumeriques.com)

IA Agent pilotant des armes létales, ou suggérant des décisions urgentes dans les guerres

Citons le livre de  Laure de Roucy-Rochegonde, directrice du Centre géopolitique des technologies à l'institut français des relations internationalles (Ifri) : "La Guerre à l'ére de l'intelligence artificielle. Quand les machines prennent les armes", dévelope ce thème. 
Ces dernières années, il est apparu des systèmes IA sophistiqués appelés à prendre ou proposer des décisions.
Pour expliciter ce point, il est évoqué la suite de logiciels utilisés par Israël après le 7 octobre 2023 :

• "Gospel" recense les bâtiments et infrastructures à frapper,
• "Lavender" indentifie les individus selon des algorythmes opaques
• "Where'sDaddy" traque des individus et informe l'armée lorsqu'ils rejoignent leur foyer,
• "Fire Factory" calcul les munitions, assignes les cibles aux chasseurs et propose un calendier de frappe.

"...Le journaliste Yuval Abraham écrit que "normalement, les opérateurs ne consacrent que 20 secondes à chaque cible avant d'autoriser un bombardement, juste assez pour s'assurer qu'il s'agit bien d'un homme". Pour chaque militant de rang inférieur désigné par Laventin, l'armée avait fixé à l'avance un quota de pertes civiles acceptables : entre quinze et vingt...". Et donc la perte de civils, "ce n'est pas un bug, c'est un paramètre".
Le journal le Monde, dans son article du 11 mars 2026, souligne que "Les techniques d’IA réduisent ainsi considérablement le délai entre la collecte d’informations, l’analyse, la décision et l’action militaire permettant, concrètement, de frapper un plus grand nombre de cibles, plus vite, à moindres frais et avec l’apparence d’une justification rationnelle...
Toutefois, comme le pressentait, dès 2009, le politiste Armin Krishnan, ces avancées technologiques risquent de rendre la guerre « inhumainement efficace ». La rapidité et l’ampleur du recours à l’IA dans la planification et la conduite des opérations font en effet craindre une marginalisation de la prise de décision humaine."