« L'IA telle qu'elle est développée alimente un système d'exploitation global »

Collectif Hiatus — 2025-02-18T06:54:03Z

Un collectif, parmi lesquelles Amnesty International et la Ligue des droits de l'homme, recommande, dans une tribune au « Monde », de placer les droits humains et la justice environnementale au cœur de la régulation de l'intelligence artificielle.

10 février 2025 | tiré du site entre les lignes entre les mots
https://entreleslignesentrelesmots.wordpress.com/2025/02/10/lappel-dune-centaine-dong-lia-telle-quelle-est-developpee-alimente-un-systeme-dexploitation-global-manifeste/

L'intelligence artificielle (IA) connaît un développement foudroyant, et nos dirigeants ne semblent pas pressés de réfléchir aux enjeux humains, sociaux et environnementaux de ces nouvelles technologies, uniquement vues sous le prisme de la croissance, des gains de productivité et des profits. L'IA telle qu'elle est développée perpétue cependant les discriminations, aggrave les inégalités, détruit la planète et alimente un système d'exploitation global. Parce que ces constats ne figureront pas au programme officiel du Sommet mondial sur l'IA [qui se tient à Paris les 10 et 11 février], nous, organisations de la société civile, vous les rappelons ici.

Se concentrer uniquement sur d'éventuels futurs risques existentiels à venir de l'IA est un leurre : ces technologies ont déjà des effets très concrets pour les populations les plus vulnérables et les plus discriminées et portent largement atteinte aux droits humains. En s'appuyant sur des bases de données biaisées et en intégrant les préjugés de ses concepteurs, l'IA perpétue les stéréotypes, renforce les inégalités sociales et limite l'accès aux ressources et opportunités. A cela s'ajoute le fait que le déploiement de ces systèmes d'IA s'inscrit dans le contexte des structures discriminatoires et inégalitaires qui existent dans les sociétés du monde entier. Le recours à ces technologies, souvent sur fond de politiques d'austérité, amplifie les discriminations dans l'accès à la santé, à l'emploi, aux services publics ou aux prestations sociales. En témoignent les scandales ayant éclaté ces dernières années : biais sexistes et racistes des algorithmes de santé, algorithme des services de l'emploi autrichien qui refuse d'orienter les femmes vers le secteur informatique, profilage et discrimination des usagers de la Caisse nationale des allocations familiales en France, au Danemark ou aux Pays-Bas.

Or les technologies sont rarement la solution à des problèmes en réalité systémiques. Il est préférable de s'attaquer à la racine de ces problèmes plutôt que de prendre le risque d'aggraver les violations des droits humains avec des systèmes d'IA. Tandis que l'on confie de plus en plus de décisions aux algorithmes, leurs biais peuvent avoir des conséquences dramatiques sur nos vies. Les IA prédictives se substituent à la justice et à la police, risquant d'amplifier le racisme systémique. Par exemple, aux Etats-Unis, une IA calculant les risques de récidive désignait deux fois plus les accusés noirs comme étant « à haut risque » que les accusés blancs. Et quand bien même on réduirait ces biais, se concentrer sur les outils prédictifs nous empêche de penser à des réformes plus globales du système carcéral.

Menaces pour l'Etat de droit

Ces systèmes sont aussi utilisés à des fins de surveillance et d'identification dans le cadre du contrôle des frontières ou de conflits, comme Lavender, cette IA qui, en désignant des cibles terroristes, a provoqué la mort de milliers de civils gazaouis. Et bien souvent, ces technologies sont développées par les pays occidentaux, comme les outils créés par des pays européens utilisés pour surveiller la population ouïghoure en Chine.

Les systèmes d'IA générative sont également instrumentalisés à des fins de désinformation et de déstabilisation par des régimes répressifs et des acteurs privés. « Bots » utilisés pour manipuler l'information sur des questions liées à la santé, désinformation à caractère raciste durant les dernières élections européennes, deepfakes audios et vidéo mettant en scène des candidats aux élections : ces technologies sont autant de menaces pour l'Etat de droit. Les montages crédibles générés par IA sont aussi un danger pour les femmes et les enfants : 96% de ces deepfakes sont des contenus non consentis à caractère sexuel [selon le rapport 2019 du cabinet de conseil en gestion de risques DeepTrace], massivement utilisés dans le but de nuire aux femmes et de générer des contenus pédocriminels.

Par ailleurs, ces effets s'inscrivent dans un système d'exploitation global. L'IA, et notamment l'IA générative, constitue un véritable désastre pour l'environnement. D'ici à 2027, l'IA générative nécessitera une alimentation en électricité équivalente à celle de pays comme l'Argentine ou les Pays-Bas [comme le rapporte un article du New York Times d'octobre 2023]. Les émissions de CO2 des « géants de la tech » ont augmenté de 30 à 50% en 2024 en raison du développement fulgurant de ces technologies. Et ce sont les pays du Sud global qui sont les premiers touchés : les data centers y pullulent, et l'extraction de minerais, comme le cobalt, utilisé entre autres dans les batteries, met en péril la santé des populations, entraîne la pollution des eaux et des terres et alimente violences et conflits armés.

L'affaire de toutes et tous

Les inégalités entre les pays du Nord et du Sud sont également aggravées par les technologies déployées pour la modération de contenus en ligne. Les géants du numérique qui allouent plus de moyens aux pays du Nord privilégient ainsi certaines langues et récits culturels, déjà dominants, au détriment des autres. Enfin, n'oublions pas que ces systèmes d'IA sont majoritairement entraînés par des travailleurs et travailleuses du Sud global, exploités et sous-payés. Selon les informations du magazine Time, la société OpenAI a ainsi rémunéré des Kényans moins de deux dollars (1,95 euro) de l'heure pour labelliser des contenus toxiques, un travail particulièrement violent et éprouvant.

Face à ces constats alarmants, le règlement européen sur l'IA, présenté comme un instrument de protection des droits et libertés, reste très imparfait, notamment sur les questions de surveillance et de police prédictive. Par ailleurs ce règlement ne s'appliquera pas hors des frontières de l'Union européenne, alors même que la menace pour les droits humains et l'environnement est globale et que l'exportation des IA de surveillance génère du profit pour les entreprises européennes.

Nos gouvernements ne cessent de parler de souveraineté de l'IA, mais les défis posés par ces systèmes transcendent les frontières. Loin d'être un sujet technologique, l'IA est l'affaire de toutes et tous. Tout le monde doit pouvoir choisir la direction de ses développements, quitte à les refuser s'ils ne correspondent pas à notre projet de société. Un cadre contraignant élaboré démocratiquement, dans une perspective de solidarité internationale et avec les communautés les plus touchées, qui place les droits humains et la justice environnementale au cœur de la régulation de l'IA, voilà le véritable progrès.

Premiers signataires : Erika Campelo, déléguée nationale de VoxPublic ; Laure Salmona, directrice et cofondatrice du collectif Féministes contre le cyberharcèlement ; Anne Savinel-Barras, présidente d'Amnesty International France ; Nathalie Tehio, présidente de la LDH (Ligue des droits de l'Homme).

Consulter la liste de l'ensemble des signataires

*******

Manifeste : L'IA contre les droits humains, sociaux et environnementaux

Ce texte est le manifeste fondateur de « Hiatus », une coalition composée d'une diversité d'organisations de la société civile française qui entendent résister au déploiement massif et généralisé de l'intelligence artificielle.
Il a été publié dans le journal Le Monde le 6 février 2025.

*-*

Tout concourt à ériger le déploiement massif de l'intelligence artificielle en priorité politique. Prolongeant les discours qui ont accompagné l'informatisation depuis plus d'un demi-siècle, les promesses abondent pour conférer à l'IA des vertus révolutionnaires et imposer l'idée que, moyennant la prise en compte de certains risques, elle serait nécessairement vecteur de progrès. C'est donc l'ensemble de la société qui est sommée de s'adapter pour se mettre à la page de ce nouveau mot d'ordre industriel et technocratique. Partout dans les services publics, l'IA est ainsi amenée à proliférer au prix d'une dépendance technologique accrue. Partout dans les entreprises, les managers appellent à recourir à l'IA pour « optimiser » le travail. Partout dans les foyers, au nom de la commodité et d'une course insensée à la productivité, nous sommes poussés à l'adopter.

Pourtant, sans préjuger de certaines applications spécifiques et de la possibilité qu'elles puissent effectivement répondre à l'intérêt général, comment ignorer que ces innovations ont été rendues possible par une formidable accumulation de données, de capitaux et de ressources sous l'égide des multinationales de la tech et du complexe militaro-industriel ? Que pour être menées à bien, elles requièrent notamment de multiplier la puissance des puces graphiques et des centres de données, avec une intensification de l'extraction de matières premières, de l'usage des ressources en eau et en énergie ?

Comment ne pas voir qu'en tant que paradigme industriel, l'IA a dores et déjà des conséquences désastreuses ? Qu'en pratique, elle se traduit par l'intensification de l'exploitation des travailleurs et travailleuses qui participent au développement et à la maintenance de ses infrastructures, notamment dans les pays du Sud global où elle prolonge des dynamiques néo-coloniales ? Qu'en aval, elle est le plus souvent imposée sans réelle prise en compte de ses impacts délétères sur les droits humains et l'exacerbation des discriminations telles que celles fondées sur le genre, la classe ou la race ? Que de l'agriculture aux métiers artistiques en passant par bien d'autres secteurs professionnels, elle amplifie le processus de déqualification et de dépossession vis-à-vis de l'outil de travail, tout en renforçant le contrôle managérial ? Que dans l'action publique, elle agit en symbiose avec les politiques d'austérité qui sapent la justice socio-économique ? Que la délégation croissante de fonctions sociales cruciales à des systèmes d'IA, par exemple dans le domaine de la santé ou l'éducation, risque d'avoir des conséquences anthropologiques, sanitaires et sociales majeures sur lesquelles nous n'avons aujourd'hui aucun recul ?

Or, au lieu d'affronter ces problèmes, les politiques publiques menées aujourd'hui en France et en Europe semblent essentiellement conçues pour conforter la fuite en avant de l'intelligence artificielle. C'est notamment le cas de l'AI Act adopté par l'Union européenne et présenté comme une réglementation efficace alors qu'elle cherche en réalité à promouvoir un marché en plein essor. Pour justifier cet aveuglement et faire taire les critiques, c'est l'argument de la compétition géopolitique qui est le plus souvent mobilisé. À longueur de rapports, l'IA apparaît ainsi comme le marchepied d'un nouveau cycle d'expansion capitaliste, et l'on propose d'inonder le secteur d'argent public pour permettre à l'Europe de se maintenir dans la course face aux États-Unis et à la Chine.

Ces politiques sont absurdes, puisque tout laisse à penser que le retard de l'Europe dans ce domaine ne pourra pas être rattrapé, et que cette course est donc perdue d'avance. Surtout, elles sont dangereuses dans la mesure où, loin de constituer la technologie salvatrice souvent mise en avant, l'IA accélère au contraire le désastre écologique, renforce les injustices et aggrave la concentration des pouvoirs. Elle est de plus en plus ouvertement mise au service de projets autoritaires et impérialistes. Non seulement le paradigme actuel nous enferme dans une course technologique insoutenable, mais il nous empêche aussi d'inventer des politiques émancipatrices en phase avec les enjeux écologiques.

La prolifération de l'IA a beau être présentée comme inéluctable, nous ne voulons pas nous résigner. Contre la stratégie du fait accompli, contre les multiples impensés qui imposent et légitiment son déploiement, nous exigeons une maîtrise démocratique de cette technologie et une limitation drastique de ses usages, afin de faire primer les droits humains, sociaux et environnementaux.

Premiers signataires :

Annick Hordille, membre du Nuage était sous nos pieds
Baptiste Hicse, membre de Stop Micro
Camille Dupuis-Morizeau, membre du conseil d'administration de Framasoft
David Maenda Kithoko, président de Génération Lumière
Denis Nicolier, co-animateur de Halte au contrôle numérique
Emmanuel Charles, co-président de ritimo
Éléonore Delatouche, fondatrice de Intérêt à agir
Judith Allenbach, présidente du Syndicat de la Magistrature
Judith Krivine, présidente du Syndicat des avocats de France (SAF)
Julie Le Mazier, co-secrétaire nationale de l'Union syndicale Solidaires
Julien Lefèvre, membre de Scientifiques en rébellion
Marc Chénais, directeur de L'Atelier Paysan
Nathalie Tehio, présidente de la LDH (Ligue des droits de l'Homme)
Olivier Petitjean, co-fondateur de L'Observatoire des multinationales
Raquel Radaut, porte-parole de La Quadrature du Net
Sandra Cossart, directrice de Sherpa
Soizic Pénicaud, membre de Féministes contre le cyberharcèlement
Sophie Venetitay, secrétaire générale du SNES-FSU
Stéphen Kerckhove, directeur général d'Agir pour l'environnement
Thomas Thibault, président du Mouton Numérique
Vincent Drezet, porte parole d'Attac France
Yves Mary, cofondateur et délégué général de Lève les yeux
David Maenda Kithoko, président de Génération Lumière ; Julie Le Mazier, co-secrétaire nationale de l'Union syndicale Solidaires ; Julien Lefèvre, membre de Scientifiques en rébellion ; Marc Chénais, directeur de L'Atelier Paysan ; Nathalie Tehio, présidente de la LDH (Ligue des droits de l'Homme) ; Raquel Radaut, porte-parole de La Quadrature du Net ; Soizic Pénicaud, membre de Féministes contre le cyberharcèlement ; Sophie Venetitay, secrétaire générale du SNES-FSU ; Stéphen Kerckhove, directeur général d'Agir pour l'environnement ; Vincent Drezet, porte parole d'Attac France.
Liste complète des organisations premières signataires à retrouver sur :
https://www.laquadrature.net/manifeste-hiatus/
https://www.lemonde.fr/idees/article/2025/02/06/l-intelligence-artificielle-accelere-le-desastre-ecologique-renforce-les-injustices-et-aggrave-la-concentration-des-pouvoirs_6533885_3232.html

*****

Abonnez-vous à notre lettre hebdomadaire - pour recevoir tous les liens permettant d'avoir accès aux articles publiés chaque semaine.

Chaque semaine, PTAG publie de nouveaux articles dans ses différentes rubriques (économie, environnement, politique, mouvements sociaux, actualités internationales ...). La lettre hebdomadaire vous fait parvenir par courriel les liens qui vous permettent d'avoir accès à ces articles.

Remplir le formulaire ci-dessous et cliquez sur ce bouton pour vous abonner à la lettre de PTAG :

Presse-toi à gauche !

« L'IA telle qu'elle est développée alimente un système d'exploitation global »

Manifeste : L'IA contre les droits humains, sociaux et environnementaux

Abonnez-vous à notre lettre hebdomadaire - pour recevoir tous les liens permettant d'avoir accès aux articles publiés chaque semaine.

Abonnez-vous à la lettre