« L'intelligence artificielle engendre une mise au ban progressive de l'humain »

Loup Besmond de Senneville, Éric Sadin — 2020-03-10T10:20:00Z

Dans L'Intelligence artificielle ou l'enjeu du siècle, le philosophe Éric Sadin adopte une approche très critique de l'intelligence artificielle, et appelle à résister à cette révolution silencieuse.

13/01/2019 | tiré du journal La Croix

La Croix : Vous travaillez sur la technique et son impact pour nos vies depuis plusieurs années, et venez de sortir un livre sur l'intelligence artificielle, dont vous parlez comme d'un « antihumanisme radical ». Comment définissez-vous cette notion ?

Éric Sadin Depuis son origine, le rôle de l'informatique est de permettre un accès toujours plus aisé à l'information. Si aujourd'hui les technologies numériques continuent d'offrir ces fonctions, elles sont dorénavant dotées de la faculté d'orienter nos gestes. Cette dimension est particulièrement à l'œuvre depuis l'avènement des smartphones, et la généralisation des applications, qui a vu s'instaurer une sorte d'accompagnement continu de notre quotidien.
Ces systèmes d'intelligence artificielle peuvent nous dévoiler la teneur de situations à des vitesses infiniment supérieures à nos capacités cognitives, allant jusqu'à parfois nous révéler des phénomènes dont nous n'avions pas conscience.
C'est le cas par exemple, avec l'application d'aide aux déplacements Waze, rachetée par Google en 2005-2006, et qui décrit en temps réel l'état du trafic et préconise de prendre tel itinéraire plutôt que tel autre. Le libre exercice de notre faculté de jugement se trouve peu à peu substitué par des systèmes destinés à infléchir nos décisions, principalement en vue de répondre à des intérêts privés. Il s'agit là d'une rupture juridico-politique majeure.

Que révèle la multiplication des enceintes connectées ?

E. S. : Il est très troublant de relever qu'au moment où ces techniques sont appelées à nous dire ce qui est supposé le mieux nous convenir, elles se mettent à parler. La multiplication des enceintes connectées et des chatbots (robot logiciel pouvant dialoguer avec un individu, NDLR) est le signe d'une relation toujours plus familière qui s'institue entre ces protocoles et nous. Ce qui nous conduit à perdre toute distance critique à leur endroit. Nous allons de plus en plus être guidés par des systèmes nous signalant en toute occasion la meilleure action à entreprendre et se présentant comme des administrateurs bien attentionnés de nos existences. C'est cela que j'appelle le « tournant injonctif » de la technique.

Pourtant, rien ne nous oblige à suivre ces préconisations…

E. S. : Il sera de plus en plus difficile d'y résister car ces techniques, à la faveur de leurs facultés « auto-apprenantes », sont vouées à sans cesse se perfectionner. Dans cette mesure, il sera toujours plus difficile de contester les préconisations d'une application de coaching sportif par exemple, forte de sa constante sophistication et nourrie du suivi régulier de nos états. Ces systèmes génèrent une aura de vérité qui est vouée à s'imposer à nos consciences comme un fait quasi « naturel ». Et si cette vérité devient incontestable, c'est notamment parce qu'elle revêt une valeur d'objectivité, alors qu'elle répond à des intérêts de toutes sortes.

Quelles implications l'intelligence artificielle a-t-elle en dehors du champ individuel ?

E. S. : Dans le champ du travail, on assiste à l'émergence de systèmes d'intelligence artificielle qui, au moyen de capteurs, interprètent les situations et édictent au personnel des actions à entreprendre.
C'est le cas dans les entrepôts d'Amazon, où les manutentionnaires sont tenus d'obéir à des ordres donnés par des systèmes automatisés, suivant les cadences les plus extrêmes. Ils ont un temps défini pour se rendre dans une zone précise et rapporter tel objet. Ces procédés privent les individus de leur subjectivité, de leur liberté d'initiative et de leur spontanéité.
Nous assistons là à un basculement : la machine est devenue donneuse d'ordre. Cela constitue un renversement anthropologique et politique décisif. Nous aurions besoin d'une nouvelle Simone Weil, la philosophe, qui irait travailler dans une usine dite « 4.0 » et qui décrirait les nouvelles méthodes inhumaines de management qui aujourd'hui se généralisent dans les grandes entreprises.

Qu'est-ce qui, en nous, est remis en cause par ce type de systèmes ?

E. S. : C'est toute notre tradition humaniste qui se trouve en péril dans la mesure où nous assistons à la mise au ban progressive de l'humain en tant qu'être agissant. Car l'intelligence artificielle marginalise l'exercice de notre faculté de jugement et porte atteinte à notre droit corollaire à nous déterminer librement et en conscience.
C'est alors la singularité des êtres et la pluralité humaine qui se voient peu à peu neutralisées par des modes d'organisation automatisés chassant le conflit, la délibération et la concertation. Autant de principes qui conditionnent la vie politique et démocratique.

Iriez-vous jusqu'à dire que l'intelligence artificielle ébranle une part de notre humanité ?

E. S. : Elle ébranle avant toute chose notre appréhension multisensorielle du réel dans la mesure où nous laissons le soin à des dispositifs techniques de nous guider. D'autant que ceux-ci procèdent d'une seule analyse de données numériques qui sont incapables de rendre compte de toute l'épaisseur des choses.
C'est également une simple présence gratuite au monde qui est niée, le souffle de l'imaginaire, la rêverie, le droit de n'être tenu par rien. Car en ambitionnant de continuellement nous gouverner, ces systèmes instaurent un rapport strictement utilitariste à l'existence, supposant que toute action doit viser une fin, que ce soit un prétendu confort ou l'optimisation de séquences de nos vies.

Pourquoi insistez-vous, dans votre livre, sur l'importance, dans notre monde, de la vulnérabilité ?

E. S. : Le mouvement technologique en vigueur depuis une quinzaine d'années est sous-tendu par une vision du monde prévalant aux États-Unis, principalement en Californie, selon laquelle Dieu n'a pas parachevé la Création. Le monde étant alors pétri de défauts, le vecteur majeur de ces imperfections est l'humain.
On comprend mieux alors le mouvement transhumaniste, qui relève d'un extrême positivisme, et qui va jusqu'à affirmer que ce qui constitue le propre du vivant – c'est-à-dire la corruption et le déclin – pourra être éradiqué. Car c'est une volonté de proscrire toute incertitude, toute faiblesse, toute faillibilité – procédant d'un déni de notre humanité –, qui est à l'œuvre pour instaurer une société prétendument parfaite, une sorte d'hygiénisme extrême.

Face à cela, comment réagir ?

E. S. : Nous sommes démunis par la vitesse des développements qui nous empêche de nous prononcer en conscience et qui sont présentés comme étant inéluctables. Le drame est que nous nous trouvons comme frappés d'apathie. Il conviendrait d'abord de contredire tous ces techno-discours et de faire remonter des témoignages émanant de la réalité du terrain, là où ces systèmes opèrent, sur les lieux de travail, dans les écoles, les hôpitaux…
Nous devrions tout autant manifester notre refus à l'égard de certains dispositifs lorsqu'il est estimé qu'ils bafouent notre intégrité et notre dignité. Il nous revient encore de faire valoir d'autres modes d'existence que ceux fondés sur la volonté de tout optimiser et de tout marchandiser. Contre cet assaut antihumaniste, faisons prévaloir une équation simple mais intangible : plus on compte nous dessaisir de notre pouvoir d'agir, plus il convient d'être agissant.

–––––––––––––––---
Éric Sadin en six dates

1999. Fondation de la revue éc/artS, consacrée à l'art et aux nouvelles technologies.

2009. Publication de Surveillance globale – Enquête sur les nouvelles formes de contrôle (Climats/Flammarion), dans lequel il explore la généralisation des systèmes exploitant des données personnelles.

2011. Publication de La Société de l'anticipation (Inculte, 2011).

2013. Sortie, aux éditions de L'échappée, de L'Humanité augmentée – L'administration numérique du monde, suivi, en 2015, de La Vie algorithmique – Critique de la raison numérique (L'échappée).

2016. Dans La Silicolonisation du monde – L'irrésistible expansion du libéralisme numérique (L'échappée), il développe une thèse selon laquelle les géants du numérique installés en Californie nous imposent leur vision du monde en même temps que leurs produits et logiciels.

2018. Publication de L'Intelligence artificielle ou l'enjeu du siècle – Anatomie d'un antihumanisme radical (L'échappée).

Presse-toi à gauche !

« L'intelligence artificielle engendre une mise au ban progressive de l'humain »