Édition du 11 décembre 2018

Une tribune libre pour la gauche québécoise en marche

Le Monde

IA : un outil dangereux dans les mains de milliardaire ?

Les oublis dans le rapport publié le 21 février sur les dangers de l’Intelligence artificielle montrent que la supposée dispute entre Elon Musk et Mark Zuckerberg masque les plus grands dangers de cette nouvelle technologie qui risque d’être un puissant outil d’asservissement de la population en général.

Une centaine de responsables d’entreprises de robotique et le propriétaire de Tesla et SpaceX, Elon Musk, considèrent actuellement qu’elle est la plus grande menace qui existe pour la civilisation. Le milliardaire a même écrit une lettre ouverte aux Nations Unies pour la mettre en garde contre les dangers des « robots tueurs ». Chose étrange, pendant qu’ils dénoncent cette technologie ces individus en remplissent leurs voitures et produits de toute sorte.

Ces scientifiques viennent donc puiser dans le réservoir de peurs irrationnelles tirées des livres et des films de science-fiction. Des théories moins réalistes les unes que les autres poussent à des conclusions trompeuses sur l’IA. Après la série de romans d’Isaac Asimov sur les robots et des dizaines d’autres livres de ce genre, sans compter tous les films de type Terminator, l’imaginaire collectif grouille d’androïdes déclenchant des guerres nucléaires et tuant des gens dans les rues. Un des individus de la planète qui est le plus dépendant des machines, l’astrophysicien américain Stephen Hawking affirmait aussi en novembre 2017 que l’IA avait le potentiel de mettre fin à l’humanité. La thèse de la « singularité », affirme qu’elle va surpassera l’intelligence humaine et donner le contrôle du monde aux robots.

Des campagnes publicitaires peuvent même augmenter cette confusion. À l’occasion du forum économique Future Investment Initiative, le 25 octobre dernier, le roi Salmane d’Arabie Saoudite qui veut montrer que son pays est technophile a accordé la citoyenneté à un robot humanoïde nommé « Sophia » créé par un américain résidant à Hongkong, Ben Goertzel. Cette campagne de publicité a marqué l’imaginaire. Pour bien identifier les problèmes liés à l’IA, il faut donc différencier les peurs irréalistes des vrais dangers.

Retirer les préoccupations inutiles de l’équation

En regardant les films de science-fiction, plusieurs croient que les robots sont autonomes, ce qui leur donne l’allure d’avoir des caractéristiques humaines. Les projections de leurs propres sentiments qu’ont les humains sur l’IA créent une relation empathique mal placée avec la machine et toutes les dérives qui en découlent. L’attribution des désirs humains de domination, reproduction et conquête à des machines est une erreur grave. Celles-ci ne fonctionnent qu’en exécutant des programmes. Les algorithmes qui sont la base de l’IA ont beau être extrêmement puissants et utiliser de gigantesques bases de données pour prendre les décisions les plus pertinentes et les exécuter, ils ne sont qu’une suite de processus. Ce qui rend l’intelligence artificielle si difficile à saisir, c’est qu’elle crée des liens entre diverses disciplines scientifiques comme les mathématiques, l’informatique, les neurosciences et même la philosophie. Cet enchevêtrement de connaissances brouille les pistes, car ces algorithmes de plus en plus évolués ne sont pas intelligents. Ils n’ont pas plus conscience de leur existence et de désir de survie qu’un tournevis ou une équation écrite sur un papier.

Ceux qui croient que les robots ressentent des émotions et souffrent se trompent donc lourdement. Ces machines ne font qu’exécuter un programme qui mimique les sentiments humains. Ce sont toujours leurs concepteurs et programmeurs qui font évoluer les programmes et les algorithmes qui permettent de configurer un modèle qui fait ressembler la machine aux humains. Ce ne sont pas les algorithmes qui s’améliorent avec le temps, mais les résultats qu’ils donnent. Le programme n’évolue jamais de lui-même. Les modèles sont améliorés en fonction de nouvelles données. Si l’évolution biologique de l’être humain est lente et que celle de la machine se développe à une vitesse phénoménale, elle ne reste qu’un outil fondamentalement sans émotions ni désir de vivre. L’IA ne pourra jamais survivre à l’espèce humaine pour la simple raison qu’elle n’est pas vivante. Même si une entreprise créait un système robotique capable de se réparer et de se reproduire, il restera toujours à la merci des aléas de l’environnement et du hasard qui briseront avec le temps ses mécanismes et processus.

Masquer les vrais dangers de l’IA

Dans le document de 101 pages sur l’utilisation malveillante de l’Intelligence artificielle publié le 21 février 2018, différents scénarios où l’IA pouvait se révéler destructrice ont été proposés par 26 experts internationaux. Ils font remarquer que tous les secteurs de la société sont menacés au niveau de la sécurité numérique, physique et politique. Non seulement les menaces connues actuellement risquent d’aller en s’aggravant, mais le document prévoit que de nouvelles seront créées et qu’elles deviendront plus dangereuses. Il inclut aussi plusieurs scénarios qui présentent les dangers qu’engendre l’IA. Autant l’augmentation de la cybercriminalité que l’utilisation de drones et robots pour causer des accidents et frauder des élections sont envisagées. En fait, selon ceux mêmes qui ont peur de l’IA, ses applications devraient se multiplier par quatre d’ici 2020.

Les plus grands et immédiats dangers de l’IA ne sont cependant pas dans ce document. Il est déjà certain que le déploiement de systèmes autonomes intelligents détruira des millions d’emplois puisqu’une tâche faisant l’objet de répétitions présente une haute probabilité d’automatisation. Comme cela a été fait lors de la mécanisation de la production, les emplois cognitifs répétitifs qui peuvent être programmés seront progressivement remplacés par des automates de plus en plus performants. L’intelligence artificielle change même les théories de la guerre dont la nature essentielle est immuable, mais le caractère est changeant de l’aveu même du ministre américain de la défense, Jim Mattis.

Le plus grand danger de l’IA est en fait qu’il est soumis à la loi du marché et est donc possédé par les plus puissantes entreprises du monde qui s’en servent pour concentrer encore plus le pouvoir et les richesses. De plus, autant l’Internet que cette IA créent au 21e siècle les plus puissants outils d’espionnage politique de la population en général. En ce sens, il est caractéristique que le document de 101 pages publié le 21 février ne mentionne pas une fois le mot « espion » (spy). Alors qu’il aurait dû faire l’objet d’un chapitre à lui seul, le mot « espionnage » n’est rencontré qu’une fois dans le document et dans un contexte le reliant aux pirates informatiques. Tous les dangers d’espionnage de la population par ceux possédant l’IA sont soigneusement balayés sous le tapis. Que 26 scientifiques dénoncent les dangers de l’AI et ne mentionnent pas que c’est un puissant espion potentiel que peuvent utiliser les États pour asservir leur population laisse entrevoir qu’il y a de possibles préoccupations politiques derrière ce document.

Le supposé conflit entre Mark Zuckerberg et Elon Musk

Les récentes alertes au sujet de l’IA ont donc ceci de particulier qu’elles sont en partie faites par ceux qui en produisent ou l’intègrent à leurs produits. Quand Elon Musk se dit inquiet pour l’avenir de notre race, il faut comprendre qu’il est inquiet pour l’avenir de ses entreprises. Cet entrepreneur, ingénieur en aérospatiale, inventeur, né le 28 juin 1971 à Pretoria, est le PDG et directeur de la technologie de la société SpaceX et PDG, directeur architecture produit de la société Tesla. Il est également le cofondateur de Zip2. Sa fortune était récemment estimée à 20,8 milliards de dollars américains. Cette intelligence qu’il dénonce actuellement, il en remplit tous ses produits. Elon Musk a même participé à la création de Neuralink, un cabinet de recherche pour développer une intelligence artificielle « humaine ». Il est un des entrepreneurs les plus engagés à produire les dangers qu’ils dénoncent publiquement.

Positionné sur la place publique tout à fait à l’opposé, Mark Elliot Zuckerberg affirme que l’IA apportera des diagnostics médicaux plus précis et une meilleure sécurité routière grâce aux voitures autonomes. L’homme né le 14 mai 1984 dans l’État de New York est le cofondateur et le président-directeur général de Facebook créé en 2004. Sa fortune est estimée à plus de 70 milliards de dollars américains. Il profite largement de l’IA pour mieux tirer profit des gens qui utilisent Facebook. Toutes les personnes qui ouvrent des comptes Facebook sont les produits qu’il vend aux publicistes. Ils sont aussi ses rats de laboratoires puisqu’il a déjà avoué publiquement faire des expériences psychologiques dans Facebook et a même une équipe dont c’est la fonction première.

Les deux entrepreneurs ont donc des positions publiques en accord avec les besoins de leurs entreprises et ne sont pas en opposition sur le fond du problème puisqu’ils utilisent beaucoup l’IA, et ce, sans contrôle public. Ce qu’oublient de dire ces deux milliardaires, c’est qu’il y aura toujours des hommes comme eux qui tireront les ficelles de l’IA. Ce que fait Elon Musk quand il alerte le monde sur l’intelligence artificielle, ce n’est que de protéger ses arrières puisque des pirates informatiques ont déjà commencé à prendre le contrôle de véhicules intelligents. Il privatise les profits et veut externaliser les risques.

Conclusions

L’Intelligence artificielle fait déjà partie de la vie quotidienne de millions de personnes. Elle est dans les applications des objets connectés et des réseaux sociaux. On les retrouve aussi dans les transports et tout ce qui touche au travail. Au niveau militaire elle contrôle des drones qui ont la possibilité de tuer. Les risques que cette puissante technologie soit utilisée à de mauvaises fins sont d’autant plus plausibles que les pays se font déjà la guerre par réseau informatique interposée.

Il est déjà évident que l’IA est actuellement un outil si puissant qu’il permettra à un très petit nombre de gens de contrôler une grande partie de la population de la planète. Le danger ici ne vient pas seulement de l’outil, mais aussi de celui qui l’utilise. Historiquement, les nouveaux systèmes économiques détruisent ceux qu’ils remplacent. Comme dans toutes les révolutions industrielles précédentes, le problème est de savoir quels éléments de la société seront avantagés par l’IA. Les robots ne prendront jamais le pouvoir. Ce sont leurs possesseurs et programmeurs qui le feront caché par des technologies destructrices de liberté humaine. Céder à l’IA le pouvoir de décider, c’est le confier à ses propriétaires.

Michel Gourd

Michel Gourd

Résident de L’Ascension de Matapédia.

Un message, un commentaire ?

modération a priori

Ce forum est modéré a priori : votre contribution n’apparaîtra qu’après avoir été validée par un administrateur du site.

Qui êtes-vous ?
Votre message

Pour créer des paragraphes, laissez simplement des lignes vides.

Sur le même thème : Le Monde

Sections

redaction @ pressegauche.org

Québec (Québec) Canada

Presse-toi à gauche ! propose à tous ceux et celles qui aspirent à voir grandir l’influence de la gauche au Québec un espace régulier d’échange et de débat, d’interprétation et de lecture de l’actualité de gauche au Québec...