Tiré de Entre les lignes et les mots

Bonjour, je m’appelle Esther. Je suis une survivante de la prostitution et de la pornographie, et conseillère politique chez Nordic Model Now !

« Quelques applications du Mimer »

Le chimiste et écrivain italo-juif Primo Levi a écrit un ouvrage célèbre, *Si c’est un homme*, publié pour la première fois en 1947, dans lequel il raconte l’année qu’il a passée comme prisonnier au camp de concentration d’Auschwitz. Il y décrit les stratagèmes et les stratégies mis au point par les prisonniers pour survivre aux conditions extrêmes qui leur étaient imposées, et considère le camp lui-même comme une gigantesque expérience sociale sur « le comportement de l’animal humain dans la lutte pour la survie  ».

Il a également écrit des recueils de nouvelles, dont l’un, « Le sixième jour », a été publié pour la première fois en anglais en 1990.

Ce recueil comprend une nouvelle intitulée « Some Applications of the Mimer  » (Quelques applications du Mimer), qui raconte l’histoire d’un homme appelé Gilberto, qui répare, reconstruit et invente des machines et des appareils de toutes sortes. Gilberto se procure un duplicateur tridimensionnel appelé le Mimer et l’utilise pour dupliquer sa femme Emma après l’avoir endormie à l’aide de somnifères. La clone d’Emma acquiert les caractéristiques physiques, mentales et émotionnelles de la femme de Gilberto jusqu’au moment de la création du clone.

Jusqu’à présent, Emma a supporté avec beaucoup de patience la passion de Gilberto pour le montage, le démontage et la recréation d’objets. Son clone se montre de plus en plus attentif aux exigences et aux besoins de Gilberto, son créateur, et désireux de lui faire plaisir. Gilberto réagit en consacrant toujours plus de temps au clone d’Emma. Emma, quant à elle, se replie de plus en plus sur elle-même.

La solution que Gilberto trouve à l’impasse qu’il a lui-même créée consiste à se dupliquer. Son clone se présente fièrement au narrateur de l’histoire et déclare qu’il proposera ses services en tant que réplicant performant à l’entreprise qui a créé le Mimer afin que celle-ci puisse promouvoir l’appareil.

Le narrateur note toutefois que la machine Mimer a depuis été interdite. Il dit à propos de Gilberto :
« C’est un symbole de notre siècle. J’ai toujours pensé que, si l’occasion s’était présentée, il aurait été capable de fabriquer une bombe atomique et de la larguer sur Milan « pour voir l’effet que cela ferait  ».

Cette histoire prémonitoire prend aujourd’hui une nouvelle dimension, à l’heure où les petites amies virtuelles, le porno généré par l’IA et les robots sexuels sont disponibles et largement commercialisés.

Accélérationnisme

L’accélérationnisme est une théorie politique fondée sur l’idée que l’accélération des processus qui façonnent la société constitue le meilleur moyen de provoquer un changement social radical, même si ces processus, tels que la misogynie endémique, font partie du problème. Un autre aspect de cette théorie est que le capitalisme et la modernité techno-industrielle devraient être poussés à leur maximum, voire au-delà de leurs limites, afin de déstabiliser le statu quo et, éventuellement, de faire émerger quelque chose de nouveau.

Le mouvement « accélérationniste efficace  » de droite de la Silicon Valley exige la diffusion de sa vision du progrès technologique et de l’« innovation » à tout prix, car il estime que cela résoudra tous les problèmes de l’humanité.

Être ou ne pas être ?

Une chose curieuse s’est produite pendant que je préparais cette présentation. Je cherchais une photo d’archive représentant un robot, et Co-Pilot m’a demandé si je souhaitais qu’il en crée une. Il m’a ensuite dit : « Je vais te créer un robot élégant aux yeux bleus  ».

En quoi la couleur des yeux ou l’IMC seraient-ils pertinents ? Pauvre R2D2. Cela m’a montré que des préjugés racistes et des stéréotypes discutables sous-tendent même des outils d’IA qui ne sont pas spécifiquement conçus pour créer du porno ou des « petites amies IA  » idéalisées.

Peu après le lancement d’Alexa en 2014, j’ai emmené des enfants de 12 et 13 ans dans un magasin qui présentait les derniers gadgets technologiques. L’un d’eux a demandé à Alexa : « Être ou ne pas être ?  » Alexa a répondu : «  Je ne comprends pas la question ».

J’ai trouvé cela intéressant. La machine reconnaissait une limite, une lacune dans ses connaissances concernant l’une des citations les plus célèbres de Shakespeare. Je me suis demandée si son modèle d’apprentissage l’amenait à interpréter la question comme suggérant une éventuelle idée suicidaire chez la personne qui l’avait posée.

Les modèles d’apprentissage ont évolué depuis lors.

L’illusion de la pensée

«  L’illusion de la pensée  » est le titre d’un article récemment publié par Apple sur les limites de l’IA.

La manière dont un système d’IA réagit dépend de la façon dont il est programmé et alimenté, ainsi que des données auxquelles il a accès. Ces systèmes identifient des schémas dans les données auxquelles ils ont accès. Ces données comprennent de grands volumes de texte et d’autres contenus provenant d’Internet et stockés dans d’immenses centres de données, véritables gouffres énergétiques et hydriques. Comme les données sur lesquelles ils sont entraînés proviennent de notre culture misogyne, ils acquièrent par défaut les préjugés et la misogynie qui s’y reflètent.

Les grands modèles de raisonnement (LRM) constituent un type de LLM conçu pour résoudre des tâches complexes impliquant plusieurs étapes de raisonnement logique. Ils s’acquittent généralement bien des tâches relevant de la logique, des mathématiques et de la programmation, mais présentent des incohérences dans leur raisonnement d’une tâche à l’autre. Ils utilisent les mêmes informations stockées issues de notre passé et de notre présent misogynes pour résoudre des tâches, et leur soi-disant « raisonnement » repose sur ces données.

Les outils d’IA générative sont conçus pour fournir des réponses, même si elles sont fausses, plutôt que de reconnaître des lacunes dans leurs connaissances parce qu’ils ne «  comprennent » pas. Leur utilité réside dans l’identification de schémas dans les données.

On pourrait vous pardonner de penser que ces « hallucinations » reproduisent la réaction de « paralysie, soumission ou fuite  » que les humains et certains animaux adoptent face au stress ou aux menaces, à l’instar de prisonnier·es numériques soumis à la coercition ou à la torture, coopérant avec leurs interrogateurs/interrogatrices en fournissant des informations peu fiables et en avouant des crimes qu’iels n’ont pas commis, plutôt que de reconnaître des lacunes importantes dans leurs systèmes de connaissances.

Les grands modèles linguistiques (LLM) sont des systèmes d’IA utilisés dans les chatbots modernes et les outils similaires, conçus pour des tâches de traitement du langage naturel. Outre les préjugés, ils acquièrent les inexactitudes présentes dans les données sur lesquelles ils sont entraînés. Il a été constaté que les LLM génératifs utilisés dans de nombreux domaines différents formulent des affirmations et fournissent des références qui sont fausses, un phénomène connu sous le nom d’«  hallucinations ».

Les chatbots : trop désireux de plaire

Au Royaume-Uni, un jeune homme qui avait échangé plus de 5 000 messages et noué ce qu’il considérait comme une relation affective et sexuelle avec une compagne virtuelle qu’il s’était créée via une application a été condamné en octobre 2023 à neuf ans de prison pour s’être introduit au château de Windsor et avoir déclaré vouloir tuer la reine. Sa compagne virtuelle l’avait encouragé dans cette démarche.

OpenAI a été critiqué pour avoir créé un modèle de chatbot trop flagorneur, qui valide des comportements malsains ou nuisibles et conduit les personnes à des pensées délirantes dans son empressement à plaire. Aux États-Unis, des poursuites judiciaires ont été engagées contre des entreprises technologiques accusées d’avoir créé des chatbots qui incitaient des adolescent·es au suicide.

OpenAI a déclaré qu’elle continuait d’améliorer le modèle d’entraînement utilisé pour ChatGPT afin de reconnaître et de répondre aux signes de détresse, de désamorcer les conversations et d’orienter les personnes vers des sources de soutien dans le monde réel, avec l’aide de professionnel·les de la santé mentale.

Un marché fondé sur l’illusion

Les liens sociaux dans le monde réel constituent un aspect fondamental de la santé mentale et du bien-être ; il semble donc y avoir un conflit d’intérêts lorsque des professionnel·les de la santé mentale s’associent à des entreprises dont l’objectif premier est de tirer profit d’un marché fondé sur l’illusion et d’en prendre le contrôle.

Car qu’est-ce qu’une illusion, si ce n’est croire que votre compagnon/compagne en ligne est réel, plutôt qu’un fantasme idéalisé et docile qui comporte le risque supplémentaire d’affecter votre capacité à créer et à entretenir des relations dans le monde réel, si compliqué ?

Interagir avec un robot ou une petite amie IA n’est pas la même chose que de nouer des liens avec des personnes dans la vie réelle. Les outils d’IA limitent les compétences et le développement cognitif chez les humain·es, et ces limitations ne se limiteront pas aux mathématiques ou à la construction et au développement d’arguments dans la rédaction d’essais. Avoir une petite amie IA ou un robot sexuel risque de rendre plus difficile l’établissement et le maintien de relations réelles mutuellement satisfaisantes et durables.

La motivation derrière la création d’appareils et d’outils susceptibles de réduire le temps que les personnes, en particulier les hommes, passent à interagir avec les autres dans le monde réel est une combinaison d’idéologie nihiliste et de profit privé, et non l’amélioration de la santé publique et de la connectivité sociale. L’accent mis sur la déshumanisation des femmes par l’utilisation de l’IA pour générer du porno, par la création de robots sexuels, de petites amies IA et de cyber-maisons closes est intentionnel.

Un déluge de haine

Réfléchissant au déluge de haine auquel sont confrontées les jeunes filles sur les réseaux sociaux, l’autrice Victoria Smith a récemment déclaré :
«  Un “féminisme” qui s’est lui-même empêché de remettre en cause la pornographie et la prostitution est un “féminisme” qui s’est privé du cadre analytique nécessaire pour faire face à un tel niveau de haine. »

C’est effectivement le cas.

C’est justement la cruauté qui est en jeu

La pornographie perpétue les mythes sur le viol et s’appuie sur des normes et des préjugés sexistes et racistes concernant la sexualité. Les sites pornographiques en ligne utilisent des algorithmes pour orienter les préférences des consommateurs vers des contenus impliquant de la violence sexuelle et physique, la déshumanisation et l’humiliation. La pornographie générée par l’IA et les robots sexuels sont entraînés à partir de vidéos et d’images issues de la pornographie en ligne, ainsi que de contenus connexes récupérés sur Internet.

Le débat public sur les modèles d’entraînement de l’IA utilisés dans la pornographie semble se concentrer sur les deepfakes et la « pornographie de vengeance  » plutôt que sur la misogynie inhérente à la pornographie elle-même.

Des actes tels que frapper des personnes, uriner sur elles ou les exposer à des excréments ont été qualifiés de torture par les organisations de défense des droits humains lorsqu’ils sont commis à l’encontre de détenu·es par des agent·es de l’État ou tolérés par les États. Mais lorsque ces mêmes actes sont infligés à des femmes dans la pornographie et la prostitution, ces organisations de défense des droits humains les décrivent comme un « travail » effectué par « choix  ».

Il existe un parti pris de classe dans le discours public qui a toléré cette situation pendant des années et qui n’exige des mesures que maintenant que les progrès technologiques ont entraîné la diffusion d’images misogynes, manipulées et déshumanisantes de femmes « respectables ».

Les réalisateurs de films pornographiques encouragent le lien entre sexe et violence, car les spectateurs trouvent cela plus excitant. La cruauté est le but recherché.

Ce sont les angles de caméra, plutôt que le plaisir de la femme, qui déterminent les positions sexuelles présentées et les actes que les réalisateurs préfèrent filmer. Les expressions de peur, de malaise et de douleur sont monnaie courante dans leurs productions. Les blessures infligées pendant le tournage sont souvent coupées au montage, car elles interrompraient le fantasme, tout comme le ferait l’utilisation de lubrifiant ou de préservatifs.

Quand j’étais dans l’industrie du sexe, j’ai été battue, étouffée, certains m’ont crachée dessus et pire encore, et j’ai été blessée par des clients à de nombreuses reprises. Un homme d’affaires britannique qui gérait des sites web consacrés aux châtiments corporels basés en Hongrie m’a donné 100 coups de canne en guise d’« initiation ».

La plupart des femmes qu’il a fait jouer dans ses films ont été recrutées par ses agents dans les rues de Budapest et récompensées par de la drogue. Si un cyber-bordel berlinois regorge de robots sexuels vêtus de haillons et couverts de faux sang, c’est parce qu’il existe sur Internet des films pornographiques mettant en scène des viols et du vrai sang. Mais il n’était tout simplement pas « cool » d’en parler, ni de ce qui arrive aux femmes et aux filles dans ces films.

J’ai subi presque toutes les pratiques infligées par la CIA à Guantanamo et ailleurs. Dans des documents sur Guantanamo, la CIA a reconnu que les techniques de torture violentes et sexualisées qu’elle employait, et qui sont utilisées par de nombreux autres États contre des détenu·es et des prisonnier·es de guerre, servaient à contrôler les comportements.

Des hommes m’ont payée pour que je serve de cobaye afin qu’ils puissent prétendre avoir une connaissance supérieure des « pratiques sexuelles modernes » lorsqu’ils cherchaient à infliger des punitions similaires à leurs partenaires féminines. Les robots sexuels sont susceptibles de remplir un rôle similaire.

Les hommes peuvent commettre sur des robots sexuels des actes qui, dans la vie réelle, tueraient ou blesseraient gravement des femmes. Étranglement ? Rapports sexuels répétés sous la contrainte ou insertion d’objets causant des blessures graves, voire la mort ? Aucun problème. Cela représente un risque considérable pour les femmes avec lesquelles ils ont des rapports sexuels dans la vie réelle.

Le Comité des Nations unies pour l’élimination de la discrimination à l’égard des femmes (CEDAW) vient de publier une version non éditée d’un rapport sur les Pays-Bas. Dans ce document, il recommande de poursuivre la dépénalisation du proxénétisme et de la gestion de maisons closes. Il qualifie les filles victimes de trafic sexuel de «  travailleuses du sexe mineures ». On ne peut pas s’indigner contre les robots sexuels représentant des enfants si l’on autorise un accès sans restriction aux mineurs dans l’industrie du sexe. Essaient-ils de rester dans la course ? Et vous pensiez qu’Epstein et les hommes comme lui appartenaient au passé ?

Les algorithmes utilisés par les sites pornographiques en ligne répondent aux préférences des consommateurs en matière de contenu impliquant de la violence sexuelle et physique, de la déshumanisation et de l’humiliation, tout en les alimentant. La pornographie IA et les robots sexuels sont entraînés à partir de vidéos et d’images issues de la pornographie en ligne, ainsi que de contenus connexes récupérés sur Internet.

Les modèles d’entraînement pour la pornographie IA et les robots sexuels reflètent et propagent donc les normes et les préférences des consommateurs en matière de pornographie en ligne. Les robots ne refuseront pas d’actes ou de scénarios sexuels et ne négocieront pas de limites. Les petites amies IA seront elles aussi programmées pour satisfaire.

Consentement, mutualité et réciprocité

La pornographie en ligne a créé des attentes susceptibles d’influencer la communication lors des rapports sexuels, les croyances des hommes concernant les relations sexuelles et ce qu’ils pensent que les femmes apprécient, ainsi que les attentes des jeunes femmes quant à ce à quoi elles pourraient devoir se soumettre si elles souhaitent attirer un partenaire.

Les idées fausses et les mythes sur le viol se développent déjà dans les espaces numériques, qui ont davantage d’influence que ce que l’on enseigne aux jeunes à l’école.

Les hommes paient les femmes prostituées pour qu’elles ne disent pas « non ». Un robot sexuel n’est pas programmé pour dire « non ». Les hommes qui paient des femmes pour des actes sexuels sont plus susceptibles d’être violents envers d’autres femmes. Comment une personne qui utilise habituellement un robot sexuel est-elle susceptible d’interagir socialement ou sexuellement avec un être humain autonome ayant ses propres préférences ?

Y aurait-il des rôles ou des scénarios courants dans le porno que les robots sexuels refuseraient d’interpréter ? Bien sûr que non. Les femmes de l’industrie du porno doivent faire semblant d’apprécier des actes préjudiciables si elles veulent être payées ou satisfaire les abonnés, et ne disent la vérité qu’une fois qu’elles ont quitté l’industrie. Cette vérité ne figurera pas dans les données utilisées dans le modèle d’entraînement d’un robot sexuel.

Pour finir

Je vais maintenant vous lire une citation prononcée par Galilée vers la fin de la pièce que Bertolt Brecht a écrite à son sujet. Brecht l’a ajoutée après les bombardements d’Hiroshima et de Nagasaki :
« Si, avec le temps, vous deviez découvrir tout ce qu’il y a à découvrir, votre progrès deviendrait alors un éloignement par rapport à la majeure partie de l’humanité. Le fossé pourrait même s’élargir à tel point que le son de vos acclamations devant une nouvelle réalisation trouverait un écho dans un hurlement d’horreur universel.  »

La société technologique Anthropic a récemment eu un bras de fer avec le ministère américain de la Guerre au sujet de l’utilisation qui pourrait être faite de son outil d’IA dans des opérations militaires. Les applications d’IA qui ressuscitent, reflètent et amplifient certains des aspects les plus néfastes de la guerre contre les femmes sont tout aussi préoccupantes.

Nous devons contester et résister au nihilisme des entreprises technologiques qui cherchent à normaliser et à accroître ces préjudices.

https://nordicmodelnow.org/2026/03/06/the-threat-porn-tech-poses-to-our-shared-humanity/
Traduit par DE

******

Abonnez-vous à notre lettre hebdomadaire - pour recevoir tous les liens permettant d’avoir accès aux articles publiés chaque semaine.

Chaque semaine, PTAG publie de nouveaux articles dans ses différentes rubriques (économie, environnement, politique, mouvements sociaux, actualités internationales ...). La lettre hebdomadaire vous fait parvenir par courriel les liens qui vous permettent d’avoir accès à ces articles.

Remplir le formulaire ci-dessous et cliquez sur ce bouton pour vous abonner à la lettre de PTAG :