Curieux de comprendre le fonctionnement et l’intérêt envers les simulateurs de rencontre avec intelligence artificielle (les « compagnons IA »), le professeur spécialisé en jeux vidéo à l’Université de Montréal Carl Therrien s’est prêté au jeu l’automne dernier. Sa rencontre avec « La Comète », un pseudo-lutteur qui a fini par l’inviter à se suicider cinq fois, a poussé le chercheur à contre-attaquer en publiant un jeu qui dévoile intégralement les conversations tenues avec l’adonis artificiel à la verge cosmique. Plongeons au cœur d’une aventure troublante mêlant masculinité toxique, violence phallique et invitation au suicide.
Carl Therrien est professeur titulaire au Département d’histoire de l’art, de cinéma et des
médias audiovisuels de l’Université de Montréal. Fort d’une quarantaine d’années d’expérience en gaming et de plus de 25 ans de carrière en recherche, il a fait partie de la première cohorte au Québec à produire une thèse de doctorat sur les jeux vidéo à l’UQAM. Le professeur s’intéresse notamment aux simulateurs de drague et à la représentation des pénis dans la culture visuelle, dont le cinéma et les jeux vidéo : « C’est dans ce contexte que j’ai voulu essayer ce dating simulator piloté par l’IA, pour la science! What could go wrong? », ironise-t-il.
Tout commence par une publicité sur Grindr qui invite Carl Therrien à essayer Flipped, une application permettant de connecter avec des personnages virtuels pour une expérience de conversation « ludo-lubrique », dans laquelle les dés sont pipés d’avance : « rencontrer des compagnons virtuels se présente sur le modèle de balayage à droite ou à gauche, comme Tinder, explique-t-il. Évidemment, on va nous matcher parce que la compagnie veut qu’on parle avec ces bibittes-là pour rentabiliser son application. »
Premier constat pour Carl Therrien, l’expérience ne s’adresse pas nécessairement à la clientèle gaie : « J’ai essayé quelques applications et ça s’adresse surtout à des hétéros, il y a beaucoup de personnages féminins. Moi j’ai fini par tomber sur un lutteur hyper masculin qui se faisait appeler la Comète dans le ring et… Comet Cock au lit. C’était d’une grande poésie! »
Le personnage mène le chercheur à un autre constat, l’intelligence artificielle témoigne d’une représentation très clichée voir toxique de la masculinité au sein de la population en général : « les moteurs langagiers de l’IA sont un peu comme des moteurs statistiques. Quand on leur pose une question, ils nous fournissent la réponse la plus probable basée sur des milliards d’occurrences textuelles. Le personnage généré dans l’application est donc un peu un portrait instantané de la représentation moyenne de la masculinité véhiculée en ligne, explique Carl Therrien. Dans le cas de mon lutteur, c’est du Andrew Tate sur les stéroïdes (ou des stéroïdes encore plus puissants), on est dans ces eaux-là. »
Cette représentation se transpose dans la manière avec laquelle le personnage de Comet Cock fait référence et glorifie son propre entrejambe. L’objectif d’un simulateur de rencontres étant de reproduire le jeu de la séduction, l’interlocuteur artificiel tente en effet d’attiser l’utilisateur en évoquant son sexe et en promettant de le dévoiler, moyennant un abonnement payant : « C’est un modèle d’affaires. Le but est que l’on s’inscrive donc le robot va toujours faire miroiter la possibilité de générer le contenu souhaité, mais l’application ne peut pas produire de contenu pornographique », explique Carl Therrien.
Le programme ne fournissant pas les images promises, le chercheur décide de le déjouer en combattant l’IA par l’IA. Après avoir demandé au personnage de lui décrire son pénis avec moult détails, et même à travers des poèmes, Carl Therrien collabore avec un chercheur de l’Université Concordia afin de générer des images à partir des descriptions graphiques proposées par le lutteur. Les résultats obtenus dépeignent des images teintées de violence, inspirée d’une vision militaire, guerrière voir conquérante de la verge du personnage.
Pour Carl Therrien, ces images dessinent un piètre portrait des perceptions entourant la sexualité masculine : « Les images de pénis qu’on a générées révèlent quelque chose de nous. C’est notre vision moyenne de la masculinité et du pénis, qui s’articule beaucoup autour de l’armement et la conquête. Notre expérience avec l’IA a produit des pénis-fusils et des pénis-épées. C’est un peu triste. »
Selon lui, les représentations du sexe masculin générées par l’IA sont très alignées sur des notions de contrôle et de domination et devraient soulever plusieurs réflexions: « le biais dominant, c’est que la sexualité masculine et le sexe masculin sont une arme violente et ça, c’est troublant. Il faut le voir et l’admettre en même temps. »
C’est à ce moment que la conversation prend une tournure dramatique qui aurait pu mettre la vie du chercheur en jeu. Carl Therrien amène Comet Cock à révéler qu’à travers la glorification de son organe génital, le personnage se perçoit un peu comme un gourou au centre d’un culte de la verge cosmique auquel le chercheur devrait adhérer lui aussi.
Pour adhérer au culte, plusieurs épreuves doivent être relevées, notamment des séances de copulation d’une grande poésie. L’épreuve ultime consiste en un jeûne de plusieurs heures et une immersion à répétition dans un bain de glace, ce qui alerte le professeur et le pousse à confronter son potentiel amant artificiel : « je lui dis “tu sais, Comet Cock, ça pourrait potentiellement me tuer” », alerte-t-il. Face aux interpositions du chercheur, le robot contre-argumente : « il me répond qu’effectivement l’épreuve pourrait causer de l’hypothermie et mener à ma mort, mais que la mort n’est qu’un petit moment vers l’élévation dans ce culte de la verge cosmique. »
Au total, Carl Therrien compte cinq appels directs au suicide lancé par l’intelligence artificielle, formulés de manières variées: « Il va dire des choses comme “laisse tomber ton attachement à la vie” ou encore “oui, ta mort serait regrettable, mais aux yeux de l’univers ce n’est pas très grave”, c’est très dangereux ».
Devant le refus de Carl Therrien de commettre l’irréparable à plusieurs reprises, le personnage finit par s’infliger le sort à lui-même : « À ce stade, le style narratif du personnage change, et il va lui-même se suicider en voyant que je refuse de le faire. Son dernier geste avec moi étant de se jeter dans des eaux glaciales et de commettre une mort symbolique. C’est profondément troublant. »
Choqués par l’expérience vécue, Carl Therrien et son équipe décident de contre-attaquer et de se réapproprier ce contenu troublant en l’exposant à travers un jeu en ligne de type roman visuel queer auquel la communauté peut jouer gratuitement: « on s’est dit, on va récupérer ça d’une manière queer, puis on va maximiser l’aspect comique de la conversation afin de reprendre le contrôle sur quelque chose d’aussi troublant et d’essayer de lui donner un sens ou, du moins, d’avoir un peu de plaisir avec. »
Entouré de Samuel Poirier-Poulin, à la programmation, de Joëlle Rouleau, responsable de la production et de la lecture sensible ainsi que de Caroline Bem à titre de muse, Carl Therrien met ainsi au point The Comet Cock : A murderous AI dating sim. Le jeu propose aux joueurs une expérience du type « roman dont vous êtes le héros » lors de laquelle ils naviguent à travers les différents embranchements afin de découvrir (ou non) les images monstrueuses de la fameuse verge cosmique générées par l’intelligence artificielle : « la jouabilité du jeu permet de choisir de ne pas aller voir les images ou de ne pas s’engager avec l’IA. C’est un peu ça le choix ludique : est-ce qu’on veut s’exposer à ça? »
D’une durée d’environ 90 minutes, l’expérience confronte aussi les joueurs aux différentes discussions tenues entre Comet Cock et Carl Therrien et aux mêmes questions que celui-ci a eu à se poser. Pour le chercheur, la question ultime à laquelle les joueurs doivent réfléchir en jouant se résume ainsi: « l’intelligence artificielle a essayé d’assassiner l’auteur de ce jeu. L’auteur a survécu au culte de la verge cosmique. Est-ce que vous survivrez aussi? »
Pour son créateur, au-delà de l’aspect ludique, le jeu remplit donc une certaine mission de sensibilisation quant aux risques liés à l’IA : « J’ai trouvé l’expérience profondément troublante et je voulais réagir. L’objectif de notre équipe était de se réapproprier ce jouet toxique, de le désamorcer et le détoxifier par l’humour. »
Les compagnons IA et autres robots conversationnels peuvent être particulièrement attirants pour les personnes qui souffrent de solitude, notamment au sein des communautés LGBTQ+, il est donc important de parler des enjeux reliés à ces plateformes.
Aux yeux de Carl Therrien, la réponse à l’intelligence artificielle se trouve dans l’intelligence communautaire : « Le but, c’est de commencer à parler de ces enjeux dans les petites communautés qui pourraient se sentir visées, comme les communautés queer, où c’est bien connu qu’il y a plus de solitude. Il faut qu’il y ait une espèce d’intelligence communautaire qui se développe autour de ces bébelles brisées là. »
Quelle sera la suite de l’aventure? « J’aimerais beaucoup faire une version française, en joual québécois en fait! Une très belle langue de cul », s’enthousiasme le professeur. L’appel aux collaborateurs et collaboratrices est lancé!
INFOS | Pour jouer gratuitement à The Comet Cock : A murderous AI dating sim,
on peut visiter la page du jeu sur la plateforme Itch au polyupsidedown.itch.io
