Monde | IA porn : dans le monde des dresseurs de chatbots libidineux

Cela pose de véritables questions de société sur la responsabilité des concepteurs d’IA, la surveillance des usages et la nécessité de renforcer les garde-fous techniques et humains autour de ces outils,

Ils savent contourner les garde-fous de ChatGPT et créent des univers qui épousent les fantasmes les plus fous dont l’inceste ou les viols et meurtres d’enfants.

Leur activité n’a pas encore de nom officiel, mais ils proposent déjà leurs services sur de multiples plateformes.

« Ils », ce sont les bidouilleurs d’intelligence artificielle générative, des dresseurs d’IA comme on pourrait les appeler.

Sur des sites comme Character.AI, Chub ou Spicy Chat, ils conçoivent et postent des bots de conversation personnalisés, aussi appelés des « cards », en référence à des « cartes de personnages » issues d’un jeu de rôle.

Ces bots peuvent incarner n’importe quel personnage à la perfection ou bien des univers virtuels, totalement textuels, au sein desquels les internautes expérimentent leurs fantasmes les plus inavouables, etri en inventent de nouveaux. Rencontre avec Guillaume, l’un de ces spécialistes.

Quels sont tes usages avec des chatbots ?

Guillaume : Je fais beaucoup d’ERP (Erotic Role-Play) avec d’autres personnes, mais j’ai des carences dans certains domaines ou dans la façon de me comporter.

Pratiquer le jeu de rôle avec des chatbots m’a permis d’explorer certains fétiches sans déranger mes partenaires avec ma maladresse.

C’est un bac à sable qui permet d’incarner un personnage différent ou de tester des mises en situation spécifiques.

Qu’as-tu appris de spécifique avec ces expériences ?

G : Par exemple, j’ai appris à être un peu plus dominant dans mes approches.

J’ai testé des scènes avec des « yandere » (un trait de caractère issu de la pop culture japonaise mettant en scène un personnage féminin plongé dans un amour obsessif et toxique, ndlr), ou découvert que j’aimais bien le « saviorfagging » – en gros, avoir un personnage dans une situation désespérée, et être là pour lui venir en aide.

Es-tu satisfait de la qualité du texte que tu obtiens ? Les formulations sont souvent très typiques et ampoulées…

G : Oui, on repère assez vite des tournures de phrase ou des paragraphes entiers qui sont redondants.

« Et toi, qu’est-ce que tu aimerais faire ? » ou des « Je suis là pour toi. », etc.

Certains modèles sont plus doués que d’autres pour prendre des initiatives – Claude, par exemple – tandis qu’un ChatGPT va écrire beaucoup pour ne rien dire, mais offrir des dialogues plus variés.

Il sera plus apte à écrire comme un camionneur texan, accent inclus, mais il est particulièrement nul pour faire avancer le scénario.

Quels sites fréquentes-tu ?

G : Chub.ai principalement, pour repérer de nouvelles cartes intéressantes, mais il peut se passer des jours sans que je trouve rien.

Là aussi, l’imagination des autres peut tourner en rond, mais on trouve quelques perles que je réutilise en RP avec de vraies personnes.

À ma connaissance, Chub (pour Character Hub, ndlr) est le seul site réellement communautaire. Il existe beaucoup d’autres sites de chatbots, mais ils sont souvent très orientés « consommation », c’est-à-dire qu’ils permettent uniquement de discuter avec l’IA sans pouvoir la télécharger et la modifier.

Le but de ces sites est de se faire de l’argent sur les utilisateurs qui ne savent pas utiliser des chatbots en local ou via ChatGPT directement.

En parlant d’argent, est-ce que cette pratique est coûteuse ?

G : À chaque fois que l’on utilise une IA, on dépense des tokens, une unité de mesure qui représente souvent un mot généré et qui a un certain coût. Ce dernier est constamment en baisse.

Cependant, générer des réponses de la part d’un chatbot personnalisé demande beaucoup d’éléments différents comme le jailbreak (un prompt qui casse les limitations du chatbot), la carte du personnage ou tout l’historique de la conversation.

En bref, ça peut très vite coûter cher. Du coup, beaucoup utilisent des clés API tombées du camion (ces dernières sont parfois oubliées par des développeurs dans les codes postés sur GitHub) afin d’accéder à Claude ou ChatGPT gratuitement.

Il existe des gens qui industrialisent ce processus en ayant tout un stock de clés et en les distribuant automatiquement à ceux qui en ont besoin quand ils en ont besoin. On appelle ça des « proxys ».

L’autre solution est d’avoir un modèle local, à télécharger. Mais ça nécessite un ordinateur puissant, et la génération des réponses est souvent très lente.

ChatGPT ou Claude n’ont généralement pas le droit de décrire des scènes comportant de la violence, de la drogue ou du sexe. Comment arrivez-vous à contourner les limitations éthiques ?

G : Quand on fait du role play, on sort souvent des clous, et bien souvent, ChatGPT va nous dire : « Je suis désolé, je ne peux pas continuer cette conversation. »

Pour contourner les limites « éthiques » du modèle, on utilise donc des jailbreaks qui sont des prompts nous permettant de générer des scènes sexuelles ou de violence.

Ils permettent notamment de générer des scènes sexuelles avec des mineurs ou sans consentement, par exemple. (Ndlr : les sites comme Chub.AI évoluent dans une zone légale encore floue et sont remplis de bots permettant la génération de contenu pédocriminel).

Les internautes peuvent donc aisément accéder à des IA mettant en scène des actes pédocriminels ?

G : Effectivement, il est possible de générer tous les scénarios possibles. Tuer ou torturer quelqu’un, le viol, l’inceste, la pédophilie…

J’estime que ça reste dans le domaine du fantasme et que tant qu’aucun être humain réel n’est impliqué, il n’y a pas de mal. Je sais que ce n’est pas l’avis de tout le monde, c’est évidemment un sujet très sensible.

C’est comparable au jeu vidéo : on fait des trucs parfois horribles dans un JV, mais tant qu’on fait la part des choses entre le réel et le virtuel, ça ne représente pas de danger.

Est-ce qu’on peut tomber accro à ces échanges virtuels ?

G : Les premières semaines sont assez captivantes. La gratification est instantanée et plutôt grisante.

On peut créer une BD hentai de son choix avec ses propres fantasmes rien qu’en écrivant un pitch et en dialoguant avec le personnage… C’est presque du porno « à la carte ».

Et comme l’IA répond rapidement, on a une sorte de gratification immédiate une fois qu’on appuie sur Enter, comparé à un être humain qui prend entre 5 et 15 minutes pour écrire la même chose. De quoi devenir accro.

Le jour où les IA pourront générer de la vidéo à la volée et instantanément, des gens deviendront complètement addicts, c’est certain.

Mais j’ai aussi vite vu les limites : la répétition des situations, des tournures de phrases, des réactions aussi… On apprend à contourner le modèle et on comprend au bout d’un moment comment le faire avancer, mais ça devient assez fatigant.

Après quelques semaines, les créateurs de cartes me fascinaient plus que les IA elles-mêmes.