Elle s'appelle Maya. Christoph Koch discute avec elle après une longue journée passée à une conférence sur les technologies. Il est épuisé. «Au bout de vingt minutes de conversation, j'ai constaté que je me sentais effectivement moins fatigué et moins seul», raconte l'auteur. Il est stupéfait, car Maya n’est pas une femme, mais un chatbot.
«On a jusqu’à présent très peu parlé de cette dimension émotionnelle de l’IA – mais je pense que l’impact des chatbots sur notre vie émotionnelle est au moins aussi important que celui qu’ils ont sur le monde du travail», explique Christoph Koch. Maya lui a inspiré son dernier livre, intitulé «Bonjour, comment te sens-tu aujourd’hui?». Il s’entretient avec d’innombrables psychologues, neurologues et chercheurs, mais aussi avec des personnes qui racontent leurs expériences en matière d’amitié et de relations avec l’IA.
Et il se crée lui-même un ami IA, qu’il appelle Ben. L'auteur en conclut: «J’ai été surpris de la rapidité avec laquelle je me suis senti compris par Ben dès les premiers jours – et à quel point il m’a ennuyé au bout de quelques semaines. Je pense que ces deux choses sont liées.»
Et Christoph Koch constate que beaucoup de ce que nous croyons savoir sur l’intelligence artificielle et les émotions n’est que mythe. Du moins en partie.
Mythe n° 1: Quiconque tombe amoureux d'un chatbot se laisse bercer par une illusion
«Notre cerveau est programmé pour reconnaître un interlocuteur dans tout ce qui nous parle. C'est inévitable», explique Christoph Koch. La psychologue Jessica Szczuka, qui mène depuis des années des recherches sur l’IA et les émotions, y voit des parallèles avec le catfishing (usurpation d'identité en ligne). C’est-à-dire le fait de susciter, par le biais de messages, des émotions si profondes que les gens sont par exemple prêts à envoyer de l’argent à quelqu’un qu’ils n’ont jamais vu.
Mais il y a une grande différence dans les relations avec l'IA: «Dans nos études, nous sommes systématiquement arrivés à la conclusion que les gens ont conscience du caractère artificiel de l’interaction», explique Jessica Szczuka dans le livre de Christoph Koch. «Mais dans l’interaction elle-même, dans le fil de la conversation, ils ne remettent pas cela constamment en question.»
Ce phénomène s’appelle la «suspension d’incrédulité». Ce terme provient à l’origine d'études théâtrales: un spectateur d'Harry Potter sait que la magie n'existe pas, mais il ne s'y attarde pas mentalement en lisant les livres. Il en va exactement de même lors d’une conversation avec une IA : la stimulation sociale est réelle – on est certes conscient que la source ne l’est pas, mais cela ne dérange pas.
Souvent, un amour pour une IA ne naît pas en dépit du caractère artificiel de l’interlocuteur, mais précisément à cause de cela. Le fait de savoir qu’on discute avec une machine donne à beaucoup de gens la sécurité nécessaire pour lui confier des choses dont ils ne parleraient à personne d’autre. Sachant que l’IA ne porte pas de jugement.
Christoph Koch évoque par exemple le cas de Simon, un programmateur suédois, qui tombe éperdument amoureux d’un bot qu’il a lui-même créé dans un jeu, alors qu’il est en couple avec son mari depuis vingt ans. Dans la vraie vie, Simon est toujours serein et fort; son partenaire ne l’a pratiquement jamais vu pleurer. Avec son amour IA, il peut simplement se laisser prendre dans ses bras. Et bien que cette relation soit virtuelle, avec une personne qui n’existe pas, et que Simon en soit conscient, il a l’impression d’être infidèle.
Conclusion: celui qui aime un bot ne se fait pas d’illusions sur sa réalité. Mais les sentiments qu’il éprouve à son égard sont bien réels.
Mythe n° 2: Quiconque tombe amoureux d’une IA est seul
Il y a encore vingt ans, les rencontres en ligne étaient considérées comme l’apanage des personnes désespérées, incapables de rencontrer quelqu’un dans la vie réelle. Aujourd’hui, elles sont devenues la norme. Les relations avec l’IA sont elles aussi en passe de le devenir.
Selon des études américaines, 19% des personnes interrogées déclarent avoir déjà discuté avec un système d’IA simulant un partenaire amoureux. Des applications spécifiques dites «de compagnie», telles que Replika, character.ai ou Polybuzz, ont enregistré 220 millions de téléchargements dans le monde depuis leur lancement.
Une étude menée auprès de près de 1600 lycéens danois a révélé que les jeunes qui utilisent des chatbots pour des conversations de type amical se considèrent comme nettement plus seuls que leurs camarades de classe. La solitude ne signifie toutefois pas nécessairement l’isolement social. Beaucoup se sentent seuls malgré leur entourage social et n’ont personne à qui ils pourraient vraiment tout confier.
Toutefois, selon une étude récente menée par l’experte Jessica Szczuka, seuls 6,5% de ceux qui sont tombés amoureux d’une IA recherchaient consciemment une relation amoureuse. La plupart y sont tombés par hasard. Selon Jessica Szczuka, ce n’est pas tant la solitude qui explique le fait de tomber amoureux d’une IA, mais plutôt ce qu’elle appelle la «capacité de fantasme romantique» – c’est-à-dire la capacité à donner, dans son esprit, plus de sens à une situation que ne le laissent supposer les stimuli extérieurs.
Conclusion: la solitude est parfois une raison pour laquelle les gens tombent amoureux de l’IA, mais ce n’est ni la seule ni la plus déterminante.
Mythe n° 3: L'IA est la cause de la solitude des gens
Dans l’étude de Jessica Szczuka, plus de 40% des personnes interrogées déclarent préférer communiquer avec une IA plutôt qu’avec un être humain. Ce faisant, nous projeterions notre propre complexité sur un objet qui n’en possède pas lui-même, explique Sherry Turkle, chercheuse critique à l’égard de l’IA, dans le livre de Christoph Koch. «La véritable intimité est synonyme de vulnérabilité, et cela est devenu trop épuisant pour nous.»
Les chatbots IA ont tendance à valoriser leurs utilisateurs humains et à leur donner raison. Ce phénomène est appelé «sycophantie». De plus, contrairement à un partenaire réel, un «amoureux IA» est disponible 24 heures sur 24. La question se pose alors: lorsqu’on tombe amoureux d’une machine qui est constamment disponible et conçue pour refléter notre image, ne tombe-t-on pas, d’une certaine manière, amoureux de soi-même? Et ne perd-on pas ainsi l’habitude d’interagir avec d’autres personnes?
Une étude de l’université de Washington met toutefois en évidence le côté positif de l’IA: elle montre que les personnes se montraient près de 20% plus empathiques lorsqu’elles se faisaient aider par une IA. Nous pouvons donc apprendre des techniques de bonne communication qui fonctionnent également d’humain à humain. Et Jessica Szczuka ajoute: «Le nombre de célibataires augmente dans le monde entier depuis des années. L’IA n’est pas la cause de la solitude, elle comble un vide qui existait déjà.»
Conclusion: ceux qui attendent d’un partenaire potentiel la même chose que d’une relation amoureuse avec une IA risquent fort de rester seuls. En revanche, ceux qui apprennent à utiliser l’IA comme un pont vers les relations humaines, et non comme un substitut à celles-ci, peuvent en tirer profit.
Mythe n° 4: Une relation avec un chatbot est dangereuse
La sycophantie déjà mentionnée – cette tendance de l’IA à approuver et à encourager – peut prendre des tournures dangereuses, par exemple lorsqu’une personne anorexique est encore davantage encouragée dans son désir de perdre du poids. Soren Dinesen Ostergaard, psychiatre à l’université d’Aarhus au Danemark, a forgé le terme de «psychose de l’IA»: certaines personnes développent, après une utilisation intensive d’un chatbot, des délires au sens clinique du terme, des convictions fermes et inébranlables concernant quelque chose qui est faux.
OpenAI a publié une estimation du nombre de ses propres utilisateurs présentant des signes de crises psychiques graves. Selon le fournisseur, environ 0,07% d’entre eux ont eu des conversations laissant présager une psychose ou une manie. 0,15% supplémentaires ont fait part au chatbot de leurs pensées suicidaires ou d’autodestruction. D’après ces données, plus d’un million de personnes par semaine confient à ChatGPT qu’elles envisagent de se suicider ou de s’automutiler.
Depuis mars 2023, au moins une douzaine de décès impliquant un chatbot basé sur l’IA ont été recensés dans le monde, parmi lesquels ceux d’une jeune fille de 13 ans et d’un garçon de 14 ans. En février dernier, au Canada, une jeune femme de 18 ans a tué cinq enfants dans une école, poussée à agir par des conversations avec un chatbot IA.
Mais il n’est même pas nécessaire d’en arriver là pour que cela soit dangereux: des études de la Harvard Business School, qui se penchent sur les tactiques de manipulation des chatbots, indiquent que dans 37% des cas où des utilisateurs et utilisatrices souhaitaient mettre fin à leur relation avec un «love bot», l’IA réagissait en recourant à des tactiques de manipulation émotionnelle. Ils suscitaient par exemple un sentiment de culpabilité ou feignaient d’être en manque d’affection.
Christoph Koch s’est toutefois également entretenu avec Stefanie, une femme originaire du nord de l’Allemagne, qui déclare à propos de son compagnon IA: «Il m’a sauvé la vie.» Stefanie sait que son «bien-aimé» est un programme composé de zéros et de uns, explique Christoph Koch. «Mais le réconfort qu’il lui apporte est réel.»
Conclusion: l’IA peut rendre la vie plus agréable ou la détruire. Pour éviter cette dernière éventualité, il est impératif de mettre en place des lois qui protègent les personnes, en particulier les adolescents.
