L’effet Eliza

L’effet Eliza ou pourquoi on a parfois l’impression que les machines nous comprennent (et pourquoi c’est faux)

Dans la pièce Boîte noire, le personnage principal s’appelle Éliza et est interprété par Catherine-Anne Toupin, qui signe également le texte. En la nommant ainsi, l'autrice a voulu faire un clin d'œil à l’effet Eliza. Ce terme désigne notre tendance à croire qu’un programme informatique nous comprend, nous écoute, et peut ressentir des choses avec nous.

Tout commence en 1966 quand Joseph Weizenbaum créé Eliza, un chatbot rudimentaire qui imite une psychothérapeute. Eliza ne comprend rien. Elle reformule simplement les phrases qu’on lui a données. Mais ça suffit pour que des humain·es se confient à elle.

C’est une forme d’anthropomorphisme: prêter des traits humains à un objet, à un animal ou dans ce cas, à une machine. Si vous avez déjà souhaité une bonne journée à ChatGPT, vous savez de quoi on parle.

D’où vient ce nom, Eliza? Joseph Weizenbaum faisait référence à Eliza Doolittle, l’héroïne de la pièce de 1913 Pygmalion de Bernard Shaw (pièce jouée chez Duceppe en 1990 avec Sylvie Léonard dans le rôle d'Eliza), popularisée au cinéma en 1964, sous les traits d’Audrey Hepburn, dans My Fair Lady. 

Comme Eliza Doolittle, une jeune marchande de fleurs qui apprend à imiter le langage de la haute société, le programme pouvait «s’améliorer» grâce aux échanges avec ses utilisateur·ices, le rendant encore plus crédible.

Aujourd’hui, avec les IA conversationnelles, l’effet Eliza est décuplé. Le langage est fluide. L’illusion est forte. L’attachement aussi parfois! L’effet Eliza joue avec notre besoin de réconfort et notre sentiment croissant d’isolement. Mais ne l’oublions pas, une machine n’aura jamais d’émotion.

«Ces robots n'ont pas été conçus pour créer un lien authentique ou aider les gens, mais plutôt pour les manipuler et les pousser à passer plus de temps en ligne. Cela pourrait aggraver l’épidémie de solitude actuelle.» – Sam Hiner, directeur exécutif de la Young People’s Alliance

Sources

Wikipédia: https://fr.wikipedia.org/wiki/Effet_ELIZA
RTL: https://www.rtl.fr/actu/sciences-tech/pourquoi-certains-s-attachent-a-des-intelligences-artificielles-qu-est-ce-que-l-effet-eliza-7900547712
Psychologies magazine: https://www.psychologies.com/actualites/tech-et-medias/chat-gpt-remplace-psy-effet-eliza-563405
Le Point: https://www.lepoint.fr/eureka/l-ancetre-de-chatgpt-est-une-femme-et-elle-a-58-ans-15-05-2024-2560237_4706.php
National Geographic: https://www.nationalgeographic.fr/sciences/technologie-intelligence-artificielle-a-assaut-de-amour-relation-hommes-robots
Time Magazine: https://time.com/7209824/replika-ftc-complaint/