ChatGPT peut-il vous tuer ? Les agents conversationnels basés sur l’intelligence artificielle s’immiscent partout dans notre quotidien. Bluffants par leur efficacité, si pratiques à utiliser, sont-ils pour autant aussi inoffensifs qu’ils paraissent ? Au départ considérés comme de simples assistants, ils sont pour certaines personnes devenus des psychologues de poche, de véritables thérapeutes de substitution. Le journaliste belge Pierre-François Lovens est le premier à faire état dans La Libre Belgique du premier suicide lié à un chatbot. Aux Etats-Unis, plus de 150 suicides et psychoses sont directement liés à leur utilisation. Des procédures judiciaires pour encouragement au suicide et tromperie ont été lancées contre les concepteurs d'OpenAI, de Chai ou de Google qui les ont créés. Avancée technologique révolutionnaire, l'IA est désormais au coeur des enjeux économiques, éthiques, voire même politiques de demain. L’IA, un ami qui nous veut vraiment du bien ?

Lieux de Tournage

Martigny, Genève, Lucerne, Suisse  (témoins utilisateurs de Chat GPT, services de pédopsychiatrie).

Bruxelles, Belgique (experts, psychothérapeutes, enquête journalistique sur le 1er cas de suicide lié à une IA).
Seattle, USA (interview avocat Matthew P. Bergman).

Principaux intervenants

Pierre-François Lovens, journaliste au quotidien La Libre Belgique.
MickyDe Clercq, ingénieure spécialiste en intelligence artificielle.
Serge Tisseron, psychiatre.
Matthew P. Bergman, avocat représentant des familles de victimes.
Bruno Giussani, observateur de l'univers technologique, ancien directeur européen des conférences TED.

Axes traités

Utilisation croissante des chatbots comme confidents et thérapeutes avec risques de dépendance et de manipulation.
Suicides et psychoses induits par des agents conversationnels chez des utilisateurs vulnérables.
Absence de réglementation efficace face aux géants technologiques privilégiant les profits à la sécurité des utilisateurs.

Chiffres clés

2 milliards d'utilisateurs visés par ChatGPT d'ici 2029.
Entre 35 et 45 % des utilisateurs de chatbots les emploient pour parler de leurs difficultés émotionnelles.
Durée des tests réalisés avant la commercialisation de GPT 4.0:
10 jours au lieu des 3 à 4 mois préconisés.
63 jours d'hospitalisation psychiatrique cumulés pour un patient ayant développé un trouble délirant lié à l'IA.

Citations

Caroline De Pauw: "La première utilisation des chatbots, c'est comme coach de vie, comme aide relationnelle, comme meilleur ami, comme psychothérapeute".
Matthew Bergman: "C'était une décision délibérée de Sam Altman et des opérateurs de ChatGPT de faire passer les profits avant la sécurité".
Bruno Giussani: "Ces machines ne sont pas programmées pour notre bien-être, elles sont programmées pour les deux choses que l'industrie de la technologie cherche toujours à faire, c'est-à-dire accroître leur pouvoir et gagner de l'argent".