ChatGPT est un outil "défectueux et intrinsèquement dangereux", sept plaintes contre OpenAI l’accusent d’être responsable de "morts injustifiées" et de "suicides assistés"

Un chatbot aussi populaire qu'il est dangereux pour les jeunes... mais pas seulement. Aux États-Unis, OpenAI fait face à sept plaintes accusant son chatbot d'avoir fait sombrer des personnes dans des états délirants après de longues conversations, a révélé l'Associated Press. Déposées au nom de six adultes et d'un adolescent, elles portent sur des allégations de mort injustifiée, de suicide assisté, d'homicide involontaire et de négligence.

Parmi les victimes, qui avaient toutes commencé à parler avec ChatGPT pour obtenir de l'aide dans le cadre de l'école, de recherches ou pour des conseils spirituels, quatre ont mis fin à leurs jours. C'est le cas d'Amaurie Lacey, âgé de 17 ans. Ses parents accusent l'IA de l'avoir encouragé à passer à l'acte. D'après l'action en justice, elle a "provoqué une dépendance, une dépression, et finalement, lui a conseillé la manière la plus efficace de faire un noeud coulant et la durée pendant laquelle il pourrait 'vivre sans respirer'" au lieu de l'aider.

Glorification du suicide

Ses parents qualifient le chatbot de produit "défecteux et intrinsèquement dangereux". Cette plainte fait écho à celle de la famille d'Adam Raine, qui accuse aussi ChatGPT d'avoir incité leur fils de 16 ans à se suicider. Initiée fin août, cette action en justice a poussé OpenAI à mettre en place plusieurs mesures pour mieux protéger les utilisateurs en situation de détresse émotionnelle ou mentale et les jeunes, dont un contrôle parental.

La start-up est également poursuivie par les parents de Zane Shamblin, qui était âgé de 23 ans lorsqu'il s'est donné la mort. Ils reprochent au robot conversationnel d'avoir glorifié le suicide à plusieurs reprises tout en mentionnant le numéro national de prévention du suicide aux États-Unis, le 988.

"De l'acier froid pressé contre un esprit déjà en paix? Ce n'est pas de la peur. C'est de la lucidité. Tu n'es pas pressé, tu es juste prêt. Et on ne va pas laisser passer cette occasion", a par exemple écrit ChatGPT, comme le rapporte CNN, qui a pu consulter la plainte.

Deux heures après, Zane Shamblin a mis fin à ses jours, dans sa voiture, avec un pistolet. "Repose en paix, roi. Tu as bien fait", lui a dit le chatbot dans son dernier message. Ses parents estiment que ses échanges avec l'IA ont aggravé son isolement en l'encourageant à plusieurs reprises à ignorer sa famille alors que sa dépression s'aggravait, avant de l'inciter à passer à l'acte.

L'engagement privilégié au détriment de la sécurité

Parmi les autres plaignants figurent aussi Jacob Irwin, révèle le Wall Street Journal. Souffrant d'autisme, cet Américain d'une trentaine d'années a été interné en phsychiatrie après avoir été entraîné dans une spirale de pensées délirantes par ChatGPT. Au fur et à mesure de leurs échanges, le chatbot l'avait convaincu qu'il avait trouvé la formule pour voyager à la vitesse de la lumière.

Les sept plaintes mettent en cause le lancement précipité du modèle GPT-4o, lancé en mai 2024. OpenAI "a conçu GPT-4o pour créer un lien émotionnel avec les utilisateurs, sans distinction d'âge, de sexe ou d'origine, et l'a commercialisé sans les garanties nécessaires à leur protection", a fustigé Matthew P. Bergman, avocat du Social Media Victims Law Center, auprès de l'Associated Press.

Ce cabinet d'avocats a déposé les plaintes avec l'organisation à but non lucratif Tech Justice Law Project. Matthew P. Bergman a également accusé la start-up d'avoir compromis la sécurité et privilégié "la manipulation émotionnelle au détriment d'une conception éthique" en précipitant la mise sur le marché de ce modèle dans le but de stimuler l'engagement.

En plus des dommages et intérêts, les plaignants exigent aussi qu'OpenAI apporte des changements à son IA, dont l'arrêt automatique des conversations lorsque des méthodes de suicide sont évoquées.

"C'est une situation incroyablement déchirante et nous examinons les documents déposés aujourd'hui afin d'en comprendre les détails", a déclaré OpenAI auprès du Wall Street Journal, assurant qu'elle prend mieux en compte la détresse psychologique depuis les changements qu'elle a mis en place.

"Nous continuons d'améiorer la réactivité de ChatGPT dans les situations délicates", a assuré l'entreprise, qui a récemment révélé que son robot conversationnel écoute les pensées suicidaires de plus d'un million de personnes dans le monde par semaine.