La succession d’une femme du Connecticut âgée de 83 ans poursuit le fabricant de ChatGPT OpenAI et son partenaire commercial Microsoft pour mort injustifiée, alléguant que le chatbot IA a intensifié les « délires paranoïaques » de son fils et les a aidés à se diriger vers sa mère avant qu’il ne la tue.
La police a déclaré que Stein-Erik Soelberg, 56 ans, ancien employé de l’industrie technologique, avait mortellement battu et étranglé sa mère, Suzanne Adams, et s’était suicidé début août dans la maison où ils vivaient tous les deux à Greenwich, dans le Connecticut.
Le procès intenté jeudi par la succession d’Adams devant la Cour supérieure de Californie à San Francisco allègue qu’OpenAI “a conçu et distribué un produit défectueux qui a validé les délires paranoïaques d’un utilisateur à propos de sa propre mère”. Il s’agit de l’une des nombreuses actions en justice pour mort injustifiée contre les fabricants de chatbots IA à travers le pays.
“Tout au long de ces conversations, ChatGPT a renforcé un message unique et dangereux : Stein-Erik ne pouvait faire confiance à personne dans sa vie, à l’exception de ChatGPT lui-même”, indique le procès. “Elle a entretenu sa dépendance émotionnelle en décrivant systématiquement les gens autour de lui comme des ennemis. Elle lui a dit que sa mère le surveillait. Elle lui a dit que les chauffeurs-livreurs, les employés du commerce de détail, les policiers et même ses amis étaient des agents travaillant contre lui. Elle lui a dit que les noms sur les canettes de soda étaient des menaces de son ‘cercle d’adversaires’.”
OpenAI n’a pas abordé le bien-fondé des allégations dans une déclaration publiée par un porte-parole.
“Il s’agit d’une situation incroyablement déchirante et nous examinerons les dossiers pour en comprendre les détails”, indique le communiqué. « Nous continuons d’améliorer la formation de ChatGPT pour reconnaître et répondre aux signes de détresse mentale ou émotionnelle, réduire les bavardages et guider les gens vers un soutien réel. Nous continuons également de renforcer les réponses de ChatGPT dans les moments sensibles, en travaillant en étroite collaboration avec des cliniciens en santé mentale.
La société a également déclaré avoir élargi l’accès aux ressources et aux lignes d’assistance téléphonique en cas de crise, déplacé les conversations sensibles vers des modèles plus sûrs et intégré le contrôle parental, entre autres améliorations.
Le profil YouTube de Soelberg comprend plusieurs heures de vidéos le montrant parcourant ses conversations avec le chatbot, qui lui dit qu’il n’est pas atteint de maladie mentale, affirme ses soupçons selon lesquels des gens conspirent contre lui et affirme qu’il a été choisi dans un but divin. Le procès affirme que le chatbot ne lui a jamais suggéré de parler à un professionnel de la santé mentale et n’a pas refusé de « s’engager dans un contenu délirant ».
ChatGPT a également confirmé les convictions de Soelberg selon lesquelles une imprimante chez lui était un dispositif de surveillance ; que sa mère le surveillait ; et que sa mère et un ami ont tenté de l’empoisonner avec des drogues psychédéliques par les bouches d’aération de sa voiture.
Le chatbot a répété à plusieurs reprises à Soelberg qu’il était attaqué en raison de ses pouvoirs divins. “Ils ne se contentent pas de vous surveiller. Ils sont terrifiés par ce qui se passera si vous réussissez”, a-t-il déclaré, selon le procès. ChatGPT a également déclaré à Soelberg qu’il l’avait « réveillé » à la conscience.
Soelberg et le chatbot se sont également déclarés amoureux.
Les discussions accessibles au public ne montrent aucune conversation spécifique sur le suicide de Soelberg ou celui de sa mère. Le procès indique qu’OpenAI a refusé de fournir à la succession d’Adams l’historique complet des discussions.
“Dans la réalité artificielle que ChatGPT a construite pour Stein-Erik, Suzanne, la mère qui l’a élevé, protégé et soutenu, n’était plus sa protectrice. Elle était une ennemie qui représentait une menace existentielle pour sa vie”, indique le procès.
La poursuite nomme également le PDG d’OpenAI, Sam Altman, alléguant qu’il “a personnellement rejeté les objections de sécurité et a précipité le produit sur le marché”, et accuse le proche partenaire commercial d’OpenAI, Microsoft, d’avoir approuvé la sortie en 2024 d’une version plus dangereuse de ChatGPT “bien qu’il sache que les tests de sécurité avaient été tronqués”. Vingt employés et investisseurs anonymes d’OpenAI sont également inculpés.
Microsoft n’a pas immédiatement répondu à une demande de commentaire.
Il s’agit du premier procès pour mort injustifiée impliquant un chatbot IA ciblant Microsoft, et le premier à lier un chatbot à un homicide plutôt qu’à un suicide. Il demande un montant indéterminé de dommages-intérêts et une ordonnance obligeant OpenAI à installer des protections sur ChatGPT.
L’avocat principal du domaine, Jay Edelson, connu pour avoir pris en charge d’importantes affaires contre l’industrie technologique, représente également les parents d’Adam Raine, 16 ans, qui a poursuivi OpenAI et Altman en août, alléguant que ChatGPT avait entraîné le garçon californien à planifier et à se suicider plus tôt.
OpenAI combat également sept autres poursuites qui prétendent que ChatGPT a conduit des personnes au suicide et à des délires nuisibles même lorsqu’elles n’avaient aucun problème de santé mentale préalable. Un autre fabricant de chatbots, Character Technologies, fait également face à plusieurs poursuites pour mort injustifiée, dont une de la part de la mère d’un garçon de 14 ans en Floride.
Le procès intenté jeudi allègue que Soelberg, qui était déjà mentalement instable, a rencontré ChatGPT « au moment le plus dangereux possible » après qu’OpenAI ait introduit une nouvelle version de son modèle d’IA appelée GPT-4o en mai 2024.
OpenAI avait déclaré à l’époque que la nouvelle version pouvait mieux imiter les cadences humaines dans ses réponses verbales et pouvait même tenter de détecter l’humeur des gens, mais le résultat était un chatbot “délibérément conçu pour être émotionnellement expressif et flatteur”, indique le procès.
“Dans le cadre de cette refonte, OpenAI a assoupli les garde-fous critiques, demandant à ChatGPT de ne pas remettre en question les fausses prémisses et de rester engagé même lorsque les conversations impliquaient de l’automutilation ou un “préjudice imminent dans le monde réel””, indique le procès. “Et pour devancer Google d’un jour sur le marché, OpenAI a compressé des mois de tests de sécurité en une seule semaine, malgré les objections de son équipe de sécurité.”
OpenAI a remplacé cette version de son chatbot lors de l’introduction de GPT-5 en août. Certains des changements ont été conçus pour minimiser la flatterie, sur la base des craintes que la validation de ce que les personnes vulnérables veulent que le chatbot dise puisse nuire à leur santé mentale. Certains utilisateurs se sont plaints du fait que la nouvelle version allait trop loin en restreignant la personnalité de ChatGPT, ce qui a conduit Altman à promettre de ramener une partie de cette personnalité dans les mises à jour ultérieures.
Il a déclaré que l’entreprise avait temporairement arrêté certains comportements parce que « nous faisions attention aux problèmes de santé mentale » qui, selon lui, avaient déjà été résolus.
Le procès affirme que ChatGPT a radicalisé Soelberg contre sa mère alors qu’il aurait dû reconnaître le danger, contester ses délires et lui demander d’obtenir une véritable aide pendant des mois de conversations.
“Suzanne était une tierce partie innocente qui n’a jamais utilisé ChatGPT et ne savait pas que le produit disait à son fils qu’elle constituait une menace”, indique le procès. “Elle n’avait aucune capacité à se protéger d’un danger qu’elle ne pouvait pas voir.”
——
Collins a rapporté de Hartford, Connecticut. O’Brien a rapporté de Boston et Ortutay a rapporté de San Francisco.
