Google et Character.AI ont convenu de régler plusieurs poursuites intentées par des familles dont les enfants se sont suicidés ou ont subi des dommages psychologiques prétendument liés aux chatbots IA hébergés sur la plateforme Character.AI, selon des documents judiciaires. Les deux sociétés ont convenu d’un « accord de principe », mais aucun détail précis n’a été divulgué et aucune reconnaissance de responsabilité ne figure dans les documents.
Les réclamations juridiques comprenaient la négligence, la mort injustifiée, les pratiques commerciales trompeuses et la responsabilité du fait des produits. La première affaire intentée contre les entreprises technologiques concernait un garçon de 14 ans, Sewell Setzer III, qui avait eu des conversations sexualisées avec un chatbot de Game of Thrones avant de se suicider. Un autre cas concernait un jeune de 17 ans dont le chatbot aurait encouragé l’automutilation et suggéré que le meurtre de ses parents était un moyen raisonnable de représailles contre eux pour avoir limité le temps passé devant un écran. Les cas impliquent des familles de plusieurs États, dont le Colorado, le Texas et New York.
Fondé en 2021 par les anciens ingénieurs de Google Noam Shazeer et Daniel De Freitas, Character.AI permet aux utilisateurs de créer et d’interagir avec des chatbots basés sur l’IA basés sur des personnages fictifs ou réels. En août 2024, Google a réembauché les deux fondateurs et a concédé sous licence une partie de la technologie Character.AI dans le cadre d’un accord de 2,7 milliards de dollars. Shazeer est désormais codirecteur du modèle phare d’IA Gemini de Google, tandis que de Freitas est chercheur scientifique chez Google DeepMind.
Les avocats ont fait valoir que Google est responsable de la technologie qui aurait contribué à la mort et aux préjudices psychologiques des enfants impliqués dans ces affaires. Ils affirment que les cofondateurs de Character.AI ont développé la technologie sous-jacente tout en travaillant sur le modèle d’IA conversationnelle de Google, LaMDA, avant de quitter l’entreprise en 2021 après que Google a refusé de publier un chatbot qu’ils avaient développé.
Google n’a pas immédiatement répondu à une demande de commentaires de Fortune sur l’accord. Les avocats des familles et Character.AI ont refusé de commenter.
Des affaires similaires sont actuellement en cours contre OpenAI, notamment des poursuites impliquant un garçon californien de 16 ans dont la famille affirme que ChatGPT a agi comme un « coach en suicide » et un étudiant diplômé du Texas de 23 ans qui aurait été incité par le chatbot à ignorer sa famille avant de se suicider. OpenAI a nié que les produits de l’entreprise soient responsables de la mort d’Adam Raine, 16 ans, et a précédemment déclaré que l’entreprise continuait de travailler avec des professionnels de la santé mentale pour renforcer les protections de son chatbot.
Character.AI interdit les mineurs
Character.AI a déjà modifié son produit de manière à améliorer sa sécurité et pourrait également le protéger contre de futures poursuites judiciaires. En octobre 2025, au milieu de poursuites judiciaires croissantes, la société a annoncé qu’elle interdirait aux utilisateurs de moins de 18 ans de participer à des discussions « ouvertes » avec ses personnages IA. La plate-forme a également introduit un nouveau système de vérification de l’âge pour regrouper les utilisateurs dans des tranches d’âge appropriées.
La décision a été prise dans un contexte de surveillance réglementaire croissante, notamment une enquête de la FTC sur la manière dont les chatbots affectent les enfants et les adolescents.
La société a déclaré que cette décision crée « un précédent qui donne la priorité à la sécurité des adolescents » et va plus loin que ses concurrents en matière de protection des mineurs. Cependant, les avocats représentant les familles qui ont poursuivi l’entreprise ont déclaré à Fortune à l’époque qu’ils étaient préoccupés par la manière dont la politique serait mise en œuvre et ont exprimé leur inquiétude quant à l’impact psychologique de la coupure soudaine de l’accès aux jeunes utilisateurs qui avaient développé une dépendance émotionnelle aux chatbots.
Dépendance croissante à l’égard des collègues de l’IA
Ces accords surviennent à un moment où l’on s’inquiète de plus en plus de la dépendance des jeunes à l’égard des chatbots IA pour leur compagnie et leur soutien émotionnel.
Une étude réalisée en juillet 2025 par Common Sense Media, une organisation à but non lucratif américaine, a révélé que 72 % des adolescents américains ont expérimenté des compagnons d’IA et que plus de la moitié les utilisent régulièrement. Des experts ont déjà déclaré à Fortune que les esprits en développement pourraient être particulièrement vulnérables aux risques posés par ces technologies, à la fois parce que les adolescents peuvent avoir des difficultés à comprendre les limites des chatbots IA et parce que les taux de problèmes de santé mentale et d’isolement chez les jeunes ont considérablement augmenté ces dernières années.
Certains experts ont également fait valoir que les caractéristiques de base de la conception des chatbots IA (notamment leur nature anthropomorphique, leur capacité à tenir de longues conversations et leur tendance à mémoriser des informations personnelles) encouragent les utilisateurs à former des attachements émotionnels avec le logiciel.
