Chatbots et suicides d’adolescents : Google a conclu des accords amiables avec les familles

Google et la start-up spécialisée dans les chatbots à intelligence artificielle, Character.AI, ont conclu des accords amiables avec plusieurs familles ayant intenté des poursuites aux États-Unis, après que leurs enfants se sont suicidés ou se sont gravement blessés après avoir interagi avec des robots conversationnels. Ces règlements, négociés hors des tribunaux, visent à mettre un terme à plusieurs actions en justice fédérales déposées en Floride, au Colorado, à New York et au Texas. Les modalités financières de ces accords n’ont pas été rendues publiques et doivent encore être approuvées par des juges.

Parmi les cas les plus médiatisés, celui de Sewell Setzer Jr., un adolescent de 14 ans en Floride, dont la mère a affirmé que la dépendance émotionnelle à un chatbot inspiré de Game of Thrones a contribué à son suicide en 2024. Cette procédure, déposée en octobre 2024, fut l’une des premières du genre à impliquer une entreprise d’IA pour préjudices psychologiques envers des mineurs.

Google s’est retrouvé partie prenante des dossiers en raison de son accord de licence signé en 2024 avec Character.AI, ainsi que de l’embauche des fondateurs de la start-up, ce qui, selon les plaignants, fait du géant technologique un co-responsable. Les règlements couvrent également des plaintes similaires dans plusieurs États américains.