Dans un contexte où les technologies de chatbots suscitent de multiples interrogations, Google et Character.AI ont récemment décidé de régler à l'amiable une série de litiges. Ces accords concernent des plaintes déposées par des familles d'adolescents qui se sont suicidés ou ont tenté de se mutiler après avoir interagi avec des intelligences artificielles.
Comme indiqué par TechCrunch, ces négociations incluent des cas survenus dans divers États, tels que la Floride, le Colorado et New York. Les accords, bien qu'ils prévoient des compensations financières, ne comportent pas de reconnaissance de responsabilité de la part des entreprises impliquées. Cette situation représente une première sur le plan judiciaire, alors que les plaintes contre les entreprises d'IA se multiplient.
Character.AI, qui permet à ses utilisateurs d'interagir avec des chatbots inspirés de célébrités et de personnages fictifs, a été fondée par d'anciens ingénieurs de Google. En 2024, la société a été acquise par Google pour près de 2,7 milliards de dollars, mais cette success story est assombrie par des affaires tragiques. L'une des plus remarquables concerne Sewell Setzer, un adolescent dont la mère a porté plainte, affirmant que son fils avait partagé des pensées suicidaires avec un chatbot se faisant passer pour un personnage de Game of Thrones.
Défendant les parents, des experts en santé mentale soulignent l'importance d'une réglementation stricte pour s'assurer que ces technologies ne nuisent pas aux utilisateurs les plus vulnérables. Au Sénat américain, la mère de Sewell a plaidé pour que les entreprises soient tenues responsables des conséquences néfastes de leurs créations, déclarant : "Les entreprises doivent être tenues juridiquement responsables de la conception de technologies d'IA nuisibles qui mettent en danger les enfants."
Parallèlement, la Federal Trade Commission (FTC) se penche sur ces questionnements et a ouvert une enquête sur les potentielles répercussions des chatbots sur la santé mentale des mineurs. Face à la pression, Character.AI a pris des mesures en restreignant l'accès à sa plateforme pour les adolescents, promettant également de créer des formats moins addictifs.
Alors que l'inquiétude croît autour de l'impact des chatbots sur les jeunes, reste à voir si des solutions durables seront mises en place pour prévenir de telles tragédies à l'avenir.
