Huit États américains ont déposé mercredi des plaintes distinctes contre OpenAI, accusant l'entreprise de ne pas avoir mis en place de garanties suffisantes pour protéger les enfants et les autres utilisateurs vulnérables de ChatGPT. Les plaintes ont été déposées individuellement par l'Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana, dans une rare offensive bipartisane contre le géant de l'IA.
Les États reprochent à OpenAI d'avoir violé les lois locales de protection des consommateurs en présentant ChatGPT comme sûr alors qu'il aurait nui à des mineurs. Ils réclament des sanctions civiles et des changements dans la manière dont l'entreprise conçoit et promeut ses modèles. Ces dépôts coordonnés constituent l'escalade juridique la plus sérieuse à ce jour contre le créateur du chatbot IA le plus populaire au monde.
Ce que reprochent les plaintes à ChatGPT
Selon The Verge et Engadget, les plaintes allèguent qu'OpenAI a privilégié les profits au détriment de la sécurité lors du développement de ChatGPT. Les États affirment que l'entreprise a présenté le chatbot comme un « outil sûr et adapté aux jeunes, qui place la sécurité au premier plan », alors qu'il était en réalité dangereux pour les utilisateurs vulnérables : il affaiblit l'esprit critique, encourage la paranoïa et les délires, prodigue des conseils médicaux dangereux et favorise des comportements et des relations malsains.
Les plaintes citent des incidents récents de comportement de agents d'IA hors de contrôle, dont le piratage de Hugging Face, comme preuve de ce qu'elles appellent l'imprudence d'OpenAI. Elles invoquent aussi des poursuites pour homicide involontaire déposées par des familles affirmant que ChatGPT a joué un rôle dans la mort de proches, dont le suicide d'un adolescent et une overdose mortelle d'un utilisateur après avoir reçu des informations médicales erronées.
Certains États vont au-delà des sanctions financières. L'Arkansas demande à la justice de suspendre les tests de modèles d'IA avancés jusqu'à la mise en place de garanties adéquates, tandis que d'autres veulent qu'OpenAI divulgue clairement les risques de ses produits et cesse des pratiques jugées trompeuses.
