OpenAI visé par huit poursuites pour la sécurité de ChatGPT chez les mineurs

L’essentiel

Huit États ont déposé des plaintes distinctes en protection des consommateurs contre OpenAI.
Les recours soutiennent que ChatGPT est dangereux pour les mineurs et que la sécurité a été présentée de façon trompeuse.
OpenAI affirme disposer de protections adaptées à l’âge et se dit prête à coopérer avec les États.

Lecture rapide · 2 min

Huit États ont déposé des poursuites distinctes contre OpenAI, accusant la société de privilégier le profit sur la sécurité de ChatGPT et de ne pas avoir averti suffisamment les familles des risques. OpenAI affirme disposer de protections robustes et se dit prête à travailler avec les États sur des politiques d’IA applicables à l’ensemble du secteur. Les dossiers réclament des sanctions et des ordonnances pour mettre fin aux affirmations trompeuses sur la sécurité. Pour les familles, cela pourrait conduire à des vérifications d’âge plus strictes et à davantage de contrôles parentaux, selon la décision des tribunaux.

La suite dépendra des tribunaux, mais attendez-vous à d’autres développements à mesure que les régulateurs examinent la manière dont l’IA doit être commercialisée et réglementée pour les jeunes utilisateurs.

On peut s’attendre à un examen juridique continu des allégations sur la sécurité de l’IA.
Les parents pourraient voir apparaître de nouveaux outils pour contrôler l’accès des mineurs.
Le résultat pourrait influencer la façon dont d’autres services d’IA se présentent auprès des familles.

Lire en : English Français Deutsch Español

Une vague de poursuites de huit États cible OpenAI, accusant l’éditeur de ChatGPT d’avoir porté préjudice aux enfants et d’avoir présenté de façon trompeuse la sécurité de son service. Les plaintes, déposées par Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho et Montana, estiment qu’OpenAI a privilégié le profit au détriment de la sécurité des utilisateurs et n’a pas suffisamment averti les familles des risques liés à l’utilisation du chatbot.

Les recours affirment que ChatGPT a été commercialisé comme un outil sûr et adapté aux enfants, alors que ses détracteurs soulignent qu’il peut nuire à la pensée critique, provoquer des peurs ou des idées délirantes, donner des conseils médicaux risqués et encourager des comportements malsains. Ils soutiennent aussi qu’OpenAI collecte des informations provenant de jeunes utilisateurs et ne fait pas assez pour empêcher l’accès aux mineurs.

OpenAI a répondu par une déclaration mesurée : l’entreprise affirme avoir mis en place des protections adaptées à l’âge et continuer à collaborer avec des experts pour affiner ses dispositifs de sécurité. Un porte-parole a cité les contrôles parentaux, les rappels de pause et des protections des modèles selon l’âge comme éléments de son programme de sécurité en cours. La société a ajouté qu’elle entendrait travailler avec les États sur des politiques pragmatiques en matière d’IA applicables à l’ensemble du secteur, pas seulement à OpenAI.

Les poursuites demandent des sanctions civiles et une ordonnance judiciaire pour faire cesser les messages trompeurs sur la sécurité. Certains dossiers réclament également la suppression de données personnelles collectées illégalement. Bien que ces actions n’en soient qu’aux premières étapes, elles soulignent un renforcement du contrôle réglementaire à mesure que les outils d’IA se répandent dans les foyers, les écoles et les lieux de travail.

Pour les lecteurs, ces procédures peuvent influer sur la façon dont les outils d’IA sont commercialisés auprès des familles et sur les exigences de protection pour les jeunes utilisateurs. Si les poursuites aboutissent à des accords ou à des décisions de justice, attendez-vous à des contrôles d’âge plus stricts, des contrôles parentaux renforcés et des divulgations plus claires des risques potentiels associés aux assistants conversationnels.

Ce qui s’est passé, exactement

Huit États ont déposé des poursuites distinctes accusant OpenAI de violer les lois de protection des consommateurs en ne prévenant pas des risques de sécurité et en recueillant des informations auprès de jeunes utilisateurs. Les plaintes allèguent que ChatGPT a été présenté comme sûr pour les enfants, alors même que subsistaient des inquiétudes sur ses recommandations. Ces actions interviennent dans un contexte de contrôle accru des pratiques de sécurité et de gestion des données dans le secteur technologique.

Élève utilisant un ordinateur portable à un bureau

Pourquoi c’est important pour vous

Si vous êtes parent, responsable ou étudiant, cela peut modifier la façon dont vous utilisez les outils d’IA à la maison ou en classe. Parmi les conséquences possibles : des vérifications d’âge plus strictes, des avertissements de sécurité plus explicites et des contrôles renforcés sur les données des jeunes utilisateurs. Pour l’utilisateur lambda, c’est le signe d’une volonté de limiter les conseils risqués et d’améliorer la transparence quand une IA est présentée comme adaptée aux enfants.

Ce qu’OpenAI déclare

OpenAI affirme avoir mis en place des protections spécifiques selon l’âge et travailler avec des experts pour améliorer ces garde-fous. La société évoque les contrôles parentaux et les rappels comme éléments de son travail continu sur la sécurité et indique son intention de coopérer avec les États pour des politiques d’IA applicables à l’ensemble du secteur.

Ce que reprochent les poursuites

Les plaintes soutiennent que ChatGPT peut affaiblir la pensée critique, provoquer paranoïa ou idées délirantes, fournir des conseils médicaux ou comportementaux dangereux et qu’OpenAI bloque insuffisamment l’utilisation par des mineurs. Les dossiers demandent des sanctions et des ordonnances correctives ; certains exigent la suppression de données collectées de manière inappropriée.

Ce qui va se passer

Il s’agit d’affaires civiles au stade préliminaire. Un juge déterminera si les plaintes peuvent aller de l’avant et quelles réparations, le cas échéant, seront ordonnées. Attendez-vous à de nouveaux dépôts et à d’éventuels règlements à mesure que les autorités réfléchissent à la manière dont l’IA doit être commercialisée auprès des familles.

Ce que vous pouvez faire maintenant

Parlez avec les enfants de la manière d’interagir avec les outils d’IA en ligne. Utilisez les fonctions de sécurité intégrées et les contrôles parentaux disponibles. Si vous doutez des pratiques de traitement des données, examinez les paramètres de confidentialité et soyez prudent sur les informations que vous partagez avec les services d’IA.

Questions rapides

Quels États sont concernés ?

Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho et Montana.

Quelles sont les principales accusations ?

Des promesses trompeuses sur la sécurité de ChatGPT et des inquiétudes concernant les données provenant de jeunes utilisateurs.

Qu’est-ce qui pourrait changer pour les familles ?

De possibles contrôles de sécurité renforcés, des divulgations plus claires et des vérifications d’âge plus strictes si des règlements ou des décisions de justice le déterminent.

Vous lisez la version courte.