Un nouveau projet de loi californien (SB 243) cherche à introduire des garanties pour les enfants interagissant avec les chatbots IA. Proposée par le sénateur Steve Padilla, la législation obligerait les sociétés d’IA à rappeler régulièrement aux jeunes utilisateurs que les chatbots ne sont pas humains, dans le but de freiner les « aspects addictifs, isolants et influents » de l’intelligence artificielle.
Le projet de loi vise également à empêcher les développeurs d’IA d’employer des « modèles d’engagement addictifs » qui pourraient potentiellement nuire aux mineurs. De plus, les entreprises devraient soumettre des rapports annuels au Département d'État des services de santé détaillant les cas où leur IA a détecté des idées suicidaires chez les enfants ou a évoqué des sujets connexes. Les plateformes d’IA seraient également tenues d’avertir les utilisateurs que leurs chatbots pourraient ne pas convenir à certains enfants.
La législation fait suite aux préoccupations croissantes concernant l’impact psychologique des chatbots IA sur les jeunes utilisateurs. L’année dernière, un parent a intenté une action en justice pour mort injustifiée contre Character.AI, alléguant que ses chatbots IA étaient « déraisonnablement dangereux » après que leur enfant, qui interagissait fréquemment avec les robots, se soit suicidé. Un autre procès accusait l'entreprise d'exposer des adolescents à des contenus préjudiciables. En réponse, Character.AI a introduit le contrôle parental et développé un modèle d'IA spécialisé pour les jeunes utilisateurs afin de filtrer les sujets sensibles.
« Nos enfants ne sont pas des rats de laboratoire sur lesquels les entreprises technologiques pourraient expérimenter au détriment de leur santé mentale », a déclaré le sénateur Padilla. "Nous avons besoin de protections de bon sens pour les utilisateurs de chatbots afin d'empêcher les développeurs d'employer des stratégies qu'ils savent être addictives et prédatrices."
Plus de lecture :La Chambre des représentants adopte un projet de loi pour forcer ByteDance à vendre TikTok
Alors que les gouvernements intensifient leurs efforts pour réglementer les plateformes de médias sociaux, les chatbots IA pourraient bientôt faire l’objet d’un examen similaire. S’il est adopté, ce projet de loi californien pourrait créer un précédent pour les futures réglementations sur l’IA visant à protéger les enfants en ligne.