Question de : Mme Anne Le Hénanff
Morbihan (1^re circonscription) - Horizons et apparentés

Mme Anne Le Hénanff alerte M. le ministre délégué auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargé de la transition numérique et des télécommunications, sur l'usage des agents conversationnels à intelligence artificielle par les mineurs sur les réseaux sociaux. À l'heure où les agents conversationnels à intelligence artificielle accessibles au grand public se développent, il convient d'en étudier les risques et les éventuelles dérives, notamment pour des mineurs. Le 3 mai 2023, une fonctionnalité appelée « My AI » a été étendue à l'ensemble des utilisateurs du réseau social Snapchat. Il s'agit d'un agent conversationnel à intelligence artificielle basé sur le modèle de Chat GPT élaboré par OpenAI. Auparavant réservé aux seuls abonnés « premium » de l'application, cette fonctionnalité apparaît désormais sur l'ensemble des écrans des utilisateurs du réseau social, sans aucune prise en compte de d'âge de ces derniers. « My AI » prend la forme d'un utilisateur humain et la frontière entre le réel et le fictif est d'autant plus floue que chacun des utilisateurs peut attribuer à ce chatbot un nom ainsi qu'une apparence personnalisée. « My IA » est une intelligence artificielle intrusive qui s'impose visuellement et fonctionnellement à l'ensemble des utilisateurs car la conversation avec ce chatbot est paramétrée pour être épinglée à la première ligne de l'interface de messagerie. De plus, elle ne peut être désactivée gratuitement. En effet, pour supprimer cette fonctionnalité, il n'existe qu'un seul moyen : payer l'abonnement premium « Snapchat + » dont le montant s'élève à 2,92 euros par mois. Snapchat assume clairement, sur son site officiel, deux éléments : premièrement, le chatbot a accès à la localisation de l'utilisateur, deuxièmement, les informations communiquées lors d'une conversation avec « My AI » sont collectées et stockées jusqu'à la suppression manuelle par l'utilisateur et utilisées afin d'« améliorer les produits Snap et personnaliser [leur] expérience, y compris les publicités ». En termes juridiques, cela veut dire que le réseau social recourt à des processus de profilage afin de proposer une publicité ciblée aux utilisateurs, y compris aux mineurs. On constate cependant un manque de transparence quant à l'étendue des fonctionnalités de « My AI » au sein de l'application Snapchat. Par exemple, il n'est nullement mentionné explicitement que « My AI » a accès aux stories des propriétaires des comptes. Il existe pourtant un paramètre, actionné par défaut, qui permet à « My AI » de regarder les propres stories des utilisateurs. En définitive, au-delà du risque, pour les jeunes mineurs, de se laisser séduire par une intelligence artificielle qui a tout d'une réelle personne, il existe un réel problème quant à la protection et la collecte des données personnelles des utilisateurs notamment au regard du règlement général sur la protection des données (RGPD). Comment est-il possible d'imposer un tel outil, à des fins commerciales et ce d'autant plus à des mineurs ? Le Gouvernement travaille à mettre en place une politique de protection des mineurs face aux problématiques soulevées par le développement du numérique et surtout des réseaux sociaux avec notamment l'adoption de la loi n° 2023-566 du 7 juillet 2023 visant à instaurer une majorité numérique et à lutter contre la haine en ligne. En effet, son article 4 confère un réel pouvoir de contrôle aux titulaires de l'autorité parentale d'un mineur de 15 ans sur les réseaux sociaux mais également des obligations fortes pour les fournisseurs de services de réseaux sociaux. Par ailleurs, les obligations relatives à la publicité ciblée pour les mineurs prévues à l'alinéa 2 de l'article 28 du règlement européen Digital Services Act (DSA) s'appliqueront dès le 25 août 2023 aux « très grandes plateformes en ligne » désignées par la Commission européenne, dont Snapchat. Au regard de ces éléments, la position des autorités publiques est non-équivoque concernant la protection des mineurs. Aussi, il devient urgent d'agir, puisque ce phénomène tend à se généraliser dans un futur proche. En effet, les réseaux sociaux Instagram et Tik Tok travaillent actuellement à l'élaboration de leur propre agent conversationnel à intelligence artificielle. Ainsi, Mme la députée souhaiterait connaître la position du Gouvernement sur l'usage, quasi imposé, des agents conversationnels à intelligence artificielle par les mineurs ainsi que les impacts que cela pourrait avoir. Mme la députée souhaiterait également savoir quelles mesures pourraient être mises en place afin de s'assurer de la non-exploitation, à des fins commerciales, des données personnelles des mineurs en sachant que dans le cas précis, la fonctionnalité ne peut être désactivée et que l'on ne connaît pas l'étanchéité de celle-ci hors du système d'exploitation Snapchat. Ces mesures pourraient s'inscrire dans le cadre du projet de loi visant à sécuriser et réguler l'espace numérique, adopté au Sénat le 5 juillet 2023. Enfin, elle se demande si le Gouvernement entend saisir la Commission nationale de l'informatique et des libertés (CNIL) sur la question du consentement de l'utilisateur à la collecte et au traitement de ses données à caractère personnel opérée par « My IA ».