Réponse publiée le 3 juin 2025

Le Gouvernement est pleinement engagé dans la lutte contre les hyper-trucages (deep fakes), pour lesquels les sanctions ont été significativement renforcées dans le cadre de la loi du 21 mai 2024 visant à sécuriser et réguler l'espace numérique (loi « SREN »). La sanction des délits d'atteintes à la représentation de la personne via le recours aux hyper-trucages a été notablement renforcée par une série d'articles de la loi. L'article 15 modifie l'article 226-8 du code pénal, sanctionnant le partage de montages falsifiés de représentations sonores ou visuelles d'une personne, réalisés sans son consentement, afin d'inclure les contenus générés par un traitement algorithmique (deep fakes). Le partage sur les réseaux sociaux constitue une circonstance aggravante, pouvant être puni de deux ans d'emprisonnement et de 45 000 euros d'amende. L'article 16 de la loi SREN dispose également que le juge peut prononcer, dans les cas de cyberharcèlement (notamment via des deep fakes), une peine de bannissement numérique, interdisant à l'auteur du délit l'utilisation des réseaux sociaux pendant une période maximale de six mois (portée à un an en cas de récidive). Le juge peut également prononcer, à titre de peine complémentaire ou alternative, une obligation de stage de sensibilisation au respect des personnes dans l'espace numérique et à la prévention des infractions commises en ligne. L'article 21 crée l'article 226-8-1 dans le même code, interdisant les montages et deep fakes à caractère sexuel, punis de deux ans d'emprisonnement et de 60 000 euros d'amende. Le partage de tels montages sur les services de communication au public en ligne constitue une circonstance aggravante, punie de trois ans d'emprisonnement et de 75 000 euros d'amende. La loi SREN, en ses articles 7 et 8, renforce les mesures de sensibilisation aux risques des outils et contenus générés par intelligence artificielle, incluant les deep fakes, à destination des élèves et de leurs représentants légaux, des étudiants de l'enseignement supérieur et des membres du personnel enseignant et d'éducation. Ces dispositions visent à sensibiliser ce public aux risques d'atteinte à la personne, de manipulation commerciale, d'escroquerie, de harcèlement ou de violences sexistes et sexuelles dans l'espace numérique. Enfin, il convient de rappeler qu'en vertu du règlement européen du 13 juin 2024 sur l'intelligence artificielle, les déployeurs d'un système d'intelligence artificielle qui génère ou manipule des images ou des contenus audio ou vidéo constituant un hyper-trucage, sont tenus à une obligation de transparence et d'étiquetage (là-dessus, se référer à l'article 50 relatif à l'obligation de mentionner qu'un contenu est généré par intelligence artificielle). Au-delà de dispositions existantes pour encadrer ces pratiques, une sensibilisation plus gobale de la population aux enjeux de l'intelligence artificielle apparait effectivement indispensable. A cet égard le gouvernement à annoncé dans le cadre du Sommet pour l'action sur l'IA qui s'est tenu à Paris qu'à compter de la rentrée 2025, la plateforme PIx proposera un parcours de formation à l'IA qui sera obligatoire pour tous les élèves de quatrième et de seconde. De même, le déploiement sur l'ensemble du territoire du dispositif Café IA porté par le Conseil national du Numérique (CNNum) et par l'Agence Nationale de la Cohésion des Territoires (ANCT) avec l'appui du réseau des conseillers numériques présents sur tout le territoire, permettra de sensibiliser 2 millions de Français à ces technologies d'ici 2027.