Réponse publiée le 9 janvier 2024

Le Gouvernement est très sensible à la nécessité de lutter contre la propagation de contenus truqués, dont la faisabilité, l'accessibilité et la diffusion se trouvent facilitées du fait de l'essor de l'intelligence artificielle. Il soutient activement l'adoption de mesures spécifiques en faveur de la prévention et de la transparence des contenus d'hypertrucages dans le règlement relatif à l'intelligence artificielle actuellement en cours de négociations à Bruxelles, lesquelles sont en passe d'aboutir. Ce projet de règlement prévoit notamment une obligation pour les utilisateurs d'un système d'intelligence artificielle qui génère ou manipule des images ou contenus audio ou vidéo qui présentent une ressemblance avec des personnes, des objets, des lieux, etc. et pourraient être perçus à tort comme authentiques ou véridiques, d'indiquer que ces contenus ont été générés ou manipulés artificiellement. La France se mobilise pour que les contenus ainsi visés ne soient pas limités aux seuls contenus présentant une ressemblance avec des personnes, comme proposé par le Parlement européen, afin de couvrir tous les hypertrucages. La France soutient également l'extension de cette obligation d'information aux personnes physiques qui utiliseraient de tels systèmes d'intelligence artificielle en dehors d'un cadre professionnel, afin de pouvoir également lutter contre la création et dissémination d'hypertrucages par des individus agissant de leur propre fait. Cette disposition viendra compléter celles déjà prévues par le règlement sur les services numériques, entré en vigueur le 25 août 2023, qui impose aux plateformes en ligne de traiter promptement les contenus illicites qui leur sont signalés, dont relèvent potentiellement les pratiques abusives en matière d'hypertrucage. Les très grandes plateformes doivent aussi lutter contre les risques systémiques, de désinformation notamment, et prendre toute mesure d'atténuation nécessaire. Par ailleurs, le cadre national permet déjà de lutter en partie contre ces pratiques. Ainsi, la loi du 22 décembre 2018 relative à la lutte contre la manipulation de l'information impose aux opérateurs de plateforme en ligne de mettre en œuvre des mesures afin de lutter contre la diffusion de fausses informations susceptibles de troubler l'ordre public ou d'altérer la sincérité de certains scrutins. Elle a aussi créé un référé spécifique pour faire stopper en urgence la diffusion « délibérée, artificielle ou automatisée, et massive » d'une information manifestement fausse (« inexacte ou trompeuse ») et susceptible d'altérer la sincérité d'un scrutin. Enfin, le Gouvernement a présenté dans son projet de loi sur la sécurisation de l'espace numérique (SREN) deux mesures d'encadrement des « deepfakes ». Premièrement, le projet de loi adapte les interdictions de trucages prévues au sein du code pénal aux nouveaux outils d'intelligence artificielle. En effet, les hypertrucages générés par l'intelligence artificielle sans support préalable n'étaient pas compris pas dans la catégorie du « montage » telle que définie par le code pénal. Le projet de loi SREN modifie l'article 226-8 de ce code pour réguler ces nouvelles réalités qui représentent une part croissante des hypertrucages. Deuxièmement, la très grande majorité des hypertrucages recensés sont des hypertrucages à caractère sexuel. Ils concernent majoritairement les femmes et sont souvent utilisés pour nuire à leur réputation. Le projet de loi SREN crée un nouvel article 226-8-1 au sein du code pénal pour sanctionner tout hypertrucage à caractère sexuel diffusé sans consentement, même s'il est précisé qu'il s'agit d'un hypertrucage. De tels hypertrucages sont sanctionnés d'une peine d'emprisonnement de deux ans et de 60 0000 € d'amende. Ces dispositions ont été adoptées de façon conjointe par le Sénat et l'Assemblée nationale. L'ensemble de ces dispositifs tant au niveau européen que national renforcent substantiellement l'encadrement et la répression des pratiques d'hypertrucages illicites, en visant particulièrement celles s'appuyant sur l'intelligence artificielle.