Question de : Mme Marie-France Lorho (Provence-Alpes-Côte d'Azur - Non inscrit)

Mme Marie-France Lorho interroge Mme la secrétaire d'État auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargée du numérique sur la convention adoptée par le Conseil de l'Europe concernant l'intelligence artificielle (IA Act). À l'occasion de l'approbation donnée, le 21 mai 2024, par le Conseil de l'Europe à l'IA Act, il a été prévu que les États mettent en place un contrôle indépendant visant à respecter ladite convention. Celle-ci aspire notamment à ce que les systèmes d'IA « respectent l'égalité, y compris l'égalité de genre » et garantissent « l'interdiction de la discrimination ». Pour autant, les systèmes d'IA permettant « l'utilisation de données biométriques pour identifier les personnes selon des catégories spécifiques telles que la race, la religion ou l'orientation sexuelle » seront proscrits. Mme la députée s'interroge sur les modalités de contrôle permettant à l'État de s'assurer qu'il n'existera pas de discrimination dans les systèmes d'IA alors même que l'utilisation de données biométriques permettant l'identification de potentiels facteurs discriminants seront interdits. Elle lui demande comment se caractérisera le contrôle indépendant et sur quelle autorité celui-ci reposera.