Des images générées par l’intelligence artificielle (IA) et d’autres formes de deepfakes dépeignant des abus sexuels sur les enfants (CSA) pourraient être pénalisées dans l’Union européenne selon les plans visant à mettre à jour la législation existante pour suivre le rythme du développement technologique, a annoncé la Commission aujourd’hui. Elle propose également de créer une nouvelle infraction pénale concernant la diffusion en direct d’abus sexuels sur les enfants. La possession et l’échange de “manuels pédophiles” seraient également criminalisés dans le cadre de ce plan – qui fait partie d’un ensemble plus large de mesures que l’UE dit vouloir mettre en œuvre pour renforcer la prévention des CSA, y compris en augmentant la sensibilisation aux risques en ligne et en facilitant pour les victimes la dénonciation des crimes et l’accès à du soutien (dont le droit à une indemnisation financière).
La proposition de mise à jour des règles actuelles de l’UE dans ce domaine, datant de 2011, comprend également des modification concernant le signalement obligatoire des infractions. En mai 2022, la Commission a présenté une autre partie du projet de législation lié aux CSA, visant à établir un cadre qui pourrait rendre obligatoire pour les services numériques l’utilisation de technologies automatisées pour détecter et signaler le matériel existant ou nouveau lié aux abus sexuels sur les enfants (CSAM) circulant sur leurs plateformes, et identifier et signaler les activités de harcèlement ciblant les enfants.
Le plan de numérisation des CSAM a suscité beaucoup de controverses – et continue de diviser les législateurs au Parlement et au Conseil, tout en soulevant des suspicions sur les liens de la Commission avec les lobbyistes de la technologie de sécurité des enfants et en posant d’autres questions embarrassantes pour l’exécutif de l’UE, en raison d’une incursion juridiquement discutable dans la publicité ciblée pour promouvoir la proposition.
La décision de la Commission de cibler les plateformes de messagerie numérique pour lutter contre les CSA a suscité de nombreuses critiques, selon lesquelles les législateurs de l’Union se concentrent sur le mauvais domaine pour lutter contre un problème sociétal complexe – ce qui peut avoir exercé une certaine pression pour qu’elle propose des mesures complémentaires. (Ce que la Commission ne dit pas, bien sûr ; elle décrit le paquet d’aujourd’hui comme “complémentaire” à sa précédente proposition de numérisation des CSAM.) Cela dit, même en moins de deux ans depuis la présentation du plan controversé de numérisation des messages privés, on a assisté à une forte hausse de l’attention portée aux risques liés aux deepfakes et aux images générées par l’IA, notamment les inquiétudes quant à l’utilisation abusive de cette technologie pour produire des CSAM et les craintes que ce contenu synthétique ne complique encore plus la tâche des autorités chargées de l’application de la loi pour identifier les véritables victimes.
La généralisation de l’IA a donc incité les législateurs à revoir les règles. “L’augmentation de la présence en ligne des enfants et les développements technologiques créent de nouvelles possibilités d’abus”, suggère la Commission dans un communiqué de presse aujourd’hui. Elle affirme également que la proposition vise à “réduire l’impunité omniprésente des abus sexuels en ligne sur les enfants et l’exploitation”. Une évaluation d’impact réalisée par la Commission avant la présentation de la proposition a identifié la présence accrue des enfants en ligne et les “derniers développements technologiques” comme des domaines qui créent de nouvelles possibilités pour les CSA. Elle a également déclaré qu’elle est préoccupée par les différences dans les cadres juridiques des États membres qui freinent les actions pour lutter contre les abus et souhaite améliorer les efforts actuellement “limités” pour prévenir les CSA et aider les victimes.
Concernant les risques en ligne pour les enfants, la proposition de la Commission vise à encourager les États membres à renforcer leurs investissements en matière de “sensibilisation”. Comme pour le plan de numérisation des CSAM, il appartiendra aux co-législateurs de l’UE, au Parlement et au Conseil, de déterminer la forme finale des propositions. Et le temps est limité pour les discussions avant les élections parlementaires et la réorganisation de la commission plus tard cette année – bien qu’il est probable que les propositions de lutte contre les CSA d’aujourd’hui soient moins clivantes que le plan de numérisation des messages. Il y a donc une chance qu’elles soient adoptées tandis que l’autre reste en suspens. Si/un accord est trouvé sur la façon de modifier la directive actuelle sur la lutte contre les CSA, elle entrera en vigueur 20 jours après sa publication au Journal officiel de l’UE, selon la Commission.
