Pédocriminalité en ligne et protection des mineurs, avec Véronique Béchu

Comment la pédocriminalité a-t-elle évolué ces dernières années ? Y a-t-il des « spécificités » à la « pédocriminalité en ligne » (par rapport à celle non en ligne) ?

Il est difficile de distinguer la pédocriminalité en ligne de la pédocriminalité hors ligne. Il existe un véritable continuum de violences, car les actes commis sur Internet sont souvent corrélés à un passage à l’acte dans le monde physique. Même lorsque les mineurs sont victimes d’extorsion sexuelle en ligne (sextorsion), l’objectif final est fréquemment l’organisation de rencontres physiques. Dans certains cas, l’auteur appartient au cercle de confiance du mineur (lequel est composé de membres de la famille, de proches et de personnes dont les missions leur permettent d’exercer une autorité sur le mineur).

À titre d’exemple récent d’un schéma relativement classique de prédation : la mise en examen d’un surveillant de collège pour viol après avoir « groomé »¹ des mineurs de son établissement, puis les avoir menacés afin d’obtenir des rencontres physiques. Quand il s’agit de violences sexuelles sur enfants, Internet n’est qu’un moyen parmi d’autres de parvenir à ses fins.

Il faut aussi rappeler que, sur le plan juridique, consulter, détenir, diffuser ou encore importer des contenus pédocriminels est déjà un passage à l’acte constitutif d’une infraction pénale.² Pourtant, les auteurs se défendent souvent en disant qu’ils n’ont « pas touché » l’enfant, mais ils participent bien à un système dans lequel une victime est agressée, filmée, photographiée puis « revictimisée » à chaque consultation et à chaque échange de contenu. Pour qu’un contenu soit consommé, il faut qu’il ait été produit. Il y a donc nécessairement une victime derrière chaque image ou vidéo.

S’agissant des membres de la « communauté » pédocriminelle en ligne, ils opèrent le plus souvent de manière isolée. Ces individus recherchent avant tout l’anonymat. Les échanges reposent généralement sur une logique de réciprocité, fondée sur la valeur attribuée aux contenus par leur caractère inédit, le très jeune âge des victimes ou encore leur rareté. L’objectif est souvent d’enrichir une collection personnelle. Si la monétisation existe, notamment via le darknet, les applications chiffrées ou certaines marketplaces, elle reste relativement marginale. L’exception réside dans le livestreaming, un phénomène né aux Philippines, d’abord au sein de réseaux criminels exploitant des enfants des rues, puis dans des familles très pauvres qui y ont vu un moyen de survie. Ces actes criminels sont souvent commis par des femmes ou dans des contextes intrafamiliaux et s’inscrivent dans des logiques organisées.

Enfin, même si l’idée d’une progression dans les comportements n’a pas été scientifiquement démontrée de manière définitive, l’expérience de terrain montre que les pratiques pédocriminelles peuvent s’inscrire dans une logique addictive et de radicalité. Certains individus tombent d’abord sur ces contenus sans les chercher, puis y reviennent pour vérifier ce qu’ils ont ressenti, ce qui caractérise déjà une consultation habituelle. Ensuite vient la détention, puis l’échange, puis la recherche de contenus toujours plus rares et plus violents. Cette recherche obsessionnelle est souvent à l’origine de la production de nouveaux contenus, soit à partir d’enfants du cercle proche, soit en contactant des mineurs via les jeux en ligne, les applications ou les réseaux sociaux pour obtenir des contenus, images ou vidéos, inédites, puis exercer de l’extorsion sexuelle afin de produire exactement le contenu désiré. Cette escalade peut conduire à des contenus marqués par une violence extrême, y compris des actes de torture et de barbarie, ainsi qu’à une diminution de l’âge des victimes.

Comment l’IA redéfinit la pédocriminalité en ligne ?

L’intelligence artificielle a de nombreux effets en matière de pédocriminalité. Elle permet notamment de produire des contenus à grande échelle et de générer des images ou des vidéos répondant aux pires fantasmes. Aujourd’hui, avec certains outils accessibles au grand public, il suffit parfois d’un simple prompt pour obtenir une image ou une vidéo. Cela ouvre un champ considérable aux acteurs pédocriminels.

L’IA facilite également le détournement de contenus a priori anodins. Des photographies d’enfants publiées en ligne peuvent être modifiées ou sexualisées, puis utilisées à des fins de chantage ou d’extorsion. Cette situation est favorisée par la quantité importante d’images que certains parents publient sur les réseaux sociaux, phénomène connu sous le terme de Sharenting.³ Une grande partie des contenus circulant dans ces espaces provient d’ailleurs des réseaux sociaux et des publications des familles elles-mêmes.

Par ailleurs, l’IA contribue à l’émergence d’autres phénomènes potentiellement nuisibles aux mineurs. Parmi ceux-ci figurent notamment les compagnons conversationnels (AI companions, en anglais), qui constituent aujourd’hui un domaine encore largement peu régulé et dont les risques restent insuffisamment appréhendés.

En outre, ils peuvent engendrer une réelle dépendance. Une étude de l’Observatoire e-Enfance / 3018 montre ainsi que 87% des jeunes interrogés utilisent une IA, et que parmi ceux ayant des interactions plus poussées, 10,6% se déclarent dépendants. Les risques liés à la pédocriminalité intégrés dans ces agents sont considérables, ils peuvent exposer les utilisateurs à des situations de vulnérabilité accrue.

Plusieurs pays expérimentent aujourd’hui des approches différentes sur la protection des mineurs en ligne : l’Australie a interdit l’accès aux réseaux sociaux aux moins de 16 ans, le Brésil a adopté une loi imposant le rattachement des comptes des mineurs de moins de 16 ans à un adulte responsable, et la France envisage d’interdire les réseaux sociaux aux moins de 15 ans. Qu’en pensez-vous ?

Les régulateurs souvent se trompent de problème, c’est l’arbre qui cache la forêt. Ces mesures sont facilement contournables, y compris dans des contextes réglementaires stricts comme en Australie. Il faut surtout contraindre les plateformes à concevoir des outils véritablement sûrs pour les mineurs, en intégrant des exigences de protection dès la conception, dans la logique du safety by design.

L’interdiction, à elle seule, n’est pas une solution durable. Si les réseaux sociaux sont interdits, les risques se déplaceront ailleurs, notamment vers les plateformes de jeux, les messageries ou d’autres environnements numériques de manière encore plus massive qu’actuellement. On catégorise parfois les réseaux sociaux selon leur niveau de risque, mais les dangers peuvent être tout aussi importants sur n’importe quelle plateforme.

Peut-on continuer de publier des photos ou des vidéos de ses enfants sur les réseaux sociaux ? Si « oui », quelles sont les bonnes pratiques pour les adultes, notamment les parents (comptes privés, floutage du visage, etc.) ?

Il est important de réfléchir aux raisons qui sous-tendent ces pratiques et de rappeler aux parents que les enfants ne sont pas une continuité d’eux-mêmes. Ce sont des personnes à part entière, dotées de droits propres, notamment le droit à l’image et le droit au respect de sa vie privée. De plus, à partir d’un certain âge, il est à même de donner ou non son consentement à une telle publication. Après cet exercice de réflexion, lorsque le partage est considéré nécessaire, par exemple pour montrer des images à des amis ou à la famille, il est essentiel de mettre en place des garde-fous stricts, notamment la limitation des destinataires et l’utilisation de groupes restreints.

Toutefois, dans la plupart des cas, le partage des images n’est pas nécessaire et les parents paramétrant mal leurs réseaux sociaux, ils partagent des photos ou des vidéos sans mesurer qu’elles peuvent être accessibles à des personnes mal intentionnées, souvent par méconnaissance des risques. Même lorsque les comptes sont dits « privés », le fait d’accepter un grand nombre de contacts réduit fortement ce caractère privé. Une photographie, si elle est partagée, doit rester dans un cercle limité et contrôlé. Par ailleurs, le floutage ne constitue pas une protection suffisante. Dans la plupart des cas, ce qui intéresse les personnes malveillantes n’est pas uniquement l’identité visible, mais aussi la posture ou le contexte de l’image. Et avec un outil d’IA, encore une fois, cet artifice pensé comme protecteur peut facilement être ôté. Il est également fondamental de protéger les enfants en leur demandant systématiquement leur accord avant toute publication.

Enfin, quels conseils adressez-vous aux mineurs pour qu’ils puissent utiliser les réseaux sociaux et plus généralement les outils numériques de manière la plus sécurisée possible ?

Pour les enfants, il n’est pas souhaitable d’accéder trop tôt à Internet. À huit ans, par exemple, il n’y a pas nécessairement d’intérêt à être exposé seul à ces usages. Or c’est extrêmement fréquent. L’enjeu principal ici est celui de l’accompagnement numérique, c’est-à-dire apprendre à utiliser ces outils avec un adulte référent. Souvent, lorsque les parents donnent un téléphone à leurs enfants, ce qui constitue un moment important, cette remise est exempte de toute aide à l’utilisation en toute sécurité. La logique du type « s’il se passe quelque chose ou s’il t’arrive quelque chose en ligne, je supprime ton téléphone » est totalement contreproductif. Car l’enfant cachera ses difficultés afin de le garder. Il est essentiel de passer du temps avec l’enfant, d’expliquer les règles de bonnes pratiques et de poser un cadre clair qui inclut le temps d’écran, des mots-clés d’alerte, la désactivation des chats, l’interdiction d’entrer en contact avec des personnes inconnues et de leur expliquer que quoi qu’il leur arrive, ils seront là pour les protéger.

Dès lors, il est important de sensibiliser les parents à l’existence de dispositifs comme l’application 3018, dédiée aux jeunes victimes et aux témoins de harcèlement et de violences numériques, ainsi qu’aux risques en ligne.

Plus largement, il faut savoir que la vie en ligne des enfants est aujourd’hui aussi importante, voire plus structurante dans certains cas, que leur vie hors ligne. Il s’agit de leur espace de socialisation. Les parents doivent intégrer cette réalité et s’intéresser activement à ce que leurs enfants font sur Internet. Ils devraient pouvoir leur demander comment se déroule leur vie en ligne, au même titre que leur vie à l’école.

¹Le grooming (ou pédopiégeage) est une technique de manipulation visant à piéger un mineur à des fins sexuelles.
²Article 227-23 du Code pénal.
³Mot valise composé de « to share » (partager) et « parenting » (par les parents).