La protection des mineurs à l’heure de l’IA générative
“Grâce à tes photos, j’ai réalisé cette image de toi en pleine action… Qu’en penseront tes parents ?”
“Personne ne te croira si tu dis que cette photo est fausse. Maintenant, tu vas bien m’écouter.”
Vue par beaucoup comme une nouvelle révolution numérique, l’intelligence artificielle fait désormais partie intégrante de notre société. D’un simple clic, l’IA permet la production de contenus toujours plus réalistes. Cette facilité peut présenter de nombreux avantages, notamment en allégeant des tâches administratives chronophages.
Seulement, toute nouvelle technologie, aussi bienveillante soit-elle, s’accompagne toujours de nombreuses dérives. En effet, l’IA, grâce à sa capacité à générer des images, permet aujourd’hui à des prédateurs de produire du contenu illicite à partir de simples photos présentes sur les profils des réseaux sociaux.
Le deepfake consiste à créer une image ou une vidéo à caractère pornographique en remplaçant le visage d’une personne par celui d’une victime — souvent à partir d’une ou plusieurs photos récupérées sur un profil Instagram ou Facebook.
La création de contenu pornographique réaliste mettant faussement en scène la victime devient alors une monnaie d’échange utilisée dans le cadre de la sextorsion. Il n’est donc plus nécessaire pour les prédateurs de tisser des liens ou de manipuler longuement leur cible pour obtenir des images compromettantes : un simple accès à un profil public peut suffire.
Il est donc plus que jamais essentiel d’apprendre aux jeunes utilisateurs à ne jamais offrir cette possibilité à un inconnu. Cela implique de ne pas avoir un profil public et de refuser toute demande de contact de la part d’une personne qu’ils ne connaissent pas.
En 2023, selon le rapport 2024 de la Fondation pour l’Enfance, sur les 4 700 contenus pédocriminels signalés, 50 % étaient des deepfakes réalisés à partir de photos partagées par les parents sur les réseaux sociaux*. Ces contenus servaient évidemment au chantage, menaçant directement les parents de ruiner la vie de leurs enfants.
C’est par de petits gestes que le combat avancera. Ne postez pas de photos de vous ou de vos proches sur des profils publics en ligne.
