Les autorités prennent des mesures face à cette préoccupation croissante. La création et la diffusion de ces vidéos hyperréalistes pourraient bientôt être considérées comme une infraction à la loi, ce qui pourrait entraîner des conséquences judiciaires pour ceux qui en sont responsables.
Faux contenus pornographiques : l’inquiétante montée en puissance des deepfakes
Le phénomène des deepfakes, ou faux contenus pornographiques créés à partir de l’intelligence artificielle, est en constante augmentation et suscite des inquiétudes croissantes. Ces montages hyperréalistes, souvent ciblant des femmes influentes sur les réseaux sociaux, sont de plus en plus diffusés, générant des conséquences néfastes pour les victimes.
Le cas de Justine, également connue sous le nom de Juju Fitcats, est un exemple concret de cette menace. Cette youtubeuse de 28 ans, spécialisée dans les vidéos de fitness et de nutrition, a été victime à plusieurs reprises de montages malveillants réalisés à partir de photos de son compte Instagram. Ces trucages hyperréalistes ont donné lieu à des faux nus impliquant son image de manière perturbante.
Un exemple choquant des deepfakes à caractère sexuel, promus par des outils d’intelligence artificielle capables de générer ou de retoucher des photos et des vidéos. Ce phénomène, facilité par les avancées technologiques, est de plus en plus répandu. Tina Nikoukhah, chercheuse en traitement des images, souligne l’hyperréalisme permis par ces progrès en matière d’intelligence artificielle, rendant ces trucages extrêmement convaincants visuellement.
Plus inquiétant encore, ces montages hyperréalistes ne nécessitent plus des heures et des centaines de vidéos d’une personne, une simple photo peut suffire. Des outils en ligne permettent même à n’importe qui de créer ces deepfakes avec une facilité déconcertante, accentuant la vulnérabilité des individus.
L’ampleur de ce phénomène est telle qu’il est devenu une arme de « sextorsion », un chantage sexuel basé sur des contenus truqués, utilisé notamment par des pédocriminels. En France, pas moins de 8 000 cas ont été signalés depuis le début de l’année 2023, selon l’Office de lutte contre les violences faites aux mineurs (Ofmin). Des cas de citoyennes lambda victimes de ces photomontages ont également été confirmés par des avocats, mais demeurent encore largement médiatisés en raison de leur caractère tabou.
Face à cette menace grandissante, le gouvernement français s’active pour protéger les citoyens. Un projet de loi sur la sécurisation du numérique, porté par le ministre Jean-Noël Barrot, inclut un amendement visant à criminaliser la diffusion de deepfakes. Cette initiative vise à punir plus sévèrement les auteurs de ces contenus truqués, avec des peines pouvant aller jusqu’à deux ans d’emprisonnement et 60 000 euros d’amende.
Le gouvernement met également la pression sur les plateformes en ligne pour qu’elles assument leur rôle dans la signalisation et la modération de ces contenus, conformément aux nouvelles règles européennes. Il en va de la protection des individus face à ce fléau numérique en plein essor.
