Nicolas BaudoinAvez-vous déjà entendu parler d’hypertrucage, ou encore de deep fake ? Cette technique de synthèse basée sur l’intelligence artificielle permet notamment de recréer des visages et de les intégrer à des photographies ou vidéos existantes. Développée tout au long de la deuxième moitié des années 2010, elle a fini par atteindre un degré d’efficacité suffisant pour être qualifiée de menace potentielle par de nombreux experts. Parmi ces derniers, la société Sensity a mis à jour en octobre 2020 un bot Telegram destiné à créer de fausses images de femmes nues en générant une simulation réaliste de leurs parties intimes. Sensity estime le nombre de victimes ciblées par ce procédé jusqu’en juillet 2020 à 104 852, dont les photographies proviendraient dans 70% des cas des réseaux sociaux et d’Internet. De l’autre côté, ce sont pas moins de 101 080 utilisateurs, principalement issus de Russie ou de pays d’ex-Union Soviétique, qui auraient contribué au succès du bot en lui fournissant de nombreuses images de femmes, parfois mineures.
Un logiciel pour créer de fausses images nues
Derrière ce bot, un logiciel : DeepNude… Conçu et mis en ligne courant 2019, il sera retiré de la vente quelques mois plus tard par son créateur, un certain Alberto, qui déclarera par la même occasion que « le monde n’est pas encore prêt pour DeepNude ». Plusieurs copies sont alors rendues disponibles en open source. Pour créer des fausses photographies aussi réalistes que possibles, le programme s’appuie sur les réseaux antagonistes génératifs. Cette technique repose sur la mise en compétition de deux réseaux : le premier (générateur) étant chargé de mettre au point une copie, et le second (discriminateur) de vérifier sa crédibilité. En permettant aux utilisateurs d’activer DeepNude depuis le système de messagerie Telegram, le plus populaire en Russie et dans de nombreux pays avoisinants, les créateurs du bot ont abaissé les barrières à la diffusion de ces pratiques. Libre d’accès, le bot comprenait néanmoins plusieurs options payantes, au nombre desquelles le fait de supprimer les watermark et de réduire les délais de traitement.
Une pratique à l’origine de nombreux risques
Dans un sondage réalisé en juillet 2019, 63% des utilisateurs du bot admettent l’utiliser pour déshabiller des femmes de leur entourage. À ce titre, les photographies utilisées pour la création de fausses images de femmes nues proviennent essentiellement des réseaux sociaux des victimes, ainsi que de communication privées. Plusieurs des images consultées par Sensity mettent également en scène des jeunes filles, un constat qui tend à indiquer que le bot a pu être utilisé pour générer des contenus pédopornographiques. Si 70% des utilisateurs indiquent vivre en Russie ou dans d’anciennes Républiques Soviétiques, plus de 10% se situent en Europe ou en Amérique du Sud. L’enquête de Sensity indique que la découverte de ce bot s’inscrit dans un cadre global de croissance de de genre de pratiques : plus de 380 pages du réseau social russe VKontakte sont dédiées à la création et au partage de fausses images de femmes nues créées grâce au deep fake.
Que dit le droit sur les deep fakes ?
À ce jour, le droit français ne prend en compte la question des hypertrucages que dans un contexte électoral. Pourtant, l’avocat Thierry Vallat indique que 96% des fausses vidéos analysées sont de nature pornographique. Pour y faire face, il est néanmoins possible d’avoir recours à l’article 226-8 du code pénal, qui punit d’un an d’emprisonnement et de 15 000 euros d’amende « le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention ». L’article 226-4-1 prévoit une peine similaire pour « le fait d’usurper l’identité d’un tiers ou de faire usage d’une ou plusieurs données de toute nature permettant de l’identifier en vue de troubler sa tranquillité ou celle d’autrui, ou de porter atteinte à son honneur ou à sa considération ».
Est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention.
Article 226-8 du Code Pénal français
Au-delà de leur aspect moralement dérangeant, les deep fakes constituent un risque bien réel de harcèlement ou de chantage pour leurs victimes. Plus que jamais, les réseaux sociaux et la présence en ligne d’un individu doivent être soigneusement maîtrisés afin d’éviter tout abus de la part d’entités malveillantes. À cet effet, ProPR Consulting opère sur un large éventail de domaines, du nettoyage de profils à la réalisation de démarches liées au droit à l’oubli. N’hésitez pas à nous contacter pour plus d’informations !
Commenter