Les contenus altérés par l’IA se propagent considérablement en ligne actuellement. Bon nombre d’entre eux sont problématiques et notamment ceux qui sont lié à de l’hypertrucage pornographique. Les femmes sont les principales victimes de ce type de contenu pour adulte.
Les contenus altérés par l’IA circulent librement en ligne
L’avènement de l’intelligence artificielle a aussi entraîné l’utilisation de cette technologie pour la création de contenus altérés par l’IA qui peuvent prendre toutes sortes de formes. La plupart prennent la forme d’images générées automatiquement mettant en scène des personnalités publiques comme le Pape ou l’ancien Président des USA, Donald Trump. Ils peuvent aussi être plus dangereux, à l’image des messages sexualisés qui mettent en scène des filles créées avec l’intelligence artificielle en vue de racket de sextorsion. Certains utilisent cette technologie pour créer des applications photo destinées à dénuder des femmes, démontrant l’essor du deepfake porno qui cible surtout la gent féminine.
Un usage de l’intelligence artificielle qui encourage la désinformation
Le fait qu’il soit désormais possible de créer des « faux en profondeur » facilement et rapidement, grâce à l’intelligence artificielle cause des soucis. Des individus peuvent s’en servir pour ruiner la réputation de ceux qu’ils ciblent, les intimider ou encore les harceler. Il y a également une vraie menace de désinformation autour de ce type de contenu truqué, vu que la majorité représente des femmes qui existent bel et bien et notamment des actrices ainsi que des chanteuses. Des universitaires et des militantes témoignent aussi avoir découvert leur visage sur du deepfake porno. Cette situation démontre l’ancrage de cette technologie dans de nouvelles formes d’exploitation et d’affaiblissement des femmes.
La législation est dépassée par ce phénomène
L’intelligence artificielle demeure un jeune domaine technologique dont l’usage pour la propagation de l’hypertrucage pornographique dépasse encore les lois en vigueur aux USA et en France. La réglementation est en retard face à ce problème flagrant, dans la mesure où ces images et ces vidéos circulent librement sur Internet et à la barbe des législateurs. Certains professionnels penchent pour la mise en œuvre de lois internationales harmonisées en la matière. De leur côté, des pays se mobilisent pour trouver des solutions. La Grande-Bretagne par exemple, envisage la criminalisation du partage de porno trafiqué, tandis que les Etats-Unis ont déjà prohibé leur distribution. Toutefois, les victimes demeurent démunies quand les auteurs des deepfakes se trouvent hors de ces juridictions.
Des difficultés à réglementer la création et la circulation des deepfakes
La difficulté de réglementer la circulation et la création des hypertrucages créés avec l’intelligence artificielle sur Internet découle de plusieurs facteurs complexes. Le premier est que les auteurs exploitent les avancées de l’intelligence artificielle pour créer des vidéos réalistes manipulées, rendant difficile la distinction entre le contenu authentique et celui falsifié. De plus, Internet permet une diffusion rapide et mondiale. Les plateformes de réseaux sociaux et les sites web peuvent avoir du mal à identifier rapidement et efficacement les deepfakes, laissant ainsi peu de temps pour intervenir avant leur propagation. Enfin, des débats sur la censure et la surveillance émergent, vu que des restrictions excessives pourraient empiéter sur les droits des créateurs.
Les technologies intelligentes les plus utilisées pour créer ces hypertrucages
Les outils d’intelligence artificielle les plus utilisés incluent généralement des architectures de réseaux neuronaux profonds, en particulier les réseaux antagonistes génératifs (GAN). Dans le contexte des deepfakes, le générateur produit des images ou des vidéos manipulées, tandis que le discriminateur évalue leur authenticité. Les deux parties s’améliorent constamment, aboutissant à des résultats de plus en plus convaincants qui contribuent à la désinformation. Parmi les modèles spécifiques, le modèle GAN « DeepFake » a été l’un des premiers à gagner en notoriété, mais d’autres architectures GAN telles que StyleGAN et StyleGAN2 sont également plébiscitées.
Avec ETX/ DailyUp