Alors qu’une intervenante d’Ethereal Virtual Summit faisait sa présentation sur les deepfakes aujourd’hui – des fausses vidéos générées par IA – le flux Youtube de sa présentation s’est soudainement éteint. Sa présentation comportait une capture d’écran d’une vidéo truquée, que les algorithmes de Youtube n’ont apparemment pas aimée.
Voici l’ironie de la situation : Kathryn Harrison, en tant que fondatrice de DeepTrust Alliance, une coalition luttant contre la désinformation numérique, a en fait pour mission de lutter contre les faux-semblants. C’était là tout l’objet de son discours. Cela, et comment la chaîne des blocs pouvait aider.
« Wow ! » Harrison a tweeté après. « Ma première fois en tant qu’orateur INTERDIT. »
Mais c’est là que se situe le problème des contrefaçons. Il devient de plus en plus difficile de distinguer ce qui est réel de ce qui est faux. Et les médias sociaux ne cessent de se perfectionner pour les repérer avec précision.
M. Harrison, qui était auparavant directeur de la gestion mondiale des produits chez IBM Blockchain, pense que la chaîne de production peut aider, car elle est immuable et constitue une source de confiance.
Des faux et des faux bon marché
Aujourd’hui, le plus gros problème est celui des « cheapfakes », qui sont créés avec des technologies comme Photoshop, qui existe depuis longtemps, a déclaré M. Harrison. Mais la menace future est celle des « deepfakes », qui sont de plus en plus faciles et bon marché à créer.
Comme l’a expliqué Harrison, un deepfake est une image, une vidéo ou un son créé par l’IA pour que les humains fassent ou disent des choses qu’ils n’ont jamais faites ou dites. La technologie sous-jacente est connue sous le nom de « réseaux adversaires générateurs », ou GAN en abrégé.
Plus précisément, le GAN est une méthode qui permet de combiner des images existantes avec l’IA pour créer une image entièrement nouvelle, encore plus réaliste. En bref, il vous permettra de superposer le visage de n’importe qui sur celui de n’importe qui d’autre. « Les gens peuvent s’en servir pour discréditer des informations réelles, vraies et authentiques », a déclaré M. Harrison.
« Vous pouvez maintenant télécharger un programme qui vous permettra d’échanger votre visage lors d’un appel Zoom ou Skype en direct », a-t-elle averti.
Porno truqué
Certains deepfakes sont humoristiques. Harrison a cité l’exemple de Elon Musk dans le rôle de Dave en 2001 : une odyssée de l’espace. Les lumières, les couleurs, les mouvements de sa bouche sont parfaits », dit-elle.
Mais la contrefaçon profonde se présente sous des formes plus insidieuses. « Le fait que cette technologie existe signifie que les gens peuvent l’utiliser pour discréditer des informations réellement vraies et réelles », a-t-elle déclaré. Elle permet aux syndicats criminels d’imiter plus facilement votre identité pour accéder à vos comptes. Enfin, il y a le problème croissant de l’extorsion et du harcèlement.
Elle a évoqué le célèbre exemple d’une journaliste indienne au franc-parler, Rana Ayyub, dont les adversaires ont collé son visage sur une vidéo porno et l’ont diffusée sur Internet. Elle en est arrivée au point où l’ONU a dû intervenir pour faire retirer la vidéo de l’Internet public au sein de la communauté indienne.
« Le porno truqué est l’un des plus grands risques », a déclaré M. Harrison, ajoutant qu’il représente la majorité de tous les pornos truqués.
Il faudra du temps et un effort coordonné pour résoudre ce problème. « Aucun parti ne peut résoudre ce problème à lui seul, a-t-elle déclaré. « Il faut du matériel, des logiciels et des hommes. »
Et juste au moment où Harrison s’apprêtait à mettre en avant tous les biens et les grâces de la chaîne de magasins, l’écran noir et la vidéo de sa présentation ont cessé de jouer sur Youtube.
Auteur/autrice
