LUXEMBOURG
MATTHIEU FARCOT

Kloertext: Technologie et confiance

L’intelligence artificielle au service de la manipulation des images rend facilement accessible la création de vraies-fausses vidéos. On se dit que tout n’est pas permis sur Internet, mais que décidemment beaucoup de choses sont deviennent techniquement faisables. Dr. Matthieu Farcot de SECURITYMADEIN.lu et BEE Secure explique cette tendance récente.

«Avez-vous entendu parler des “DeepFakes”? Ce sont des vidéos manipulées par une solution logicielle simple à utiliser mais aux résultats impressionnants. En utilisant une plate-forme logicielle libre de droits, et un ordinateur récent munis d’une carte graphique puissante, n’importe qui peut insérer n’importe quel visage dans n’importe quelle vidéo. A la vue des résultats, il est indéniable qu’un pallier technique a été franchi.

Et ces résultats, nombreux, ne se sont pas fait attendre. Internet a vu ces dernières semaines une explosion de telles vidéos produites, portant en particulier sur une thématique bien précise: la réalisation de films pornographiques manipulés où la tête de l’actrice originale est remplacée par celle d’une célébrité.

 La technologie est connue, mais illustre parfaitement le bond en avant réalisé dans le domaine de l’intelligence artificielle ces dernières années et surtout de sa démocratisation. Jusqu’à maintenant, au moins pour les solutions grand public, le remplacement de visage était envisageable uniquement sous la forme d’une extraction souvent grossière d’une partie de source vidéo pour en recouvrir une autre. L’effet pouvait marcher pour peu que les images soient des visages regardant dans la même direction, mais il était plutôt simple de voir la manipulation (notamment au niveau de l’éclairage et des raccords). Les solutions plus poussées (incluant une modélisation 3D des visages et/ou du “facepainting” plus réaliste) restaient l’apanage des professionnels.

Cette année 2018 marque un changement notable, non pas par rapport aux technologies utilisées (les réseaux de neurones en matière d’intelligence artificielle sont un sujet ancien), mais par rapport à leur accessibilité et leur simplicité d’usage. L’augmentation exponentielle de la puissance de calcul des outils informatiques disponibles au grand public permet d’envisager la réalisation de calculs qui n’étaient pas possible il y a peu.

L’objet n’est pas ici de nous attarder sur le contenu pour adulte mais de nous interroger sur les conséquences de telles technologies. Car la maturité du traitement est réelle, et 5 minutes de film d’un individu permet d’exporter en moyenne plus de 10.000 images correspondant à l’échantillon nécessaire pour permettre au moteur d’intelligence artificielle de réaliser un échange procédural entre deux visages générés par un réseau de neurones.

 

Le résultat est saisissant. Le bac à sable composé des vidéos générées par cette application laisse entrapercevoir un monde d’images numériques très facilement manipulées, avec de moins en moins de possibilités de distinguer le vrai du faux. Et ce sont alors les conséquences qui interpellent et sont potentiellement effrayantes. Ces technologies soulèvent un point central de notre rapport à l’image et de la confiance en ce que nous voyons. Plus que jamais, le besoin est présent de garder un œil extrêmement critique sur ce que nous voyons.»