Avez-vous déjà vu Mark Zuckerberg qui avoue manipuler ses utilisateurs ou encore Barack Obama qui insulte Donald Trump ? Bienvenue dans le monde (terrifiant) du ‘deep fake’.
Le deepfake est une technique de synthèse d’images et de sons basée sur l’intelligence artificielle. Quelques clichés ou paroles d’une personne suffisent pour truquer des séquences préexistantes en remplaçant l’image ou le son initial.
Terrifiant, non ? Et pourtant, le 30 août dernier, une application chinoise au nom de ‘Zao’ a mis la technologie de deepfake à la portée de tous. Le concept de l’app est de pouvoir remplacer le visage de n’importe quelle star ou personnage de fiction par le vôtre.
En seulement quelques jours, l’application Zao a enregistré des millions de téléchargements et s’est d’ailleurs faufilée à la première place des téléchargements de l’App Store chinois (uniquement disponible dans ce pays).
L’app’ qui réunit massivement les internautes présente un vrai potentiel publicitaire pour les annonceurs. A suivre ! Remember : L’app’ TikTok a rencontré le même succès à ses débuts et propose aujourd’hui plusieurs formats publicitaires aux marques.
Mais malgré le franc succès, l’app inquiète par son manque de confidentialité. Les utilisateurs doivent en effet consentir à laisser à Zao leurs droits sur leurs photos de manière irrévocable et permanente, laissant une zone d’ombre sur l’usage qui peut être fait des contenus collectés. De plus, le paiement mobile par reconnaissance faciale se développe rapidement en Chine et beaucoup craignent pour la sécurité de leurs comptes en banque.
Depuis, Zao a promis de ne plus utiliser les photos et les vidéos mises en ligne par les internautes, hormis pour améliorer l’application. L’entreprise a également assuré que les contenus effacés par les utilisateurs seraient retirés de ses serveurs.
Utiliser le deepfake pour remplacer Orlando Bloom dans Pirates des Caraïbes, c’est amusant ?! Cependant, cette technologie inquiète les institutions, les politiciens, et toutes les personnalités publiques car les vidéos deepfake sont plus vraies que nature et peuvent rapidement alimenter le phénomène des fake news, avec lequel ils se battaient déjà avec peine.
Le 5 septembre, à l’approche des élections américaines de 2020, Facebook a lancé ‘le Deepfake Detection Challenge’, un programme commun avec des entreprises du numérique et des universités pour favoriser la recherche dans la création d’un outil détecteur de vidéos deepfake et ainsi lutter contre les dérives.