Le clip qui a défrayé la chronique date de l’été 2017: les chercheurs de l’Université de Washington ont mis en ligne une vidéo d’un discours de Barack Obama. Sauf que la vidéo était totalement fausse: s’appuyant sur des solutions d’intelligence artificielle, ils ont créé une vidéo hyper-réaliste mais totalement fausse. Le web venait d’entrer dans l’ère des deepfakes (les «faux par apprentissage profond»). Selon la professeure en éthique à l’école d’ingénieurs de l’université de Virginie Deborah Johnson, interrogée par Vice , «Nous arrivons au point où nous ne pouvons plus distinguer ce qui est réel de ce qui ne l'est pas (...) tout ce business de la confiance et de la fiabilité est mis à mal par cette technologie».

Deux ans plus tard, cette possibilité arrive déjà à la portée de tout un chacun: en septembre 2019, une application chinoise proposait à ses utilisateurs de se filmer et de décider ensuite quelle star devait remplacer leur visage dans le clip. Un danger accru renforcé par le recours toujours plus important aux réseaux sociaux comme source d’information.

Réseaux sociaux et rôle des GAFAM

«Aux Etats-Unis, 50 % des Américains reçoivent des informations via Facebook chaque jour. Le changement, c’est que Facebook a été obligé de reconnaître qu’il est devenu un média. Les réseaux sociaux ont profondément transformé l’écosystème de l’information. On remarque de plus en plus leur utilisation comme première source d’information. La perversion absolue, c’est que Facebook gagne de l’argent avec le partage des fake news, alors qu’un journal traditionnel perdrait des lecteurs si c’était le cas», constate Arnaud Mercier, professeur à l’ Institut Français de la Presse et auteur du livre La communication politique , interrogé par 20Minutes en France .

Avec l’approche de la prochaine élection présidentielle américaine, la question devient plus cruciale et urgente que jamais. Et les GAFAM (Google, Amazon, Facebook, Apple, Microsoft), sous les feux de la critique pour leur utilisation obscure des données, leurs algorithmes nébuleux ou leur propension à relayer des fake news, ont logiquement fait des annonces. C’est ainsi que Facebook vient d’annoncer le lancement d’un Défi de détection Deepfake. Mike Schroepfer, directeur technique de Facebook, a effectué la déclaration suivante: «Les techniques «Deepfake», qui présentent des vidéos réalistes générées par l'IA de vraies personnes faisant et disant des choses fictives, ont des implications importantes pour déterminer la légitimité des informations présentées en ligne. Pourtant, l’industrie ne dispose pas d’un ensemble de données ou de points de repère de qualité pour les détecter. Nous voulons catalyser davantage de recherche et développement dans ce domaine et veiller à ce qu'il existe de meilleurs outils open source pour détecter les deepfakes».

Au-delà de Facebook, ce partenariat comprend Microsoft et des universitaires issus de Cornell Tech, du MIT, de l'Université d'Oxford, de l'UC Berkeley, de l'Université du Maryland, de College Park et de l'Université d'Albany-SUNY. Autant sur le plan des moyens financiers que des données disponibles ou des cerveaux mis à contribution, cette offensive semble majeure. Et dans de nombreux laboratoires et centres de recherche à travers le monde, la période est à l’ébullition pour trouver des solutions. Google vient d’annoncer de son côté la mise à disposition prochaine de 3000 deepfakes, afin d’aider à mieux les discerner.

Une solution efficace en Suisse

Et si, au milieu de cette effervescence, la solution existait déjà? Et si la Suisse avait devancé les efforts des géants américains de la tech? Et si une start-up romande détenait déjà les outils pour dissocier le vrai du faux? Dans l’un des bâtiments de l’Innovation Park de l’ EPFL , les équipes de Quantum Integrity œuvrent depuis plus de deux ans à mettre au point un outil efficace détecter les fakes. Au centre de ces équipes, deux hommes ont combiné leurs compétences respectives: Anthony Sahakian, Genevois d’origine arménienne ayant mené plus de vingt ans de carrière en Russie, Arménie et Asie centrale, et Touradj Ebrahimi, professeur au Groupe de traitement du signal multimédia de l’EPFL, impliqué sur plusieurs projets innovants au sein de l’institution fédérale.

«Pour le moment, il y a peu de choses concrètes du côté de Facebook. Ils espèrent définir les conditions de cette initiative d’ici la fin de l’année. Mais il y a beaucoup de flou à l’heure actuelle, observe Touradj Ebrahimi. Cela fait plusieurs années que nous travaillons sur le sujet et nous estimons avoir une avance.» «Quand personne ne voyait arriver cet enjeu, nous l’avons saisi à bras-le-corps et bien nous en a pris, au vu de nos résultats actuels», renchérit Anthony Sahakian.

Après de longs mois de recherches, Quantum Integrity a aujourd’hui une solution efficace. La recette comprend des apports de l’EPFL et d’autres de la start-up elle-même : le Laboratoire a amené son expertise du traitement du signal multimédia, tandis que la start-up a développé un savoir-faire dans la détection de photos truquées. Et la recette maison repose sur un concept simple mais très ingénieux: la mise en parallèle de deux systèmes basés sur des intelligences artificielles, l’un pour détecter les fakes et l’autre pour en générer. «Le détecteur de fakes va s’entraîner avec les fakes générés par l’autre système, et le générateur de fakes va tenter de créer de nouveaux fakes pour berner le détecteur», décrypte Touradj Ebrahimi.

Ce système, habile par sa capacité à s’auto-stimuler, présente également un autre avantage: contrairement à d’autres solutions, il n’exige que très peu de données utilisateurs. Un avantage certain à l’heure où le stockage et l’utilisation des données sont sous les feux des critiques. Mais aussi un atout pour une start-up suisse qui ne dispose a priori pas en interne des masses phénoménales de données que collectent par exemple Facebook ou Google (même s’ils pourraient en acquérir). «Les deux systèmes vont apprendre l’un de l’autre, sans interactions humaines. Il peut y avoir des milliards d’opérations par heure», indique Touradj Ebrahimi. Une force de calcul cruciale à l’heure où les créations de faux ne sont plus seulement l’apanage de plaisantins mais sont façonnés à la chaîne par des états cherchant à en déstabiliser d’autres, des organisations terroristes ou des entreprises mal intentionnées…

Des applications très vastes

Cependant, l’outil mis au point par Quantum Integrity ne va pas s’appliquer seulement aux vidéo deepfakes. L’objectif est de déceler la contrefaçon dans une grande variété de fichiers et de documents qui auraient pu être falsifiés: vidéos et photos évidemment, mais aussi pièces d’identité, contrats d’assurance ou commerciaux, documents d’authentification, labels,… «Notre système est une architecture qui s’applique à tout type de documents falsifiés, mais il faut juste l’alimenter avec les bonnes données de base. La plupart des fake videos sont des images head and shoulders. Mais nous pouvons aller beaucoup plus loin que ce type basique de fakes. Y compris des documents forgés à la main ou réalisés par des intelligences artificielles», assurent les deux leaders du projet.

La clef c’est donc d’injecter dans le système les bons types de données. «Nos clients sont des compagnies d’assurance, des sociétés d’envois,… Ils nous donnent les éléments de base qui ont servi à forger les documents. Et nous allons alimenter nos deux systèmes avec des fakes et leur demander d’en détecter et d’en générer. Dès qu’il y a de nouveaux types de documents falsifiés qui apparaissent, on peut s’appuyer sur la même architecture et déposer sa requête. La seule chose qui change vraiment, c’est l’injection des données», détaille Touradj Ebrahimi. Et d’ajouter face à l’emballement actuel: «Nous ne sommes pas naïfs sur le fait qu’il y a une hype en ce moment, car les élections américaines arrivent dans quelques mois et il y a le besoin d’avoir un outil pour détecter les photos et vidéos fakes. Mais il y a beaucoup de domaines qui sont moins sous le feu des projecteurs comme les documents officiels, les certificats, les labels,… La sécurité ce n’est pas sexy mais c’est crucial. Nous ne venons pas avec une solution seulement en vue des élections de 2020, mais pour le long terme».

Une réflexion plus globale, amorcée très tôt et se pensant de long terme. De quoi dépasser les simples enjeux du concours Facebook. Mais comment se positionner en acteur de référence quand on est une start-up suisse? «Il y a plus qu’un antiviral sur le marché, il faudra plus d’une solution anti fakes. L’Europe a besoin de ses propres solutions de défense dans ce domaine. On ne peut pas outsourcer nos défenses cyber», analyse Anthony Sahakian. Et Touradj Ebrahimi de surenchérir: «On voit avec la Chine comment ça se passe. Il y a des situations complexes. Dans le monde entier, la Suisse a une bonne image de neutralité, de confiance et de qualité. C’est crucial que la Suisse soit à la pointe dans cette solution, car elle a cette image de garant de la neutralité et de la sécurité».

Une identité suisse à laquelle les deux interlocuteurs tiennent beaucoup. En dépit d’un écosystème pas toujours très favorable. «J’aimerais rester en Suisse, mais c’est difficile de lever des fonds, de changer les états d’esprits,… Il faut être conscient de ces freins. C’est notamment pour cela que Quantum Integrity, malgré un soutien très précoce de la Fongit , a migré vers le canton de Vaud et l’écosystème de l’EPFL. C’est d’ailleurs des interlocuteurs du canton de Vaud qui ont mis les deux hommes en relation à l’été 2017, quand le projet d’Anthony Sahakian était encore embryonnaire et qu’il cherchait la personne adéquate pour piloter la recherche dans ce domaine.

Levée de fonds en vue

Deux ans plus tard, Quantum Integrity dispose d’une avance considérable sur de nombreux autres projets. Après la Fongit, l’Union européenne a également apporté son soutien financier au projet, de même qu’InnoSuisse, et plusieurs investisseurs. Parmi ceux-ci, Peter Kessel, capital-risqueur depuis plus de trente ans, a très tôt vu les potentiels: «Le marché de la détection et de la prévention de la fraude croît rapidement pour atteindre environ 75 milliards de dollars en 2025, avec un taux de croissance estimé à 20-22% par an selon des études de marché indépendantes. Le marché de l'identité et de l'authentification est l'un des sous-segments les plus importants. C’est le marché que Quantum Integrity cible avec ses produits et services. De nos jours, les automobilistes par exemple multiplient les dégâts aux assurances grâce à des méthodes frauduleuses plus sophistiquées. Pour moi, cette tendance du marché se compare bien au marché des antivirus il y a quelques années, mais avec un focus plutôt sur les utilisateurs professionnels désormais. Les secteurs verticaux importants sont les services financiers et l’assurance. Les utilisateurs potentiels sont à la fois B2B (grandes entreprises) et B2b (PME comme les administrateurs et les avocats). Selon moi, la technologie choisie par Quantum Integrity dispose d’une base solide et cette société pourrait devenir le centre de gravité européen dans ce domaine. La fiabilité et la crédibilité sont la clé. Un autre atout réside dans la qualité renforcée grâce à la marque "Swissness", et un manque évident de concurrents américains et chinois potentiels».

Cette crédibilité technologique et cette avance sur les projets concurrents permet à Anthony Sahakian d’envisager avec sérénité mais ambition les prochaines étapes: «Nous visons une série A en 2020 avec une levée de 10 millions. Mais dans un premier temps, d’ici fin décembre, nous allons lancer une levée de fonds de 2 millions basée sur nos proches. Notre plus grand défi désormais est de disposer de plus de use-cases, tout en s’assurant que nous allons ensuite détruire les données».

Quant au concours initié par Facebook, Microsoft et autres partenaires, Anthony Sahakian et Touradj Ebrahimi se veulent prudents: «Avec l’EPFL et Quantum Integrity, nous allons pouvoir voir quelles seront les performances des systèmes que nous développons par rapport à ce que proposent d’autres centres de recherche qui vont prendre part au concours. Mais nous voulons faire attention à ce que Facebook va s’attribuer voire s’accaparer des recherches développées. Nous voulons vraiment être sûrs qu’il y a une approche et une méthode transparentes et vérifiables dès le départ».

Vous avez trouvé une erreur?Merci de nous la signaler.