Bilan

IA, le bras armé de la cybersécurité

Les spécialistes s’attendent à une extension de la cybercriminalité via l’intelligence artificielle (IA). Mais pour l’heure, ces techniques donnent plutôt l’avantage à la défense.

Bluffant: le laboratoire d’intelligence artificielle de Samsung sait créer des vidéos à partir de photos.

Crédits: Dr

La publication, par le laboratoire d’intelligence artificielle de Samsung à Moscou, d’une vidéo qui montre la Joconde s’animant et parlant à partir d’une photo du tableau a fait franchir aux «deepfakes» une nouvelle étape de nature à donner des cheveux blancs aux spécialistes de cyberdéfense. 

En janvier 2018, la mise en ligne de l’application FakeApp, basée sur des réseaux de neurones artificiels, avait déjà rendu possible pour tous la création de vidéos où les visages et les voix sont permutables. Ces applications nous ont donné un faux Obama insultant Trump et un faux Trump insultant Obama ainsi que des centaines de fausses vidéos pornos qui mettaient en scène des célébrités, des ex, dans des cas de revenge porn, et même une journaliste indienne ciblée pour ses positions contre le viol. 

Les deepfakes sont un exemple frappant des possibilités de détournements malveillants des programmes d’intelligence artificielle. Ce ne sont pas les seuls. Dans le cadre de ses conférences «regards d’experts», la Banque Mirabaud accueillait récemment Duilio Hochstrasser, senior security product manager chez Swisscom, et le consultant Stéphane Koch, spécialisé dans les risques de réputation sur internet. Ils donnaient une idée du potentiel de ces technologies dans un contexte d’explosion de la cybercriminalité. 

Duilio Hochstrasser, dont le rôle est de promouvoir les services de sécurité de Swisscom auprès des entreprises suisses, évoque ainsi le chiffre de deux millions d’attaques déjouées chaque mois chez l’opérateur et d’une vingtaine qui passent entre les mailles du filet, provoquant des incidents. Stéphane Koch détaille des stratégies de plus en plus subtiles d’ingénierie sociale déployée sur les réseaux du même nom afin d’obtenir des informations de nature à déstabiliser les entreprises. «Cela passe par des campagnes de fausses offres d’emplois, des modifications biographiques sur Wikipedia...» 

Selon John Plassard, consultant de Mirabaud Securities, «les entreprises sont confrontées  à une augmentation non seulement des attaques mais aussi de leurs coûts. En cinq ans, ils ont grimpé de 72 % dans le monde selon le cabinet de conseils Accenture.»

Pour ces trois spécialistes, la cybersecurité est maintenant confrontée à un nouveau défi avec l’utilisation de techniques d’intelligence artificielle comme le «machine learning». «Le nombre d’entrées possibles pour des attaques ne cesse d’augmenter, relève John Plassard. Les réseaux, le cloud et les objets connectés continuent de faire croître le big data. Or, son exploitation par les programmes de machine learning des entreprises est susceptible d’être attaquée.» 

«C’est ce qui se passe avec les techniques dites d’Adversarial machine learning», explique Jean-Philippe Aumasson, fondateur de Teserakt.io, startup suisse spécialisée dans l’encryption des objets connectés. «A ne pas confondre avec les Generative Adversarial Networks (une classe d’IA qui met en concurrence des logiciels de machine learning), cette technique trompe les IA avec de fausses informations.» Il donne l’exemple des chauffeurs Uber et Lyft de l’aéroport Reagan à Washington qui coupent leurs apps tous en même temps au débarquement d’un avion pour pousser les algorithmes à faire monter les prix des courses.

Jean-Philippe Aumasson voit aussi des possibilités pour les IA de passer certaines défenses comme les captchas ou la reconnaissance d’objets dans des photos pour prouver que l’on n’est pas un robot. Il souligne cependant le potentiel de l’IA pour défendre les systèmes d’information. «En substance, l’intelligence artificielle est surtout efficace pour détecter des anomalies, ce qui est le cas lors d’attaques.»

John Plassard note que les coûts liés aux attaques ont grimpé de 72 % dans le monde. (Crédits: Avid Wagnières)

Le machine learning défensif

C’est aussi le point de vue de Julian Selz, fondateur de CyberQ à Zurich. «Dans les campagnes de phishing, de nouvelles URL malveillantes vers lesquelles sont dirigés les internautes apparaissent toutes les secondes. Du coup, aucune des listes noires mises en place pour les éviter ne les capture toutes. De même, pour les bases de données de signatures des antivirus».

 CyberQ a développé une solution d’assistance pour ses utilisateurs qui ne dépend pas de ces listes mais fait passer toutes les URL par un vérificateur de liens. Son logiciel de machine learning classe ces liens dans trois catégories : vert (bon), orange (potentiellement malveillant) et rouge (malveillant confirmé). Julian Selz avance une précision pouvant atteindre 98% pour détecter de faux magasins en ligne, le cybersquattage de marques ou des images malveillantes.

«Toutes les entreprises tentent de prendre un avantage en exploitant leurs données avec des outils d’analyse et de machine learning», explique Jordan Brandt, CEO d’Inpher. «Plus il y a de données, plus ces techniques sont efficaces. Mais mettre en commun des données entre entreprises ou même à l’intérieur d’une entreprise internationale est difficile parce que des règles nationales l’empêchent et parce que cela créé des brèches de cybersécurité.»  

Basée entre Lausanne et New York, Inpher a développé une technologie dite de «secret computing». Elle traite avec des programmes de machine learning les données de différentes sources sans avoir à les décrypter pour garantir leur sécurité.

A l’heure où le marché de la cybersécurité vit une pénurie de talents qualifiés – selon Cybersecurity Ventures, il y aurait plus de 350 000 offres de postes non pourvus par des candidats en Europe d’ici à 2022 - tous les vendeurs intégrent l’IA. Reste aux clients à distinguer ce qui relève du marketing de ce qui va servir à leurs analystes afin de repérer les faux positifs que ces logiciels produisent aussi en masse. 

Fabrice Delaye
Fabrice Delaye

JOURNALISTE

Lui écrire

Fabrice Delaye a découvert Internet le 18 juillet 1994 sur les écrans des inventeurs du Web au CERN. La NASA diffusait ce jour-là les images prises quasi en direct par Hubble de la collision de la comète Shoemaker-Levy sur la planète Jupiter…Fasciné, il suit depuis ses intuitions sur les autoroutes de l’information, les sentiers de traverse de la biologie et étend ses explorations de la microélectronique aux infrastructures géantes de l’énergie.

L’idée ? Montrer aux lecteurs de Bilan les labos qui fabriquent notre futur immédiat; éclairer les bases créatives de notre économie. Responsable de la rubrique techno de Bilan depuis 2006 après avoir été correspondant de L’Agefi aux Etats-Unis en association avec la Technology Review du MIT, Fabrice Delaye est diplômé de l’Institut d’Etudes Politiques de Paris et de l’EPFL.

Membre du jury des SwissICT Awards, du comité éditorial de la conférence Lift et expert auprès de TA-Swiss à l’Académie Suisse des Arts et des Sciences, Fabrice Delaye est l’auteur de la première biographie du président de l’EPFL, Patrick Aebischer.

Du même auteur:

«Le prochain président relèvera les impôts»
Dubaï défie la crise financière. Jusqu'à quand'

Les newsletters de Bilan

Le cercle des lecteurs

Le Cercle des Lecteurs est une plate-forme d'échanger sur tout ce qui touche votre magazine. C'est le reflet de vos opinions, et votre porte-parole le plus fidèle. Plus d'info


Image Footer

"Tout ce qui compte.
Pour vous."