Des cybercriminels machIAvéliques ! L'IA offensive face à l'IA défensive - Echosciences sur RCF Isère

Publié par Echosciences Grenoble, le 17 juin 2024   280

Depuis septembre 2019, RCF Isère offre du temps d'antenne à Echosciences Grenoble, tous les jeudis à 12h05, dans "l'Echo des médias" des "Midis RCF" présenté par Nicolas Boutry. L'occasion de vous parler des derniers contenus intéressants partagés par les membres d'Echosciences. Retrouvez toutes les chroniques dans ce dossier ou sur le site de RCF-Isère !

La chronique du 30 mai par Chloé Ettouati, en son et en texte ci-dessous :

Sur RCF Isère, c’est l’heure de l'Écho des médias. Aujourd’hui, nous accueillons Chloé Ettouati, assistante chargée de projet à Territoire de sciences. Vous allez nous présenter un article d’Echosciences Grenoble, bonjour Chloé !

Bonjour Nicolas !

Vous avez sélectionné un sujet technologie et numérique, avec un article publié par Dr. Yannick CHATELAIN et Dr Sylvie Blanco, professeur à l’école de Management de Grenoble.

Tout à fait, le titre de l’article c’est “Des cybercriminels machIAvéliques (petit jeu de mot) ! L’IA offensive face à l’IA défensive”. L’une des questions posées est : Pourquoi l’IA générative semble-t-elle décupler la puissance des cybercriminels ?

Peut-être qu’on pourrait commencer par donner quelques définitions sur l'Intelligence Artificiel ?

Ok alors, une Intelligence Artificiel, dite IA, est un algorithme automatisé capable de simuler certains traits de l'intelligence humaine tel que le raisonnement ou l’apprentissage. Et ce qui est fort avec l’IA, hormis sa capacité d’apprentissage, c’est qu’elle s'adapte selon vos demandes.
Les IA génératives ce sont celles qui peuvent créer du contenu comme une image, une vidéo, une musique…

Le titre de l’article parle de cybercriminalité, quel est le lien avec les IA ?

Quand l’IA crée du contenu mais que la personne lui ayant demandé s’en sert pour duper les gens, que le but est de semer le doute entre une vidéo réelle et une vidéo truquée, cela tombe dans la cybercriminalité. Si une IA générative prend l’apparence et la voix de quelqu’un, on appelle ça un deepfake.

Pour les experts, ce phénomène avantage les criminels, qui bénéficient de la rapidité de l’évolution technologique (dans notre cas, l’IA) et de l'expansion numérique au quotidien (télétravail, objets connectés).

Est-ce qu’il y aurait un exemple qu’on pourrait donner à nos auditeurs et nos auditrices ?

Oui on pourrait prendre l’exemple de la photo d'Emmanuel Macron qui embrasse le Pape, photo évidemment truquée. Mais pour montrer la force de l’IA générative, je vais aller plus loin dans mon exemple et donner une actualité qui date du 4 février de cette année.
Un employé de la multinationale RTHK de Hong Kong, a transféré 25 millions de dollars américains à la demande de son « supérieur » lors d’une visioconférence. Malheureusement, il était le seul personnage bien réel de cette visio, le reste des participants avaient été créés par l’IA. Source

C’est fou la puissance de l’IA génératrice surtout quand elle est utilisée dans le cas offensif  !

Et je ne veux pas te mettre le moral à 0 mais l’IA offensive ne se limite pas qu’à la génération d’arnaque. Elle a des ambitions beaucoup plus grandes comme déjouer des méthodes défensives des entreprises qui détiennent des données personnelles sensibles telles que les hôpitaux.

Et bien pour devenir parano il n’y a pas mieux.

C’est clair mais il ne faut pas oublier qu’il y a la cybersécurité qui oppose la cybercriminalité. Et elle, utilise aussi l'IA pour contre-attaquer. Disons que c’est à armes égales, IA contre IA !
Cette IA défensive a pour but principal la proactivité dans la détection et l’anticipation des menaces. Cette IA qui apprend continuellement et s'adapte aux attaques, permet de renforcer la sécurité des données.

A quel point la cybersécurité peut devancer la cybercriminalité ?

Je ne vais pas en dire plus et je vous laisserai aller découvrir d’autres actualités et d’autres détails sur l’IA offensive et défensive dans l’article “Des cybercriminels machIAvéliques ! L’IA offensive face à l’IA défensive” par Yannick CHATELAIN et Sylvie Blanco, tous deux professeurs à l'Ecole de Management de Grenoble que vous trouverez sur Echoscience.

Article d'inspiration : Des cybercriminels machIAaveliques ! L'IA offensive face à l'IA défensive

Photo : Christopher Fausten (@christopher_rcf)