Cybersécurité en 2024 : l’année IA de tous les dangers !

Publié par Yannick Chatelain, le 8 février 2024 830

L’ère de l’IA dans la cybersécurité : anticiper les défis de 2024

Dr. Yannick Chatelain Associate Professor IT / DIGITAL à Grenoble École de Management (GEM) & GEMinsights Content Manager,

L’utilisation de l’IA par les cybercriminels est en constante évolution, devenant plus sophistiquée et contournant les défenses de sécurité existantes. L’année 2024 sera marquée par une augmentation des cyberattaques et des cybercrimes s’appuyant sur l’IA et ses différentes sous catégories dont l’IA generative (ou GenAI) dédiée à générer du texte, des images, du son, ou tout autres médias en réponse à des invites (ou prompts en anglais) c’est à dire une sollicitation de l’utilisateur en mode texte. Il est crucial, pour ne pas dire vital que les entreprises et les gouvernements investissent massivement dans des solutions de cybersécurité basées sur l’IA pour se protéger contre les attaques malveillantes inédites en approche et de façon quantitativement démultipliées. Les particuliers devraient également se tenir informés pour se protéger au mieux.

La cybersécurité est en train de subir un changement de paradigme dû à l’évolution de la cybercriminalité et à la dématérialisation croissante de la société. La crise sanitaire a accéléré cette évolution, augmentant la quantité de données sensibles dans le cyberespace à protéger. L’intelligence artificielle transforme le monde de la cybersécurité et a des implications dans de nombreux métiers. Le résultat de cette dynamique est visible, notamment dans le domaine de la santé, le rapport de l’ENISA (European Union Agency for Cybersecurity) démontre par exemple que les cyberattaques ont doublé au premier trimestre 2023 les cibles s’élargissant jusqu’aux prestataires de services !

De la fracture numérique à la fracture ouverte numérique

L’IA creuse la fracture numérique en excluant une partie de la population, Les professionnels doivent redoubler d’efforts pour protéger les citoyens, mais cela risque de ne pas suffire. Le secteur de l’IA est en pleine croissance financière sans « véritables » garde-fou mise à part les chartes éthiques qui existent en Europe, en Chine et aux États-Unis. Ces chartes divergentes ne sont pas vraiment crédibles, sans vouloir paraître cynique, outre le fait qu’elles ne soient pas mondialement consensuelle, elles font un peu penser aux Conventions de Genève et Protocoles additionnels, qui sont certainement efficaces et respectés… en temps de paix. Ces engagements d’usages cadrés me semble peser bien peu au regard d’enjeux financiers colossaux, je rappelle à toute fin utile que l’IA, partie intégrante du capitalisme de la surveillance Le secteur de l’IA devrait dépasser les 500 milliards de dollars d’ici 2027… et ce, sans le moindre garde-fou hors des chartes éthiques qui fleurissent ici et là, Europe, Chine, Usa.. Ce sont des chartes divergentes, qui sont de fait, si je peux me permettre, aussi crédibles que la convention de Genève en suisse et en temps de paix !

Alliée et ennemie : L’IA en cybersécurité, une double réalité à appréhender

L’IA, ses usages, ses développements, sont en passe de devenir à mon sens totalement hors contrôle. J’en veux pour preuve l’affaire Sam Altman qui a été un bien court moment « débarqué » de son poste de CEO, pour manquement à la mission originelle d’OPEN AI, avant de le retrouver quelques jours plus tard avec un conseil d’administration renouvelé. En effet, en 2018, une charte avait été rédigée qui présentait la mission et les principaux engagements de l’entreprise : S’assurer que l’intelligence artificielle puisse bénéficier à l’ensemble de l’humanité, tout en élaborant des outils « safe » comme le pointe Blanche Segrestin, Professeure à Mines Paris – Université PSL : « Il semble que Sam Altman ait été renvoyé parce qu’il mettait la mission de l’entreprise (être bénéfique à l’humanité) en danger en recherchant un développement commercial trop rapide. » Dont acte…