L’intelligence artificielle, un danger pour la cybersécurité ?

L’intelligence artificielle (IA) peut être difficile à définir et à comprendre. Pourtant, elle est devenue un réel enjeu stratégique pour les organisations ainsi que les États. De nombreuses entreprises utilisent quotidiennement le machine learning ou l’apprentissage automatique pour accélérer et optimiser leurs processus de travail. Aux États-Unis, les algorithmes prédictifs de l’IA sont également exploités par la police et des rapports sur une éventuelle mise en place d’une police prédictive sont en cours en France.

Pourtant, comme l’IA est difficile à définir, les potentielles failles et vulnérabilités qu’elle inclut sont aussi compliquées à appréhender. Si la puissance et les fonctionnalités de l’IA sont exploitées par tous les secteurs, qu’en est-il de celui de la cybercriminalité ?

Découvrez dans cet article si l’intelligence artificielle est un danger pour la cybersécurité.

Des cyberattaques augmentées avec l’IA

4 fois plus de cyberattaques en 2020

D’après l’ANSSI (Autorité Nationale de la Sécurité des Systèmes d’Information), le nombre de cyberattaques en France a été multiplié par quatre durant l’année 2020.

Cette hausse s’explique majoritairement par le manque de sensibilisation à la cybersécurité, la pénurie d’experts dans ce domaine et la digitalisation des modes de travail (avec notamment le télétravail) qui ont décuplé les potentielles failles de sécurité.

Mais l’IA a également augmenté les cyberattaques dans les deux sens du terme. D’une part, le nombre d’attaques sur les techniques et les algorithmes de l’IA ont augmenté et, d’autre part, ces cyberattaques ont elles-mêmes augmenté dans le sens où elles sont beaucoup plus sophistiquées.

Ces attaques « dopées » à l’IA selon le PDG d’Avast ont commencé à apparaître dès 2019 et sont depuis massivement adoptées par les pirates, car les technologies sont accessibles et disponibles. De plus, ces cyberattaques ne se limitent pas à de simples virus, mais intègrent aussi des procédés d’ingénierie sociale et de phishing.

Comment les cybercriminels peuvent-ils utiliser l’IA ?

L’empoisonnement des données

L’empoisonnement des données est probablement l’attaque la plus connue et la plus simple en ce qui concerne les algorithmes de l’IA. Les cyber attaquants peuvent notamment :

manipuler les ensembles de données utilisés pour entraîner l’IA ;
apporter de légers changements aux paramètres ;
élaborer des scénarios soigneusement conçus pour éviter d’éveiller les soupçons tout en orientant progressivement l’IA dans la direction souhaitée.

Si les cybercriminels n’ont pas accès aux données, ils peuvent aussi recourir à l’évasion. Cette technique consiste à jouer sur les données d’entrée de l’application afin d’obtenir une décision différente de celle qui serait normalement attendue. Un attaquant peut, par exemple, modifier les points d’informations d’un visage pour tromper une application de reconnaissances faciales.

Des attaques système et réseau

Les cyberattaquants peuvent aussi employer des technologies d’intelligence artificielle pour créer des malwares intelligents. Ceux-ci sont capables de se propager de façon autonome sur un réseau ou un système jusqu’à atteindre la cible définie par les hackers.

En 2021, des chercheurs en cybersécurité ont également prouvé qu’il est possible d’intégrer du code malveillant dans un réseau neuronal d’intelligence artificielle. L’équipe de spécialistes a ainsi incorporé 36,9 Mo de logiciels malveillants dans un modèle de 178 Mo destiné à l’intelligence artificielle AlexNet (une IA de détection d’images). Cette attaque a conduit à perte de précision de 1 % et l’intrusion n’a pas été détectée par les systèmes d’antivirus.

Des ransomwares et phishing plus dangereux

L’IA permet aussi aux hackers de générer automatiquement de fausses informations (ou « deepfakes » ). Celles-ci peuvent alors venir crédibiliser les tentatives d’hameçonnages et les autres méthodes d’ingénieries sociales avec, par exemple, des :

fausses vidéos : les vidéos truquées sont quasi indétectables. Elles permettent aux attaquants d’usurper l’identité d’une personne afin de demander par exemple un accès à des données sécurisées ;
messages personnalisés et automatisés : ces contenus comportant des informations plus crédibles et spécifiques permettent d’améliorer les mails de phishing ;
des données personnelles : l’IA peut être utilisée pour créer ou générer de fausses preuves puis envoyer des messages de menace et chantages automatisés ;
des faux articles : les hackers peuvent recourir à l’apprentissage automatique pour faire rédiger à l’IA des articles de propagandes basés sur les contenus et données qu’ils lui fournissent.

Cependant, si l’IA regorge de ressources et fonctionnalités exploitables par les cybercriminels, ces mêmes outils peuvent être utilisés par les experts en cybersécurité.

L’IA au service de la cybersécurité

L’intelligence artificielle dispose d’un potentiel immense en matière de cybersécurité. En effet, s’ils sont correctement exploités, les systèmes d’IA peuvent prévenir automatiquement les menaces, protéger les données sensibles et identifier les nouveaux types de logiciels malveillants. Voici quelques applications majeures de l’IA dans la cybersécurité.

La modélisation des comportements utilisateurs

Les entreprises recourent à l’IA pour surveiller et modéliser les comportements des utilisateurs du système. Leur objectif est de monitorer les interactions entre le SI et ses usagers et de détecter immédiatement les attaques par prise de contrôle ou d’éventuels vols d’informations par des collaborateurs malveillants.

L’apprentissage automatique permet à l’IA de connaître les activités quotidiennes des utilisateurs et ainsi de considérer les agissements inhabituels comme des anomalies. Ensuite, les systèmes d’IA peuvent être paramétrés pour verrouiller aussitôt les comptes d’utilisateurs suspects ou pour alerter instantanément les administrateurs système.

L’intégration de l’IA dans les antivirus

Les antivirus enrichis des facultés de l’IA sont capables d’identifier des anomalies sur un réseau ou un système en détectant les programmes présentant un comportement inhabituel. Ces « antivirus IA » tirent également parti des tactiques de l’apprentissage automatique pour comprendre comment les programmes « légitimes » interagissent avec un SI.

Dès qu’un programme malveillant est introduit sur un réseau, l’antivirus peut immédiatement le neutraliser en l’empêchant d’accéder aux ressources et données. Ces antivirus ne s’appuient donc plus uniquement sur une base de données de signatures, mais peuvent détecter par eux même les nouvelles menaces.

Des outils d’analyse automatisée

L’analyse automatisée des données du réseau ou du système permet de mettre en place une surveillance continue avec une détection rapide des tentatives d’intrusion.

Cette analyse continue est une des raisons majeures du recours à l’IA dans la cybersécurité des entreprises.

En effet, selon l’institut de recherche Capgemini, 69 % des entreprises estiment que l’IA est vitale pour la sécurité, car le nombre croissant de cyberattaques rend les méthodes traditionnelles de cybersécurité inefficaces. Les équipes d’experts en sécurité sont dépassées par le volume des menaces et la pénurie de profils en cybersécurité accentue la vulnérabilité des entreprises.

Des outils intelligents de détection des phishings

L’e-mail est le mode de communication privilégié par les cybercriminels pour l’envoi de phishing. Une étude de Symantec indique que 54,6 % des e-mails reçus sont des spams et peuvent comporter des pièces jointes ou des liens malveillants.

Les e-mails d’IA aussi appelés e-mails anti-hameçonnage permettent grâce à l’apprentissage automatique et aux techniques de détection d’anomalies d’identifier les activités suspectes dans toutes les fonctionnalités de l’expéditeur. Ils peuvent également mieux analyser les pièces jointes, des liens, les corps de message, etc.

L’intelligence artificielle n’est pas un danger en tant que tel, mais une arme à double tranchant qui peut être utilisée aussi bien en tant que solution de sécurité que comme un moyen d’augmenter les cyberattaques. La différence risque encore une fois de se faire au niveau humain. Face à des cybercriminels qui s’organisent en réseaux tentaculaires comme « Emotet », les entreprises peinent à trouver des experts en cybersécurité pour faire face.

Et vous que pensez vous de l’apport de l’IA dans la cybercriminalité et la cybersécurité ? Pensez vous que l’intelligence artificielle représente un danger ou, à l’inverse, une potentialité de prévenir et réduire les attaques ? Faites-nous part de votre avis sur le forum IT !

Sources :