La révolution de l’Intelligence Artificielle (IA) a été annoncée et s’est imposée dans le débat public. L’IA va sans aucun doute transformer notre quotidien et de nombreux domaines d’activité, la cybersécurité n’y faisant pas exception. Que ce soit en matière d’outils ou de menaces, les changements sont d’ores et déjà présents.
Cyber Intelligence Artificielle : une nouvelle ère de menaces
Par
Publié le 29 décembre 2024 à 8h00
72%72 % des entreprises estiment que l’IA générative sera génératrice de cyberattaques
Clonage de la voix, face swapping, deepfakes… l’IA offre de nouvelles possibilités aux cybercriminels pour concevoir leurs attaques. Les IA génératives contribue aux profonds changements actuels des cyberattaques. ChatGPT par exemple, s’est aujourd’hui largement démocratisé dans les réseaux de cybercriminalité, donnant la possibilité de créer facilement et en très peu de temps des logiciels malveillants, et cela même pour les plus novices
Les transformations du paysage de la menace ne font que commencer et elles faussent déjà l'équilibre qui s’était établi jusqu’à présent. De nouveaux challenges s’imposent aux entreprises et organisations, challenges auxquels elles ne sont pas forcément préparées.
L’IA : accélérateur de la menace
Si un outil aussi grand public que ChatGPT peut, à un stade de développement peu avancé, à ce point impacter le cyberespace et créer une nouvelle génération de cybercriminels, quelles seront les possibilités offertes par des IA plus ciblées et plus performantes ?
Actuellement, une augmentation de certaines typologies d’attaques est d’ores et déjà apparente. On constate notamment une recrudescence du phishing, l’une des menaces majeures pour les organisations depuis plusieurs années maintenant.
Avant l’avènement de l’IA, les cybercriminels devaient mettre en place des opérations de spear phishing, reposant sur des techniques d’ingénierie sociale, pour lancer des attaques personnalisées. Ces opérations étaient très coûteuses, aussi bien en ressources qu’en temps, leur nombre était encore limité. Désormais, tous ces processus sont largement facilités par l’IA. Des discussions entières sont simulées avec les victimes, sans qu’un humain n’y prenne part. Cela permet évidemment de réduire drastiquement les efforts des cybercriminels, mais l’ampleur des attaques n’en est qu’augmentée. Une opération de phishing peut désormais viser jusqu’à 10 000 cibles simultanément. L’IA permet aussi d’assurer la gestion et le suivi d’informations récoltées sur les réseaux sociaux, augmentant d’autant plus le volume et la vélocité des attaques.
Le phishing est un exemple clé car il exploite l’erreur humaine, difficilement prévisible, pour compormettre les entreprises. Mais d’autres typologies d’attaques vont aussi augmenter en volume grâce aux avancées de l’IA, si ce n’est pas déjà fait. Les organisations doivent donc revoir leurs stratégies de cybersécurité pour pour qu’elles soient adaptées à cette intensification des attaques.
Un nouveau maillon faible à exploiter
En plus de l’amplification de la menace, l’IA ouvre la porte à de nouvelles vulnérabilités pour les entreprises. Pour rester compétitifs, nous intégrons désormais tous de l’IA dans nos tâches, que ce soit par l’utilisation d’outils externes ou interne.
Toutefois, ces IA représentent sont également un nouveau vecteur d’attaque. Les employés ne seront plus l’unique point d’entrée privilégié dans une entreprise. Les cybercriminels peuvent aujourd’hui facilement attaquer les IA externes et internes à une organisation. Ces attaques passeront, par exemple, par l’altération des comportements des IA utilisées par une entreprise, ou, plus grave, en leur faisant divulguer des informations confidentielles si des mesures de sécurité adéquates ne sont pas en place
Des risques peuvent aussi apparaître dans les sources de données utilisées par l’IA. Celles-ci peuvent être exposées et à l’origine de potentielles fuites d'informations. Ceci, même si l’IA en question est interne à l’entreprise. La manipulation des données peut avoir des conséquences graves : violation de confidentialité, perte de confiance en l'IA par les utilisateurs ou encore dégradation de l’image de l’entreprise.
En plus du rythme d’attaque qui sera plus élevé, il est donc désormais primordial de contrôler les IA utilisées et les sources de données qui les alimentent pour assurer la résilience de l’entreprise. L’humain restera essentiel pour superviser l’IA et, de facto, la sécurité de l’entreprise. Ces changements dans le cyberespace traduisent, de plus, un besoin de gouvernance, de préparation et, plus que jamais, de conformité aux lois et directives à l’instar de l’AI Act ou de NIS2.