Avec l’arrivée de ChatGPT et Bard, les campagnes de phishing ont été multipliées par 1 300 %. Les cybercriminels ont réussi à reproduire les modèles de langage des IA pour générer leurs campagnes « d’hameçonnage ».
Phishing : des millions d’arnaques à cause de ChatGPT
Par
Modifié le 2 novembre 2023 à 11h39
1 300 % Le nombre de campagnes de phishing a augmenté de 1 300 % depuis l'arrivée de ChatGPT.
ChatGPT : une aubaine pour les cybercriminels
L'essor des technologies, en particulier des intelligences artificielles génératives telles que ChatGPT, a révolutionné de nombreux domaines, du marketing à la rédaction en passant par l'assistance. Cependant, cet outil puissant est également devenu une épée à double tranchant. Les modèles de langage des IA offrent de nouvelles opportunités aux cybercriminels. Selon le dernier rapport de SlashNext, depuis l'apparition de ChatGPT en 2022, le nombre d'emails malveillants a augmenté de près de 1 300 %.
L'étude de SlashNext montre que parmi tous les e-mails de phishing détectés, 68% sont exclusivement basés sur du texte, et les e-mails visant à voler des identifiants ont augmenté de 967%. Les cybercriminels tirent parti des IAs génératives pour automatiser leurs campagnes de phishing. En 2023, près de 6 Français sur 10 se sont fait piéger par des campagnes de phishing (hameçonnage).
Des IA génératives spécialement conçues pour le phishing
Que ce soit FraudGPT, DarkBARD, DarKBERT ou WormGPT, ces IA génératives ont été spécialement conçues pour générer des textes de phishing, et certaines d'entre elles réussissent à passer au travers des logiciels anti-phishing ainsi qu'à générer des codes malveillants. « Les cybercriminels peuvent utiliser cette technologie pour automatiser la création de faux courriels très convaincants, personnalisés en fonction du destinataire, augmentant ainsi les chances de réussite de l'attaque », comme le souligne Daniel Kelley, chercheur en sécurité. WormGPT, par exemple, est largement disponible sur les sites de pirates et permet de créer des campagnes d'e-mails de phishing hautement personnalisées.
Certaines IA génératives exploitent directement les capacités de création de ChatGPT. Les cybercriminels accèdent directement au système d'exploitation des IA tels que ChatGPT, et les forcent à faire ce qu'ils désirent. Si ChatGPT est le plus exposé à ces techniques de jailbreak, son homologue Bard (Google) n'y échappe pas non plus. En ayant réussi à compromettre la sécurité des IA grand public et à développer leurs propres IA génératives, les cybercriminels ont touché le jackpot pour les arnaques de type phishing. Et à moins que les créateurs de Bard et de ChatGPT trouvent un moyen de sécuriser leur modèle de langage, le nombre d'emails malveillants ne cessera d'augmenter dans les semaines et les mois à venir.