{"id":12360,"date":"2024-03-19T09:31:09","date_gmt":"2024-03-19T08:31:09","guid":{"rendered":"https:\/\/citalid.com\/?p=12360"},"modified":"2026-10-01T18:18:08","modified_gmt":"2026-10-01T16:18:08","slug":"ia-generative-cybersecurite","status":"publish","type":"post","link":"https:\/\/citalid.com\/fr\/resources\/ia-generative-cybersecurite\/","title":{"rendered":"IA g\u00e9n\u00e9rative\u00a0: nouvelle arme pour les cyberattaquants ou atout pour la cybers\u00e9curit\u00e9 des organisations\u00a0?"},"content":{"rendered":"L\u2019IA g\u00e9n\u00e9rative est au c\u0153ur de l\u2019actualit\u00e9 et a envahi progressivement notre quotidien, notamment \u00e0 la suite de l\u2019apparition de ChatGPT<\/strong>. Suscitant \u00e0 la fois craintes et enthousiasme, elle est aujourd\u2019hui d\u00e9j\u00e0 utilis\u00e9e dans de nombreux secteurs d\u2019activit\u00e9\u00a0<\/strong>: sant\u00e9 (pose de diagnostics plus rapide, personnalisation des plans de traitement\u2026), \u00e9ducation (cr\u00e9ation de plans d\u2019apprentissage personnalis\u00e9s\u2026), d\u00e9veloppement de logiciels (d\u00e9bogage facilit\u00e9, g\u00e9n\u00e9ration et production d\u2019extraits de code) \u2026\r\n\r\nMais qu\u2019entend-on par IA g\u00e9n\u00e9rative\u00a0?<\/strong> Le centre canadien pour la cybers\u00e9curit\u00e9 propose cette d\u00e9finition\u00a0: \u00ab\u00a0L\u2019IA g\u00e9n\u00e9rative est un type d\u2019intelligence artificielle<\/a> qui g\u00e9n\u00e8re du nouveau contenu en mod\u00e9lisant les caract\u00e9ristiques des donn\u00e9es tir\u00e9es des grands jeux de donn\u00e9es qui alimentent le mod\u00e8le. Alors que les syst\u00e8mes d\u2019IA traditionnels peuvent reconna\u00eetre les mod\u00e8les ou classifier le contenu existant, l\u2019IA g\u00e9n\u00e9rative peut cr\u00e9er du nouveau contenu sous plusieurs formes, comme du texte, une image, un fichier audio ou du code logiciel.\u00a0<\/em>\u00bb\r\n\r\nLes cyberattaquants n\u2019auront pas attendu longtemps avant d’utiliser l\u2019IA g\u00e9n\u00e9rative \u00e0 leur compte : de nombreux modes op\u00e9ratoires d\u2019attaque (MOA) ont rapidement adopt\u00e9 cet outil pour compromettre leurs cibles.<\/strong> Pour autant, ils ne sont pas les seuls \u00e0 avoir compris les avantages de cette technologie. Les acteurs de la cybers\u00e9curit\u00e9 l\u2019ont \u00e9galement int\u00e9gr\u00e9e pour aider les entreprises \u00e0 mieux se prot\u00e9ger et renforcer leur r\u00e9silience.<\/strong> Comment l\u2019IA g\u00e9n\u00e9rative est-elle utilis\u00e9e par les cyberattaquants et les cyberd\u00e9fenseurs\u00a0? Cet article se propose de faire le point sur l\u2019utilisation de cet outil qui d\u00e9fraye la chronique.\r\n

L\u2019IA g\u00e9n\u00e9rative, un outil offensif pour les cyberattaquants<\/h2>\r\nL\u2019IA a commenc\u00e9 \u00e0 \u00eatre utilis\u00e9e par les cyberattaquants en 2020, au moment o\u00f9 l\u2019on a pu observer la d\u00e9mocratisation des IA g\u00e9n\u00e9ratives<\/strong>. Gr\u00e2ce \u00e0 ses capacit\u00e9s, elle peut \u00eatre utilis\u00e9e \u00e0 toutes les \u00e9tapes de la kill chain<\/strong> \u2013 mod\u00e8le couramment utilis\u00e9 pour repr\u00e9senter les \u00e9tapes et le mode op\u00e9ratoire mis en \u0153uvre au cours d\u2019une cyberattaque.\r\n\r\n\"L'IA\r\n\r\n \r\n\r\nReconnaissance et livraison\u00a0<\/strong>:<\/span> A cette \u00e9tape, les cyberattaquants ont souvent recours \u00e0 l\u2019ing\u00e9nierie sociale<\/strong> pour identifier les cibles de valeur ou obtenir des informations cl\u00e9s pour la compromettre. L\u2019IA g\u00e9n\u00e9rative peut \u00eatre utilis\u00e9e pour r\u00e9aliser des op\u00e9rations de phishing<\/a>, notamment pour envoyer massivement des mails convaincants et adapt\u00e9s aux victimes<\/strong>. Cette technologie permet donc la convergence de deux approches qui \u00e9taient jusqu\u2019ici exclusives\u00a0: l\u2019hame\u00e7onnage massif<\/strong>, avec un faible taux de conversion mais un large volume de cibles, et l\u2019hame\u00e7onnage cibl\u00e9<\/strong> (ou spearphishing<\/em>), avec un fort taux de conversion mais un faible volume de cibles. Ces campagnes peuvent inclure des audios ou des deepfakes<\/strong>. On a r\u00e9cemment pu observer ce cas<\/a> : en janvier 2023, \u00e0 Hong-Kong, un employ\u00e9 d\u2019un d\u00e9partement financier d\u2019une multinationale a \u00e9t\u00e9 pi\u00e9g\u00e9 par des attaquants au moyen d\u2019une visioconf\u00e9rence truqu\u00e9e contenant des deepfakes de figures d\u2019autorit\u00e9 de son entreprise, afin de le convaincre de faire un virement de plus de 25 millions de dollars \u00e0 des cybercriminels.\r\n\r\nLes IA g\u00e9n\u00e9ratives peuvent aussi permettre de cr\u00e9er de faux comptes sur les r\u00e9seaux sociaux, de faux sites et des articles de blog cr\u00e9dibles<\/strong>. Pour les cyberattaquants, cela constitue une opportunit\u00e9 d\u2019am\u00e9liorer la diffusion de fausses informations, dans le but de d\u00e9stabiliser une entreprise ou un \u00c9tat<\/strong>. On peut noter que, dans le cadre de l\u2019actuel conflit entre Isra\u00ebl et le Hamas, l\u2019Iran a recours \u00e0 d\u2019importantes campagnes d\u2019influence dans le but de d\u00e9cr\u00e9dibiliser le gouvernement isra\u00e9lien et ses op\u00e9rations militaires, comme le montre l\u2019article Microsoft Security Insider<\/a>. En effet, un important r\u00e9seau de \u00ab\u00a0sockpuppets\u00a0\u00bb<\/strong> (comptes sur les r\u00e9seaux sociaux utilisant une fausse identit\u00e9 ou une identit\u00e9 vol\u00e9e dans le but de diffuser de fausses informations) a \u00e9t\u00e9 d\u00e9ploy\u00e9 et a recours \u00e0 l\u2019IA g\u00e9n\u00e9rative pour produire et diffuser du contenu pro-Hamas en se faisant passer pour des internautes isra\u00e9liens.\r\n\r\nArmement\u00a0:<\/strong> <\/span>Les IA g\u00e9n\u00e9ratives peuvent \u00eatre utilis\u00e9es dans l\u2019am\u00e9lioration de logiciels malveillants<\/strong>, augmentant ainsi leur sophistication et leur performance. On peut par exemple imaginer une capacit\u00e9 \u00e0 s\u2019adapter automatiquement au trafic naturel au sein d\u2019un r\u00e9seau pour s\u2019y fondre<\/strong>, rendant leur d\u00e9tection plus difficile. Et pour les acteurs cybercriminels disposant de peu de connaissances techniques, elle abaisse la barri\u00e8re \u00e0 l\u2019entr\u00e9e n\u00e9cessaire \u00e0 la cr\u00e9ation de maliciels<\/strong>. On peut citer en exemple<\/a> WormGPT, un outil bas\u00e9 sur l\u2019IA g\u00e9n\u00e9rative, qui permet de g\u00e9n\u00e9rer des cyberattaques par phishing ou email professionnels compromis sophistiqu\u00e9es.\r\n\r\nInstallation et parall\u00e9lisation\u00a0:<\/strong><\/span> Les IA g\u00e9n\u00e9ratives disposent de capacit\u00e9s int\u00e9ressantes en termes de scripting<\/strong> pour rendre plus facile voire dynamique certaines op\u00e9rations comme\u00a0: lister les processus en cours sur un ordinateur, adapter ses artefacts au contexte voire trouver des chemins de propagation potentiels \u00e0 partir d’une machine infect\u00e9e<\/strong>.\r\n\r\nCommand & Control\u00a0:<\/strong><\/span> La communication entre le logiciel malveillant et son op\u00e9rateur pourrait \u00eatre rendue plus furtive<\/strong> par une IA g\u00e9n\u00e9rative capable de concevoir des requ\u00eates ad hoc et de limiter la d\u00e9tection de patterns.<\/strong> Cela pourrait repr\u00e9senter un gain de furtivit\u00e9 cons\u00e9quent<\/strong>, surtout combin\u00e9 \u00e0 la capacit\u00e9 \u00e0 imiter une activit\u00e9 r\u00e9seau standard comme vu plus haut.\r\n\r\nActions sur objectifs\u00a0:<\/strong> <\/span>Les capacit\u00e9s des IA g\u00e9n\u00e9ratives peuvent permettre aux logiciels malveillants de pr\u00e9s\u00e9lectionner en autonomie les donn\u00e9es de valeur \u00e0 exfiltrer ou \u00e0 chiffrer, ce qui limite les flux r\u00e9seaux ou les op\u00e9rations suspectes et participe \u00e0 rendre la d\u00e9tection complexe. Une fois les donn\u00e9es exfiltr\u00e9es, les cyberattaquants gagnent du temps car ils sont en mesure de les analyser rapidement, massivement et en plusieurs langues, ce qui n\u00e9cessitait auparavant des comp\u00e9tences sp\u00e9cifiques voire des \u00e9quipes d\u00e9di\u00e9es.\r\n\r\nEn dehors de cela, l\u2019IA g\u00e9n\u00e9rative peut \u00eatre utilis\u00e9e comme un vecteur d\u2019attaque<\/a><\/strong>, notamment \u00e0 des fins de cyberespionnage<\/strong>. En effet, pour le gain d\u2019efficacit\u00e9 qu\u2019elle apporte, l\u2019IA a \u00e9t\u00e9 int\u00e9gr\u00e9e par les entreprises dans leurs process et elle est aujourd\u2019hui utilis\u00e9e par de nombreux professionnels. Si les entreprises peuvent int\u00e9grer des syst\u00e8mes d\u2019IA propri\u00e9taires bas\u00e9s sur des mod\u00e8les pr\u00e9-entra\u00een\u00e9s, elles optent en g\u00e9n\u00e9ral pour des mod\u00e8les d\u2019IA publics, \u00e0 l\u2019image de ChatGPT. Cela peut \u00eatre source de vuln\u00e9rabilit\u00e9 en cas de compromission de serveurs de traitement<\/strong>. En effet, les conversations entre les employ\u00e9s et l\u2019IA peuvent \u00eatre r\u00e9cup\u00e9r\u00e9s par des acteurs malveillants, en raison des informations qu\u2019elles sont susceptibles de contenir<\/strong> : code source interne, informations confidentielles commerciales ou financi\u00e8res, informations destin\u00e9es \u00e0 l\u2019authentification sur des syst\u00e8mes internes…\r\n

L\u2019IA g\u00e9n\u00e9rative, un atout pour am\u00e9liorer la cybers\u00e9curit\u00e9 des entreprises<\/h2>\r\nLes cyberattaquants n\u2019ont (heureusement) pas le monopole de l\u2019IA.<\/strong> Sa puissance peut \u00e9galement \u00eatre utilis\u00e9e pour contrer la cybermenace<\/strong>. Des entreprises et des organisations gouvernementales l\u2019utilisent d\u00e9j\u00e0, \u00e0 l\u2019image de la NSA<\/a>. L\u2019impact de l\u2019IA sur la menace sera compens\u00e9 par son utilisation pour am\u00e9liorer la s\u00e9curit\u00e9 et la r\u00e9silience.\r\n\r\nLes IA g\u00e9n\u00e9ratives sont aujourd\u2019hui tr\u00e8s utilis\u00e9es dans le milieu de l\u2019\u00e9ducation<\/strong>, et elles peuvent \u00eatre une solution efficace pour proposer des formations en cybers\u00e9curit\u00e9 personnalis\u00e9es<\/strong> afin d\u2019am\u00e9liorer les pratiques des collaborateurs dans ce domaine. Elles participent donc \u00e0 la pr\u00e9vention du risque cyber<\/strong> au sein des organisations.\r\n\r\nLes IA g\u00e9n\u00e9ratives peuvent surtout servir \u00e0 \u00e9viter le risque<\/strong>. Elles peuvent notamment \u00eatre utilis\u00e9es pour analyser sa surface d\u2019attaque<\/strong>, notamment humaine, afin de comprendre o\u00f9 se trouve les potentielles failles et ainsi les corriger de fa\u00e7on plus adapt\u00e9e.\r\n\r\nGr\u00e2ce \u00e0 l\u2019automatisation de certaines t\u00e2ches, l\u2019IA permet d\u2019all\u00e9ger la charge de travail des RSSI et des professionnels de la cybers\u00e9curit\u00e9<\/strong>. Cela ne signifie pas qu\u2019elle va remplacer l\u2019humain, mais plut\u00f4t qu\u2019elle va l\u2019appuyer pour qu\u2019il concentre ses efforts sur d\u2019autres t\u00e2ches pour une meilleure s\u00e9curit\u00e9.\r\n\r\nPour cela, elle peut \u00eatre utilis\u00e9e pour des simulations de crise<\/strong>, pour d\u00e9tecter du phishing<\/strong> sur la base du contenu de messages et de pages web, traiter et prioriser des alertes<\/strong> en limitant les faux positifs, simplifier le reporting d\u2019incidents et d\u2019actions de rem\u00e9diation<\/strong>\u2026 En-dehors de cela, les IA g\u00e9n\u00e9ratives peuvent aider \u00e0 se pr\u00e9parer contre les cyberattaques<\/strong> en \u00e9tant utilis\u00e9es lors d\u2019entra\u00eenements, pour g\u00e9n\u00e9rer dynamiquement des situations r\u00e9alistes.\r\n\r\nDans le cadre d\u2019une cyberattaque, l\u2019IA g\u00e9n\u00e9rative peut aider \u00e0 mettre en place une meilleure communication de crise<\/strong>. Dans des moments o\u00f9 le temps de r\u00e9action, le contr\u00f4le des \u00e9l\u00e9ments de langage et la gestion des \u00e9motions s\u2019av\u00e8rent critique, une IA peut aider les \u00e9quipes \u00e0 formuler rapidement des messages clairs<\/strong> et avoir une meilleure organisation<\/strong> pour r\u00e9tablir le bon fonctionnement du syst\u00e8me d\u2019information.\r\n\r\nDans certains cas, l\u2019IA permet aussi de partager le risque cyber<\/strong>, en obtenant une meilleure couverture assurantielle<\/strong>. Elle peut permettre une mod\u00e9lisation automatique des polices d\u2019assurance et des conditions de partage du risque<\/strong>, afin d\u2019analyser la couverture de son organisation et de faire les meilleurs choix.<\/strong> Les capacit\u00e9s des IA g\u00e9n\u00e9ratives pourraient aussi permettre de g\u00e9n\u00e9rer des conditions g\u00e9n\u00e9rales et particuli\u00e8res d\u2019assurance personnalis\u00e9es<\/strong> sur la base d\u2019une analyse de risque pouss\u00e9e, comme le sugg\u00e8re le dernier rapport de l\u2019Enisa<\/a>.\r\n\r\nL\u2019IA g\u00e9n\u00e9rative s\u2019est d\u00e9mocratis\u00e9e en 2023 avec le lancement de ChatGPT. Bien s\u00fbr, ses capacit\u00e9s ont su s\u00e9duire les cyberattaquants, mais elle n\u2019en demeure pas moins un progr\u00e8s significatif dans l\u2019am\u00e9lioration de la cybers\u00e9curit\u00e9. Toutefois, elle ne remplacera pas les professionnels de ce secteur mais pourra exercer un r\u00f4le d\u2019assistance, notamment dans la d\u00e9tection des cybermenaces ou dans la prise de d\u00e9cisions li\u00e9e \u00e0 la s\u00e9curit\u00e9 des informations de l\u2019organisation. <\/em>\r\n

Previous article -><\/span><\/a><\/p>","protected":false},"excerpt":{"rendered":"L\u2019IA g\u00e9n\u00e9rative est au c\u0153ur de l\u2019actualit\u00e9 et a envahi […]","protected":false},"author":175698820,"featured_media":15487,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"content-type":"","rank_math_description":"L'IA g\u00e9n\u00e9rative est-elle une nouvelle arme pour les cyberattaquants ou un atout pour la cybers\u00e9curit\u00e9 des organisations ?","footnotes":""},"categories":[6638],"tags":[],"topic":[6744,6742],"class_list":["post-12360","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-article-de-blog","topic-ia","topic-cti"],"acf":[],"_links":{"self":[{"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/posts\/12360","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/users\/175698820"}],"replies":[{"embeddable":true,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/comments?post=12360"}],"version-history":[{"count":3,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/posts\/12360\/revisions"}],"predecessor-version":[{"id":19915,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/posts\/12360\/revisions\/19915"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/media\/15487"}],"wp:attachment":[{"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/media?parent=12360"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/categories?post=12360"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/tags?post=12360"},{"taxonomy":"topic","embeddable":true,"href":"https:\/\/citalid.com\/fr\/wp-json\/wp\/v2\/topic?post=12360"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}