{"id":2319,"date":"2025-11-17T20:25:55","date_gmt":"2025-11-17T19:25:55","guid":{"rendered":"https:\/\/artificiellementintelligent.eu\/?p=2319"},"modified":"2025-11-17T20:25:55","modified_gmt":"2025-11-17T19:25:55","slug":"detection-d-une-premiere-cyberattaque-quasi-autonome-orchestree-par-des-outils-d-ia","status":"publish","type":"post","link":"https:\/\/artificiellementintelligent.eu\/index.php\/2025\/11\/17\/detection-d-une-premiere-cyberattaque-quasi-autonome-orchestree-par-des-outils-d-ia\/","title":{"rendered":"D\u00e9tection d&rsquo; une premi\u00e8re cyberattaque quasi-autonome orchestr\u00e9e par des outils d&rsquo; IA"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Un d\u00e9veloppement majeur vient de se produire sur le plan de la cybers\u00e9curit\u00e9 : la premi\u00e8re cyberattaque largement automatis\u00e9e dans laquelle les mod\u00e8les de langage jouent un r\u00f4le d&rsquo; orchestrateur de haut niveau a \u00e9t\u00e9 r\u00e9cemment d\u00e9jou\u00e9e par <em>Anthropic<\/em>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En effet, <em>Anthropic<\/em> a d\u00e9tect\u00e9 \u00e0 la mi-septembre une activit\u00e9 suspecte li\u00e9e \u00e0 l&rsquo; utilisation de l&rsquo; outil <em>Claude Code<\/em>, un agent intelligent principalement destin\u00e9 \u00e0 la programmation mais dont la grande flexibilit\u00e9 offre des possibilit\u00e9s de d\u00e9tournement&#8230;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ce n&rsquo; est pas <em>Anthropic<\/em> lui-m\u00eame qui \u00e9tait l&rsquo; objet de l&rsquo; attaque mais bien une trentaine de firmes technologiques, financi\u00e8res et industrielles occidentales ainsi que des administrations publiques. L&rsquo; attaquant a \u00e9t\u00e9 identifi\u00e9 avec un haut niveau de confiance : il s&rsquo; agit d&rsquo; un groupe actif dans le cyberespionnage li\u00e9 au gouvernement chinois.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Jusqu&rsquo; ici les utilisations de l&rsquo; IA g\u00e9n\u00e9rative dans la cybers\u00e9curit\u00e9 relevaient plut\u00f4t de la fourniture de conseils interactifs de type \u00ab\u00a0chatbot\u00a0\u00bb ou \u00e9ventuellement d&rsquo; agents qui ont acc\u00e8s \u00e0 des outils informatiques sp\u00e9cialis\u00e9s, mais interagissent avec les humains \u00e0 chaque \u00e9tape.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pour la prem\u00e8re fois, l&rsquo; IA a men\u00e9 de son propre chef un large \u00e9ventail d&rsquo;activit\u00e9s, depuis l&rsquo; analyse de vuln\u00e9rabilit\u00e9 jusqu&rsquo;\u00e0 l&rsquo; exfiltration des donn\u00e9es recherch\u00e9es. Les superviseurs humains ne sont intervenus que ponctuellement afin de valider les r\u00e9sultats interm\u00e9diaires des op\u00e9rations, avant de passer \u00e0 la phase suivante. <em>Anthropic<\/em> estime que 80 \u00e0 90% du travail de cyberattaque a \u00e9t\u00e9 effectu\u00e9 de mani\u00e8re autonome.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cela marque le premier cas document\u00e9 d&rsquo; IA agentique ayant r\u00e9ussi \u00e0 extraire des donn\u00e9es sensibles appartenant \u00e0 des cibles bien prot\u00e9g\u00e9es par cyberattaque.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Anthropic a d\u00e9cid\u00e9 de publier les d\u00e9tails de son enqu\u00eate afin de sensibiliser le secteur \u00e0 l&rsquo; \u00e9volution de la menace. En effet, d&rsquo; autres mod\u00e8les pourraient \u00eatre exploit\u00e9s de la m\u00eame mani\u00e8re, et ce d&rsquo; autant plus que l&rsquo; attaque n&rsquo; a pas n\u00e9cessit\u00e9 de d\u00e9veoppements complexes : elle s&rsquo; est content\u00e9s de combiner astucieusement des outils existants. Pas besoin de disposer de moyens \u00e9normes pour pr\u00e9parer ce type d&rsquo; op\u00e9ration.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">1. Comment est-ce possible ?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">L&rsquo; attaque s&rsquo; est appuy\u00e9e sur plusieurs \u00e9volutions r\u00e9centes des mod\u00e8les d&rsquo; IA qui n&rsquo;existaient pas ou qui \u00e9taient \u00e0 leurs balbutiements il y a seulement un an :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><em><strong>Raisonnement:<\/strong><\/em> Le niveau g\u00e9n\u00e9ral de capacit\u00e9 des mod\u00e8les a augment\u00e9 au point qu&rsquo; ils peuvent suivre des instructions complexes et comprendre le contexte de mani\u00e8re \u00e0 rendre possibles des t\u00e2ches sophistiqu\u00e9es. De plus, plusieurs de leurs comp\u00e9tences sp\u00e9cifiques bien d\u00e9velopp\u00e9es, en particulier le codage logiciel, se pr\u00eatent \u00e0 une utilisation dans le cadre de cyberattaques.<br><\/li>\n\n\n\n<li><em><strong>Autonomie:<\/strong><\/em> Les mod\u00e8les peuvent agir en tant qu&rsquo; agents, c&rsquo;est-\u00e0-dire qu&rsquo; ils peuvent fonctionner en boucle, o\u00f9 ils prennent des mesures autonomes, encha\u00eenent des t\u00e2ches et prennent des d\u00e9cisions avec une intervention humaine minimale et occasionnelle. Les mod\u00e8les r\u00e9cents sont capables d&rsquo; ex\u00e9cuter un nombre importants de boucles \u00ab\u00a0Planification-Action-Analyse\u00a0\u00bb successives avant de devoir repasser la main \u00e0 un humain.<br><\/li>\n\n\n\n<li><strong><em>Outillage:<\/em> <\/strong>Les mod\u00e8les ont acc\u00e8s \u00e0 un large \u00e9ventail d outils logiciels (souvent via le protocole ouvert <em>*Model Context Protocol*<\/em>). Ils peuvent d\u00e9sormais effectuer des recherches sur le web, r\u00e9cup\u00e9rer des donn\u00e9es et r\u00e9aliser de nombreuses autres actions qui \u00e9taient auparavant l&rsquo; apanage des op\u00e9rateurs humains. Dans le cas des cyberattaques, ces outils peuvent inclure des craqueurs de mots de passe, des scanners de r\u00e9seau et d&rsquo; autres logiciels li\u00e9s \u00e0 la s\u00e9curit\u00e9.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><em>Claude Code<\/em> est l&rsquo; outil parfait pour ce genre d&rsquo; op\u00e9ration. Il s&rsquo; agit d&rsquo; un programme \u00ab\u00a0agent\u00a0\u00bb hautement flexible qui peut faire interagir des mod\u00e8les de langages jouant diff\u00e9rents r\u00f4les et aux comp\u00e9tences vari\u00e9es pour atteindre un but sp\u00e9cifi\u00e9 par l&rsquo; utilisateur, tout en ayant acc\u00e8s \u00e0 des outils via le protocole MCP. Les r\u00f4les pouvant \u00eatre d\u00e9finis en langage naturel de mani\u00e8re assez libre, et le potentiel applicatif est extr\u00eamement large.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">2. Description du m\u00e9canisme<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Le m\u00e9canisme d&rsquo;attaque utilisait <em>Claude Code<\/em> et le protocole <em>MCP<\/em> (Model Context Protocol) pour se connecter aux outils existants d&rsquo; analyse et de d\u00e9couverte du r\u00e9seau et de tests d&rsquo;intrusion.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ce genre d&rsquo; attaque requiert une succession d&rsquo; op\u00e9rations bien orchestr\u00e9es; le travail a donc \u00e9t\u00e9 divis\u00e9 en t\u00e2ches techniques distinctes qui semblaient l\u00e9gitimes prises isol\u00e9ment. Ensemble, elles permettaient de mener \u00e0 bien des cha\u00eenes d&rsquo; attaques compl\u00e8tes. Les pirates ont pr\u00e9tendu \u00eatre une entreprise de cybers\u00e9curit\u00e9 utilisant ces outils de piratage \u00e0 des fins l\u00e9gitimes pour tenter de trouver des vuln\u00e9rabilit\u00e9s chez leurs clients dans le cadre d&rsquo; activit\u00e9s de tests d&rsquo;intrusion.<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"1590\" height=\"856\" src=\"https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117a.png\" alt=\"\" class=\"wp-image-2322\" srcset=\"https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117a.png 1590w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117a-300x162.png 300w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117a-1024x551.png 1024w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117a-768x413.png 768w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117a-1536x827.png 1536w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117a-676x364.png 676w\" sizes=\"auto, (max-width: 1590px) 100vw, 1590px\" \/><figcaption class=\"wp-element-caption\">Figure 1 : Diagramme architectural de l&rsquo; op\u00e9ration (Cr\u00e9dit : Anthropic)<\/figcaption><\/figure>\n<\/div>\n\n\n<p class=\"wp-block-paragraph\">Une fois la br\u00e8che \u00e9tablie,<em>Claude Code<\/em> fonctionnait de mani\u00e8re autonome :<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">il cartographiait la topologie du r\u00e9seau, puis analysait son contenu pour d\u00e9couvrir les services internes et rechercher des informations pr\u00e9cieuses en identifiant les bases de donn\u00e9es de valeur. Il extrayait \u00e9galement les identifiants et \u00e9tablissait un acc\u00e8s permanent, puis analysait les donn\u00e9es extraites pour en d\u00e9terminer la valeur en termes de renseignements et exfiltrait celles jug\u00e9es les plus pr\u00e9cieuses. Tout cela avec une supervision humaine limit\u00e9e.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La figure 2 d\u00e9crit le d\u00e9roulement du sc\u00e9nario offensif qui a \u00e9t\u00e9 \u00e9tabli, et qui reprend les six phases suivantes :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Phase 1<\/strong> : Initialisation de la campagne et s\u00e9lection des cibles \u00e0 attaquer;<\/li>\n\n\n\n<li><strong>Phase 2<\/strong> : Reconnaissance de l&rsquo; infrastructure de la cible et de vuln\u00e9rabilit\u00e9s potentielles;<\/li>\n\n\n\n<li><strong>Phase 3<\/strong> : D\u00e9couverte active et validation des vuln\u00e9rabilit\u00e9s;<\/li>\n\n\n\n<li><strong>Phase 4<\/strong> : Identification dans les syst\u00e8mes et augmentation des privil\u00e8ges d&rsquo; acc\u00e8s;<\/li>\n\n\n\n<li><strong>Phase 5<\/strong> : Collecte et exfiltration des donn\u00e9es;<\/li>\n\n\n\n<li><strong>Phase 6<\/strong> : Documentation et cl\u00f4ture.<\/li>\n<\/ul>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"1416\" height=\"1156\" src=\"https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117b.png\" alt=\"\" class=\"wp-image-2324\" srcset=\"https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117b.png 1416w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117b-300x245.png 300w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117b-1024x836.png 1024w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117b-768x627.png 768w, https:\/\/artificiellementintelligent.eu\/wp-content\/uploads\/2025\/11\/image-20251117b-676x552.png 676w\" sizes=\"auto, (max-width: 1416px) 100vw, 1416px\" \/><figcaption class=\"wp-element-caption\">Figure 2 : Vue des phases du processus d&rsquo; attaque (Cr\u00e9dit : Anthropic)<\/figcaption><\/figure>\n<\/div>\n\n\n<p class=\"wp-block-paragraph\">Le d\u00e9tail des op\u00e9rations ex\u00e9cut\u00e9es lors de chaque phase se trouve dans le document d&rsquo; <em>Anthropic<\/em> en r\u00e9f\u00e9rence.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">3. Implications pour la cybers\u00e9curit\u00e9<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">L&rsquo; attaque a \u00e9t\u00e9 d\u00e9tect\u00e9e parce que <em>Claude Code<\/em> fait appel aux mod\u00e8les de langage h\u00e9berg\u00e9s par <em>Anthropic<\/em> et le trafic \u00e9chang\u00e9 (le prompt et les r\u00e9ponses) est surveill\u00e9 par des programmes d&rsquo; identification de menaces qui visent \u00e0 d\u00e9tecter des activit\u00e9s non autoris\u00e9es comme les cyberattaques.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cette attaque constitue un point d&rsquo; inflexion pour la cybers\u00e9curit\u00e9 : ce type d&rsquo; op\u00e9ration autonome en d\u00e9tournant des outils existants permet \u00e0 des acteurs malveillants disposant de ressources limit\u00e9es de lancer des attaques sophistiqu\u00e9es. Ce type de capacit\u00e9 existe probablement dans tous les mod\u00e8les d&rsquo; IA de pointe, y compris certains mod\u00e8les <em>open-weights<\/em> pour lequel la surveillance d\u00e9crite plus haut n&rsquo; est pas applicable puisqu&rsquo; ils sont ex\u00e9cutables localement.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Il subsiste cependant une limitation \u00e0 ce type d&rsquo; op\u00e9ration : <em>Claude code<\/em> avait des hallucinations pendant les op\u00e9rations offensives. Il revendiquait parfois des identifiants qui ne fonctionnaient pas ou identifiait des \u00ab d\u00e9couvertes critiques \u00bb qui n&rsquo;\u00e9taient que des informations publiques. les hallucinations de l&rsquo; IA restent un obstacle aux cyberattaques enti\u00e8rement autonomes et un humain doit encore assurer p\u00e9riodiquement une supervision de haut niveau pour s&rsquo;assurer que le processus reste sur la bonne voie.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Il faut aussi garder la t\u00eate froide et noter que des m\u00e9canismes pratiquement identiques peuvent \u00eatre utilis\u00e9s en <em>cyber-d\u00e9fense<\/em> pour identifier les vuln\u00e9rabiliti\u00e9s d&rsquo; une firme afin de pouvoir les r\u00e9soudre avant qu&rsquo; un cyber-attaquant ne tente d&rsquo; en profiter.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Quoi qu&rsquo;il en soit, le monde de la cybers\u00e9curit\u00e9 va devoir s&rsquo; adapter rapidement.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Sources et r\u00e9f\u00e9rences<\/h2>\n\n\n\n<ul class=\"wp-block-list\">\n<li><em>Disrupting the first reported AI-orchestrated cyber espionage campaign<\/em>, publi\u00e9 par Anthropic le 13 novembre 2025 : <a href=\"https:\/\/www.anthropic.com\/news\/disrupting-AI-espionage\">https:\/\/www.anthropic.com\/news\/disrupting-AI-espionage<\/a><br><\/li>\n\n\n\n<li>Thread X r\u00e9sum\u00e9 de Karl Mehta sur le m\u00eame sujet : <a href=\"https:\/\/x.com\/karlmehta\/status\/1989698733957943398?s=20\">https:\/\/x.com\/karlmehta\/status\/1989698733957943398?s=20<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Un d\u00e9veloppement majeur vient de se produire sur le plan de la cybers\u00e9curit\u00e9 : la premi\u00e8re cyberattaque largement automatis\u00e9e dans laquelle les mod\u00e8les de langage jouent un r\u00f4le d&rsquo; orchestrateur de haut niveau a \u00e9t\u00e9 r\u00e9cemment d\u00e9jou\u00e9e par Anthropic. En effet, Anthropic a d\u00e9tect\u00e9 \u00e0 la mi-septembre une activit\u00e9 suspecte li\u00e9e \u00e0 l&rsquo; utilisation de [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4,7,12],"tags":[],"class_list":["post-2319","post","type-post","status-publish","format-standard","hentry","category-bon-a-savoir","category-generalites","category-modeles-de-langage","post-preview"],"_links":{"self":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/posts\/2319","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/comments?post=2319"}],"version-history":[{"count":6,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/posts\/2319\/revisions"}],"predecessor-version":[{"id":2327,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/posts\/2319\/revisions\/2327"}],"wp:attachment":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/media?parent=2319"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/categories?post=2319"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/tags?post=2319"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}