Alex Stamos, directeur de la sécurité chez Cognition, affirme que les outils d’IA téléchargeables permettent aux attaquants de trouver des failles logicielles et de les exploiter pendant leurs attaques, ce qui réduit le niveau de compétence nécessaire pour pénétrer de grandes entreprises. Dans un entretien pour l’émission Decoder de The Verge, il a décrit une succession de compromissions dont les conséquences peuvent se propager d’un fournisseur de services d’IA aux entreprises qui utilisent les logiciels de ses clients.
Cet avertissement concerne particulièrement les organisations qui dépendent de services d’IA et d’outils de développement interconnectés. Stamos a décrit une chaîne présumée impliquant Fireworks et Cursor qui, selon lui, a exposé 5 000 entreprises à des intrusions potentielles. Il a aussi indiqué séparément qu’un outil d’attaque open source avait été utilisé contre trois banques sud-coréennes et environ 200 autres entreprises pendant la semaine de l’entretien.
Ces affirmations viennent de Stamos, qui est également chargé de cours au Cyber Policy Center de l’université Stanford. Il a expliqué aider certaines entreprises touchées par l’intermédiaire de Cognition, même si l’entreprise n’est pas un prestataire de réponse aux incidents.
Une intrusion qui se propage par les fournisseurs
Stamos décrit octobre comme une période de pression constante pour les équipes de sécurité, en citant de graves bogues touchant PHP et Node, ainsi que des intrusions chez une série d’entreprises liées à l’IA, dont des fournisseurs de cloud spécialisés. Il évoque aussi un piratage de Binance, qu’il qualifie de plus grand vol de l’histoire.
Son exemple le plus concret concerne Fireworks, fournisseur de services d’IA pour d’autres entreprises. Selon son récit, les attaquants ont dérobé des clés d’API (des identifiants permettant à un logiciel d’accéder à un service) chez Fireworks et s’en sont servis pour pénétrer dans Cursor. Ils auraient ensuite diffusé un plugin malveillant via Cursor, qui a atteint 5 000 autres entreprises, soit 5 000 intrusions potentielles.
La nuance compte : son récit décrit des compromissions potentielles en aval, et non 5 000 intrusions confirmées et réussies. Il montre aussi comment un identifiant de service volé peut permettre à une intrusion de dépasser l’entreprise initialement visée.
Stamos attribue la vague plus large à divers groupes. Il a évoqué des organisations de piratage étatiques et des opérateurs criminels, mais il n’a pas attribué toute cette séquence à un seul acteur.
Trouver des failles pendant l’attaque
L’argument central de Stamos est que l’IA modifie l’ordre et l’économie d’une intrusion.
Traditionnellement, explique-t-il, les attaquants étudient un logiciel, découvrent une vulnérabilité et écrivent un exploit (un code qui tire parti de la faille) avant de le déployer contre une organisation choisie ou contre de nombreuses cibles. Selon lui, les systèmes d’IA peuvent désormais analyser des cibles, repérer des bogues et écrire des exploits pendant qu’une attaque est en cours.
Cela raccourcit ce que les spécialistes de la sécurité appellent la « kill chain » : les étapes qu’un attaquant franchit pour atteindre un objectif, comme voler des informations, perturber un système ou se procurer de l’argent. Stamos soutient que les modèles à poids ouverts, dont les paramètres sont accessibles à d’autres pour être exécutés, peuvent désormais automatiser une grande partie de ce processus.
Il a notamment cité ARTEX, qu’il décrit comme un outil open source chinois dont une traduction anglaise est disponible sur GitHub. Selon lui, l’associer à un modèle comme « obliterated GLM-5.3 » pourrait permettre des intrusions dans un nombre surprenant d’organisations. Ses chiffres concernant les banques sud-coréennes et environ 200 entreprises supplémentaires étaient présentés comme des exemples d’utilisation de cet outil.
Stamos a également indiqué faire tourner une version quantifiée de ce modèle sur son M5 Mac Ultra Studio. Selon lui, la capacité des attaquants à exécuter eux-mêmes des modèles réduit leur dépendance aux modèles de pointe hébergés, qui disposent de contrôles de protection et dont les journaux pourraient être accessibles aux forces de l’ordre.
Remise en cause des certitudes du secteur de la sécurité
Stamos compare la situation actuelle aux années 1990, lorsque des outils accessibles au public pouvaient exposer des failles dans un grand nombre d’entreprises. La différence, selon lui, tient au fait que la société dépend aujourd’hui bien davantage de systèmes connectés à Internet, tandis que les attaquants peuvent automatiser leur travail et opérer depuis des lieux hors de portée effective des forces de l’ordre.
Il fait remonter l’industrie moderne de la sécurité logicielle au début des années 2000 et à la note « trustworthy computing » de Bill Gates. Les entreprises ont recruté d’anciens hackers, tandis que les pratiques de divulgation responsable, les programmes de primes aux bogues et les cabinets de conseil en sécurité sont devenus une industrie de plusieurs milliards de dollars.
Selon Stamos, ce système reposait en partie sur une expertise rare : relativement peu de personnes pouvaient découvrir des vulnérabilités complexes, développer des codes d’exploitation sophistiqués ou faire de la rétro-ingénierie sur des correctifs de sécurité. Les organisations d’attaque avaient aussi besoin de personnes capables de transformer ces recherches en opérations. Il soutient que l’IA affaiblit ces deux contraintes en donnant à des opérateurs moins qualifiés accès à des capacités jusque-là concentrées entre les mains de spécialistes. Il cite aussi le bitcoin comme un changement antérieur ayant modifié l’économie du crime, en rendant le blanchiment d’argent plus accessible aux acteurs techniquement compétents.
Pour les défenseurs, la réponse concrète décrite par Stamos consiste à utiliser des outils d’IA pour corriger les failles mises au jour par les intrusions. Il a indiqué que Cognition aide certaines entreprises touchées à corriger leurs bogues après les attaques.
