Microsoft publie la 6ème édition du rapport Cyber Signals qui comprend notamment des éléments (en collaboration avec OpenAI) sur comment protéger les plateformes IA des attaques émergentes. On apprend notamment que les cybercriminels se tournent vers l'IA, y compris les LLM, pour améliorer leur productivité et tirer parti de plates-formes susceptibles de favoriser leurs objectifs et leurs techniques d'attaque. Il s'agit notamment de reconnaissance, par exemple en recherchant les secteurs d'activité, les lieux et les relations des victimes potentielles ; de développement de code, notamment en améliorant les scripts logiciels et en développant des logiciels malveillants ; et d'aide à l'apprentissage et à l'utilisation des langages humains et des langages de la machine.
Vous pouvez par exemple obtenir une vision des usages de l'IA et du LLM selon les acteurs à la mode (Salmon Typhoon, Charcoal Typhoon, Crimson Sandstorm, Emerald Sleet, Forest Blizzard, etc.) : Staying ahead of threat actors in the age of AI | Microsoft Security Blog
Microsoft travaille notamment avec la communauté et MITRE pour intégrer ces tactiques, techniques et procédures (TTP) sur le thème du LLM dans le cadre MITRE ATT&CK® ou dans la base de connaissances MITRE ATLAS
(Adversarial Threat Landscape for Artificial-Intelligence Systems).
