Featured image of post L'IA générative face aux attaques informatiques

L'IA générative face aux attaques informatiques

L'IA générative face aux attaques informatiques

Résumé du document ANSSI - L’IA générative face aux attaques informatiques (2025)

Vue d’ensemble

Ce rapport de l’ANSSI (février 2026) analyse la menace que représente l’IA générative dans le domaine de la cybersécurité et les menaces qui pèsent sur ces systèmes.

Points clés

1. Utilisation de l’IA par les attaquants

Usages constatés :

  • Ingénierie sociale : création de contenus d’hameçonnage, faux profils, sites web frauduleux, deepfakes
  • Développement de malwares : scripts malveillants générés par LLM, codes polymorphiques (PromptLock, Promptflux)
  • Analyse de données : traitement massif de données exfiltrées pour identifier les informations d’intérêt

Profils d’attaquants identifiés :

  • MOA liés à l’Iran, Chine (Charcoal Typhoon), Corée du Nord (Lazarus), Russie
  • Utilisation de Gemini (Google) par au moins 42 groupes d’attaquants entre 2023-2024

Limitations actuelles :

  • Aucune vulnérabilité jour-zéro découverte par IA à ce jour
  • Pas de chaîne d’attaque entièrement automatisée observée

2. Détournement des IA génératives

  • Techniques de jailbreak : contournement des garde-fous via ingénierie de prompts
  • Services malveillants : WormGPT, FraudGPT, EvilGPT vendus ~100$/mois sur forums cybercriminels
  • Services de jailbreak : EscapeGPT, LoopGPT proposés comme services

3. Menaces ciblant les systèmes d’IA

Vecteurs d’attaque potentiels :

  • Empoisonnement des modèles : injection de données corrompues (possible avec seulement 250 documents malveillants)
  • Compromission de la chaîne d’approvisionnement : modèles malveillants sur Hugging Face, exploitation des serveurs MCP
  • Slopsquatting : exploitation des hallucinations d’IA pour diffuser des paquets malveillants
  • Fuites de données : +100 000 comptes ChatGPT compromis en 2022-2023

Conclusion ANSSI

L’IA générative devient un outil courant pour les attaquants de tous niveaux, permettant des attaques à plus grande échelle et plus rapides. Bien qu’aucune attaque totalement autonome n’ait été observée, l’évolution rapide nécessite une réévaluation régulière de la menace.