L'IA générative face aux attaques informatiques

Thu, 05 Feb 2026 00:00:00 +0000

Résumé du document ANSSI - L’IA générative face aux attaques informatiques (2025)

Vue d’ensemble

Ce rapport de l’ANSSI (février 2026) analyse la menace que représente l’IA générative dans le domaine de la cybersécurité et les menaces qui pèsent sur ces systèmes.

Points clés

1. Utilisation de l’IA par les attaquants

Usages constatés :

Ingénierie sociale : création de contenus d’hameçonnage, faux profils, sites web frauduleux, deepfakes
Développement de malwares : scripts malveillants générés par LLM, codes polymorphiques (PromptLock, Promptflux)
Analyse de données : traitement massif de données exfiltrées pour identifier les informations d’intérêt

Profils d’attaquants identifiés :

MOA liés à l’Iran, Chine (Charcoal Typhoon), Corée du Nord (Lazarus), Russie
Utilisation de Gemini (Google) par au moins 42 groupes d’attaquants entre 2023-2024

Limitations actuelles :

Aucune vulnérabilité jour-zéro découverte par IA à ce jour
Pas de chaîne d’attaque entièrement automatisée observée

2. Détournement des IA génératives

Techniques de jailbreak : contournement des garde-fous via ingénierie de prompts
Services malveillants : WormGPT, FraudGPT, EvilGPT vendus ~100$/mois sur forums cybercriminels
Services de jailbreak : EscapeGPT, LoopGPT proposés comme services

3. Menaces ciblant les systèmes d’IA

Vecteurs d’attaque potentiels :

Empoisonnement des modèles : injection de données corrompues (possible avec seulement 250 documents malveillants)
Compromission de la chaîne d’approvisionnement : modèles malveillants sur Hugging Face, exploitation des serveurs MCP
Slopsquatting : exploitation des hallucinations d’IA pour diffuser des paquets malveillants
Fuites de données : +100 000 comptes ChatGPT compromis en 2022-2023

Conclusion ANSSI

L’IA générative devient un outil courant pour les attaquants de tous niveaux, permettant des attaques à plus grande échelle et plus rapides. Bien qu’aucune attaque totalement autonome n’ait été observée, l’évolution rapide nécessite une réévaluation régulière de la menace.