Les intelligences artificielles génératives comme ChatGPT, Claude, Gemini ou Copilot sont désormais utilisées dans de nombreux domaines : service client, développement logiciel, analyse documentaire, assistance à la décision ou automatisation des tâches.

Mais leur popularité attire également les cybercriminels. Contrairement aux logiciels traditionnels, les modèles de langage (LLM) présentent de nouvelles surfaces d’attaque qui nécessitent des approches de sécurité spécifiques.

Voici les 10 principales attaques qui ciblent aujourd’hui les IA génératives et les bonnes pratiques pour s’en protéger.

1. Prompt Injection

Le Prompt Injection consiste à injecter des instructions malveillantes dans les données analysées par une IA afin d’influencer son comportement.

Ces instructions peuvent être dissimulées dans :

une page web ;
un document PDF ;
un email ;
une base documentaire ;
un fichier partagé.

Si l’application est mal conçue, l’IA peut considérer ces instructions comme légitimes.

Risques

fuite d’informations ;
réponses manipulées ;
actions non autorisées ;
contournement des règles internes.

2. Jailbreak

Le Jailbreak vise à contourner les protections intégrées au modèle de langage.

L’objectif est de convaincre l’IA d’ignorer ses garde-fous afin d’obtenir une réponse normalement interdite.

Cette technique repose sur des formulations complexes et des scénarios destinés à tromper le modèle.

Risques

génération de contenus interdits ;
contournement des politiques de sécurité ;
exploitation abusive des assistants IA.

3. Data Poisoning

Le Data Poisoning consiste à introduire de fausses informations dans les données utilisées pour entraîner ou alimenter une intelligence artificielle.

Le modèle apprend alors à partir de données volontairement biaisées.

Risques

réponses incorrectes ;
biais importants ;
perte de fiabilité ;
manipulation des décisions.

4. Fuite de données sensibles

Les utilisateurs peuvent transmettre sans le vouloir :

contrats ;
données clients ;
informations financières ;
documents confidentiels ;
code source.

Si ces données sont utilisées sans précaution, elles peuvent être exposées ou réutilisées de manière inappropriée.

Risques

violation de confidentialité ;
non-conformité réglementaire ;
atteinte à l’image de l’entreprise.

5. Vol de prompts système

Les applications IA utilisent souvent un prompt système qui définit le rôle, les règles et le comportement du modèle.

Des attaquants cherchent parfois à le révéler afin de comprendre le fonctionnement interne de l’application ou de faciliter d’autres attaques.

Risques

divulgation de la logique métier ;
simplification des attaques futures ;
perte d’avantage concurrentiel.

6. Hallucinations exploitées

Les modèles de langage peuvent produire des informations inexactes présentées comme vraies.

Des attaquants exploitent cette faiblesse pour diffuser de fausses informations ou influencer des décisions.

Risques

désinformation ;
erreurs métiers ;
mauvaise prise de décision.

7. Attaques contre les systèmes RAG

Les solutions Retrieval-Augmented Generation (RAG) permettent à une IA d’interroger des documents internes avant de répondre.

Si un document malveillant est ajouté à cette base de connaissances, il peut influencer les réponses du modèle.

Risques

Prompt Injection indirect ;
fuite de données ;
réponses biaisées ;
perte de confiance.

8. Vol ou imitation de modèles

Les cybercriminels peuvent tenter de reproduire le comportement d’un modèle propriétaire en effectuant un grand nombre de requêtes.

Cette technique est appelée Model Extraction.

Risques

copie d’un service IA ;
perte de propriété intellectuelle ;
concurrence déloyale.

9. Utilisation abusive des agents IA

Les nouveaux agents IA peuvent :

envoyer des emails ;
créer des fichiers ;
modifier des bases de données ;
interagir avec des applications métiers.

Si un attaquant influence leurs décisions, ils peuvent réaliser des actions non souhaitées.

Risques

suppression de données ;
envoi d’informations sensibles ;
erreurs opérationnelles ;
automatisation d’actions malveillantes.

10. Ingénierie sociale assistée par IA

Les cybercriminels utilisent désormais l’intelligence artificielle pour créer :

des emails de phishing très crédibles ;
des faux documents ;
des conversations automatisées ;
des messages personnalisés ;
des contenus multilingues.

L’IA améliore considérablement la qualité et la rapidité de ces attaques.

Risques

phishing ciblé ;
fraude au président ;
usurpation d’identité ;
compromission des comptes.

Comment protéger une IA générative ?

La sécurité d’une IA repose autant sur sa configuration que sur son environnement.

Voici quelques bonnes pratiques essentielles :

limiter les droits accordés aux assistants IA ;
séparer clairement les instructions des données analysées ;
filtrer les contenus provenant de sources externes ;
mettre en place une validation humaine pour les actions sensibles ;
contrôler les accès aux documents confidentiels ;
sensibiliser les utilisateurs aux risques liés à l’IA ;
tester régulièrement les applications contre des scénarios d’attaque ;
surveiller les journaux d’activité et les comportements inhabituels.

Les entreprises sont-elles concernées ?

Oui, et pas seulement les grandes organisations.

Les PME utilisent de plus en plus :

ChatGPT Enterprise ;
Microsoft Copilot ;
Google Gemini ;
Claude ;
assistants métiers ;
chatbots internes ;
agents IA.

Chaque connexion entre une IA et les données de l’entreprise représente une nouvelle surface d’attaque.

Adopter une IA sans stratégie de sécurité revient à ouvrir une porte supplémentaire vers le système d’information.

Conclusion

Les intelligences artificielles génératives offrent des opportunités considérables, mais elles introduisent également de nouveaux risques de cybersécurité. Prompt Injection, Jailbreak, Data Poisoning, Model Extraction ou attaques contre les systèmes RAG illustrent l’évolution rapide des menaces.

Pour exploiter pleinement le potentiel de l’IA, les entreprises doivent intégrer la sécurité dès la conception de leurs projets. Cela passe par une gouvernance adaptée, des contrôles techniques, une gestion rigoureuse des accès et une sensibilisation des utilisateurs.

La cybersécurité des IA génératives n’est plus une option : elle est devenue un élément essentiel de toute stratégie numérique.