🛡️ Sécurité IA & risques opérationnels

La distinction est fondamentale et souvent confondue. Le module module Conformité RGPD & AI Act traite les obligations légales : registre des usages, AIPD, formation article 4, dispositif obligations / preuves / responsable. C'est la dimension « droit ». Ce préalable traite les risques opérationnels et sécurité : que se passe-t-il si un agent IA est attaqué, si des données fuient, si un fournisseur ferme, si un employé exfiltre via Shadow AI. C'est la dimension « réalité ».

Une organisation peut être parfaitement conforme RGPD/AI Act tout en étant gravement vulnérable sur le plan sécurité opérationnelle. Inversement, une organisation peut avoir des protections techniques fortes mais des manquements légaux. Les deux dispositifs se complètent — ni l'un ni l'autre n'est suffisant seul.

Trois patterns d'incidents type ressortent des publications publiques OWASP for LLM, recommandations ANSSI sur l'IA générative et fiches CNIL. Cas anonymisés mais représentatifs des familles d'attaque et fuites observées en 2025-2026 dans des structures françaises. Présentés ci-dessous comme grilles de lecture, pas comme cas individuels nominatifs.

Ces trois cas illustrent les trois grandes familles de risques : exfiltration silencieuse (cas 1), fuite par Shadow AI (cas 2), attaque ciblée par prompt injection (cas 3). Toute organisation qui déploie de l'IA est exposée à au moins l'un de ces trois — et la majorité aux trois en parallèle.

Risques liés aux flux de données

• Exfiltration via cloud non-EU : données envoyées à un LLM hébergé hors UE, sans contrôle effectif sur le devenir des contenus. Risque souveraineté.
• Fuite via Shadow AI : usages non cartographiés où les collaborateurs envoient des données sensibles à des services personnels. Risque RGPD + sécurité.
• Persistance des données dans les modèles : entraînement potentiel des modèles sur les contenus utilisateurs (selon les CGU). Difficulté à exiger l'effacement.

Risques liés aux agents et automatisations

• Prompt injection : instructions malveillantes injectées dans les inputs (mail entrant, document scanné, message client) qui détournent l'agent.
• Jailbreak : techniques pour faire dépasser à l'IA ses garde-fous éthiques ou métier (générer du contenu prohibé, divulguer des informations cachées).
• Hallucinations exploitées : un agent qui hallucine produit des informations fausses qui peuvent être utilisées contre l'organisation (engagement contractuel, conseil erroné).
• Actions non maîtrisées : un agent qui peut déclencher des actions externes (paiement, contrat, communication) sans validation humaine = vulnérabilité majeure.

Risques liés aux fournisseurs

• Vendor lock-in : dépendance forte à un fournisseur LLM (OpenAI, Anthropic, Google) qui peut changer ses tarifs, ses CGU, ou cesser le service.
• Fermeture brutale du service : Aleph Alpha (DE) en phase de fermeture commerciale en 2026 = leçon claire pour les organisations qui avaient construit dessus.
• Évolution des modèles : un modèle qui est rétrogradé, rendu obsolète ou modifié peut casser des workflows productifs.

Risques liés à la conformité (croisée avec Conformité RGPD & AI Act)

• Manquement RGPD : traitement non documenté de données personnelles par un LLM cloud.
• Manquement AI Act : usage haut risque sans dispositif (recrutement, crédit, scoring).
• Manquement transparence : utilisateurs finaux non informés de l'usage IA (article 50 AI Act).

Risques agentiques 2026 — un vecteur distinct du LLM classique

Implications pour la PME :

• Risque LLM classique : hallucination, biais, fuite de données via prompt → relativement bien couvert par la stack 2025 (filtrage, sandbox).
• Risque agentique 2026 : un agent peut agir sur un système (envoi de mail, modification fichier, transfert d'argent, accès API). Le risque devient celui de l'action incorrecte, pas seulement de l'output incorrect.

Chiffres McKinsey à intégrer dans tout cadrage gouvernance IA :

• RAI maturité moyenne 2026 : 2,3/5 (vs 2,0 en 2025) — progression mesurable mais lente.
• ~1/3 des organisations à maturité ≥ 3 en stratégie, gouvernance et gouvernance agentique — donc 2/3 des organisations restent à risque.

Action attendue pour la PME : si l'entreprise déploie un agent IA en production avec accès à des systèmes opérationnels (CRM, ERP, mail), elle doit appliquer les patterns techniques de mitigation (voir la fiche Agents en production §8 production-grade et §8.5 failure receipt) et inscrire le projet à un niveau de gouvernance ≥ 3 (auto-diag dans le module Gouvernance des agents IA).

Méthodologie pratique : pour chaque cas d'usage IA, classer les risques par criticité (critique / élevée / modérée / faible) et appliquer la check-list de protection adaptée.

Niveau « Critique » — risques inacceptables sans dispositif lourd

• Données stratégiques (BP, propriété intellectuelle, projets R&D) → solution souveraine EU obligatoire (Mistral, Lucie, on-premise)
• Données personnelles haute sensibilité (santé, dossier RH, données mineurs) → AIPD renforcée + souveraineté EU + chiffrement
• Actions externes financières (paiement, contrat) → validation humaine systématique, plafond montants, double authentification
• Usages haut risque AI Act (recrutement, crédit) → dispositif complet de conformité (cf. Conformité RGPD & AI Act)

Niveau « Élevé » — protections fortes obligatoires

• Données fournisseurs / clients (RIB, contrats) → Mistral ou Pennylane intégré, registre RGPD à jour
• Communications externes engageantes (email commercial, proposition) → validation humaine, garde-fous chiffres
• Agents IA avec actions limitées (mise à jour CRM, planification RDV) → logs + audit hebdo

Niveau « Modéré » — protections standards

• Données opérationnelles non sensibles (rapports internes, analyses publiques) → LLM cloud OK avec mention RGPD
• Usages personnels d'IA pour tâches non sensibles (rédaction, recherche) → cadrage par charte d'usage interne

Niveau « Faible » — pas de risque significatif

• Données publiques ou non confidentielles → tout LLM accessible
• Tâches sans engagement (brainstorming, idéation) → libre

Check-list à valider avant chaque déploiement IA

1. Cartographie des données traitées + classification (sensibilité)
2. Choix du LLM cohérent avec la classification (souveraineté EU si critique / élevé)
3. Dispositif anti-prompt-injection si l'agent reçoit des inputs externes (validation, garde-fous)
4. Validation humaine obligatoire sur toutes les actions critiques (financières, juridiques, RH)
5. Logs centralisés des accès et actions IA, conservés selon politique de rétention RGPD
6. Sandbox / environnement de test pour valider les comportements avant la production
7. Plan de continuité si le fournisseur LLM ferme ou modifie son service (alternative identifiée)
8. Audit hebdomadaire les 4-6 premières semaines, mensuel ensuite
9. Procédure d'incident documentée (qui prévenir, comment réagir, comment communiquer)
10. Charte d'usage interne signée par tous les utilisateurs IA (sensibilisation Shadow AI)

Pour les fondations techniques qui rendent cette check-list applicable (logs, sandbox, monitoring), voir le préalable Préalables data & SI. Pour les cas d'usage où la sécurité opérationnelle est particulièrement critique (validation humaine systématique des actions agents), voir le module Multi-agents par fonction métier. Sur les solutions souveraines à privilégier pour les flux à criticité élevée, voir la fiche Mistral ; sur l'audit éthique structuré, voir EthiqAIS (référentiel français de gouvernance IA).

NIST CAISI — cadre US complémentaire AI Act à anticiper

6 thèmes prioritaires identifiés par le NIST :

1. Agent identity & authentication
2. Auditability & non-repudiation — records des décisions agents + approbations humaines (cohérence directe avec le pattern failure receipt des agents en production)
3. Interoperability — interopérabilité entre stacks agents et MCP
4. Évaluation et validation continue des agents
5. Sécurité de la supply chain agentique (cohérence directe avec le SBOM IA G7/ANSSI)
6. Gouvernance multi-acteurs (fournisseurs, déployeurs, utilisateurs finaux)

Calendrier :

• RFI agent security threats & vulnerabilities : clos le 9 mars 2026
• NCCoE concept paper agents authorization : clos le 2 avril 2026
• Sector listening sessions : tenues en avril 2026 (healthcare, finance, education)
• AI Agent Interoperability Profile prévu Q4 2026

Implication PME : le NIST CAISI est un soft framework (pas obligatoire en France/EU) mais il structure les pratiques internationales. Les PME qui exportent vers les US ou travaillent avec des grandes entreprises US auront à s'aligner. À surveiller pour 2027.

Couple naturel avec :

• SBOM for AI G7/ANSSI (mai 2026) — convergence internationale traçabilité, voir Sécurité agents et MCP §7bis.
• AI Act Article 50 (applicable 2 août 2026) — convergence transparence, voir Conformité RGPD & AI Act.
• Pattern « agent = employé » côté gouvernance managériale : voir Gouvernance des agents IA.