Un assistant résume un document, consulte une page ou analyse un message. Le contenu peut inclure des consignes conçues pour détourner son comportement. Lorsqu’elles proviennent d’une source externe traitée par l’assistant, on parle notamment d’injection indirecte.
Pourquoi les outils connectés changent l’enjeu
Le risque ne se limite pas à une mauvaise réponse. Si l’assistant peut accéder à des informations sensibles ou déclencher des actions, une consigne malveillante peut chercher à exploiter ces capacités. L’OWASP souligne que l’impact dépend du contexte métier et de l’autonomie accordée au système.
Limiter les conséquences possibles
Définissez les données accessibles, les outils autorisés et les actions qui nécessitent une validation humaine. Les contrôles d’autorisation des systèmes connectés doivent rester indépendants du texte produit par le modèle. La recherche documentaire ou l’ajout de consignes ne garantissent pas, seuls, l’élimination du risque.
Tester un usage concret
Exemple fictif : un assistant prépare une réponse à partir de pièces jointes. Un test contrôlé vérifie qu’un document contenant une demande hors sujet ne peut pas provoquer un envoi externe sans validation.
Le regard Aztechnix
Commencez par un cas d’usage limité, avec peu de privilèges et des traces exploitables. Faites examiner les actions proposées avant d’élargir l’autonomie. L’évaluation doit porter sur ce que le système peut réellement faire, et pas seulement sur la qualité apparente de ses réponses.
Source et méthode
OWASP GenAI — LLM01:2025 Prompt Injection. Source consultée le 1er novembre 2026. Synthèse et recommandations pratiques : Aztechnix. Les mises en situation sont fictives ; elles ne constituent pas des références clients.