Les guardrails (garde-fous) sont l'ensemble des contrôles placés autour d'un modèle d'IA en production pour encadrer ce qu'il reçoit, ce qu'il produit et ce qu'il a le droit de faire.
Ils agissent à plusieurs niveaux. En entrée : détecter les tentatives d'injection de prompt, filtrer les contenus interdits ou les données personnelles. En sortie : vérifier le format, bloquer les contenus toxiques ou les fuites d'informations sensibles, contrôler que la réponse reste dans le périmètre prévu. Pour un agent : limiter les outils accessibles, demander une validation humaine avant une action irréversible.
Ils sont nécessaires parce qu'un LLM n'est pas déterministe : la même demande peut donner des réponses différentes, et un utilisateur malveillant peut chercher à le détourner.
On les met en œuvre avec des règles codées, des modèles de classification dédiés (comme Llama Guard), des bibliothèques (Guardrails AI, NeMo Guardrails) ou les services de modération des fournisseurs et des clouds.
Pourquoi ça compte quand on recrute
C'est un sujet de AI Engineer confirmé, à la frontière de la sécurité applicative. En entretien, demandez comment le candidat a testé ses garde-fous (tentatives d'attaque, jeux de tests adverses) et ce qu'ils coûtent en latence. Le piège : croire qu'une consigne dans le prompt système suffit à protéger une application.