Le RAG (Retrieval-Augmented Generation, « génération augmentée par récupération ») est une architecture d'application d'IA qui, avant de répondre, va chercher dans une base de documents les passages pertinents et les fournit au LLM pour qu'il s'appuie dessus. Le terme vient d'un article de recherche de Meta publié en 2020.
Un pipeline RAG typique comporte trois étapes :
- ingestion : les documents sont découpés en morceaux (chunks), transformés en embeddings et stockés dans une base vectorielle ;
- recherche : pour chaque question, on retrouve les morceaux les plus proches par le sens, souvent combinés à une recherche par mots-clés ;
- génération : le LLM rédige sa réponse à partir de ces extraits, idéalement en citant ses sources.
C'est la méthode standard pour faire répondre une IA sur des données internes ou récentes, et limiter les hallucinations. Elle se met à jour plus facilement qu'un fine-tuning : il suffit d'ajouter des documents.
Pourquoi ça compte quand on recrute
Monter un RAG de démonstration prend une journée ; le rendre fiable prend des mois. Le bon AI Engineer parle de découpage des documents, de qualité de la recherche, de jeux d'évaluation et de gestion des droits d'accès aux documents. Méfiez-vous du candidat qui ne cite que des frameworks : demandez comment il a mesuré et amélioré la pertinence des réponses.