Context Window
Context Window = la mémoire de travail du modèle
La context window (fenêtre de contexte) est la quantité maximale de texte qu'un modèle de langage peut traiter en une seule fois, mesurée en tokens : consignes, historique de conversation, documents fournis et réponse générée compris.
Tout ce qui dépasse cette limite est ignoré ou doit être résumé, découpé ou retrouvé à la demande. Les fenêtres ont fortement grandi : certains modèles dépassent le million de tokens, de quoi y faire tenir plusieurs livres ou une base de code entière.
Une grande fenêtre ne règle pas tout. Plus on charge le contexte, plus chaque appel coûte cher et prend du temps, et les modèles exploitent souvent moins bien les informations placées au milieu d'un long texte (effet lost in the middle). D'où l'intérêt du RAG et de la gestion fine du contexte : ne donner au modèle que ce qui est utile.
Le sujet est central pour les agents IA, qui accumulent vite des résultats d'outils et doivent trier ce qu'ils gardent en mémoire.
Pourquoi ça compte quand on recrute
Un AI Engineer sérieux sait expliquer comment il décide quoi mettre dans le contexte, et à quel coût. Bonne question d'entretien : « Votre document dépasse la fenêtre, que faites-vous ? ». Une réponse qui se limite à « on prend un modèle plus grand » montre une connaissance de surface. Un vrai niveau parle de découpage, de récupération ciblée, de résumé et de mesure de la qualité.