Fenêtre de contexte
La fenêtre de contexte est la quantité d’informations qu’un modèle peut prendre en compte en une seule fois.
Ce que cela veut dire
Elle inclut les consignes, l’historique de la conversation, les documents fournis et la réponse. Au-delà, certaines informations doivent être résumées ou retirées.
C’est pourquoi une très longue conversation peut perdre des détails, et pourquoi il vaut mieux fournir seulement ce qui est utile.
Un exemple concret
Pour analyser un gros dossier, on ne transmet que les passages pertinents plutôt que l’intégralité de chaque document.
Termes liés
Token
Un token est un morceau de texte traité par un modèle, souvent un mot ou une partie de mot. Il sert aussi d’unité de facturation.
RAG
Le RAG consiste à rechercher des passages pertinents dans vos documents et à les transmettre au modèle pour qu’il réponde à partir d’eux.
Prompt
Un prompt est la consigne donnée à une IA : la demande, le contexte, les contraintes et le format attendu.
Vous cherchez par où commencer avec l’IA ? J’observe une tâche réelle et nous définissons un premier périmètre à contrôler.
