+1 pour "l'ingénierie du contexte" plutôt que "l'ingénierie des invites". Les gens associent les invites à de courtes descriptions de tâches que vous donneriez à un LLM dans votre utilisation quotidienne. Alors que dans chaque application LLM de qualité industrielle, l'ingénierie du contexte est l'art et la science délicats de remplir la fenêtre de contexte avec juste les bonnes informations pour l'étape suivante. Science, car bien faire cela implique des descriptions de tâches et des explications, quelques exemples, RAG, des données connexes (possiblement multimodales), des outils, l'état et l'historique, la compression... Trop peu ou sous une forme incorrecte et le LLM n'a pas le bon contexte pour une performance optimale. Trop ou trop peu pertinent et les coûts du LLM pourraient augmenter et la performance pourrait diminuer. Bien faire cela est hautement non trivial. Et art, à cause de l'intuition directrice autour de la psychologie des LLM et des esprits des gens. En plus de l'ingénierie du contexte elle-même, une application LLM doit : - décomposer les problèmes de manière appropriée en flux de contrôle - remplir les fenêtres de contexte de manière appropriée - dispatcher des appels aux LLM du bon type et de la bonne capacité - gérer les flux UIUX de génération-vérification - beaucoup plus - garde-fous, sécurité, évaluations, parallélisme, préchargement, ... Ainsi, l'ingénierie du contexte n'est qu'un petit morceau d'une couche épaisse de logiciels non triviaux qui coordonne les appels individuels aux LLM (et bien plus) en applications LLM complètes. Le terme "wrapper ChatGPT" est fatigué et vraiment, vraiment faux.