+1 voor "context engineering" boven "prompt engineering". Mensen associëren prompts met korte taakbeschrijvingen die je een LLM zou geven in je dagelijkse gebruik. Terwijl in elke industriële LLM-app, context engineering de delicate kunst en wetenschap is van het vullen van het contextvenster met precies de juiste informatie voor de volgende stap. Wetenschap omdat het goed doen hiervan taakbeschrijvingen en uitleg, enkele voorbeelden, RAG, gerelateerde (mogelijk multimodale) gegevens, tools, staat en geschiedenis, compact maken... Te weinig of van de verkeerde vorm en de LLM heeft niet de juiste context voor optimale prestaties. Te veel of te irrelevant en de kosten van de LLM kunnen stijgen en de prestaties kunnen dalen. Dit goed doen is zeer niet-triviaal. En kunst vanwege de leidende intuïtie rond de LLM-psychologie van de geest van mensen. Bovenop de context engineering zelf, moet een LLM-app: - problemen precies goed opsplitsen in controleflows - de contextvensters precies goed inpakken - oproepen naar LLM's van het juiste soort en capaciteit dispatchen - generatie-verificatie UIUX-flows afhandelen - nog veel meer - veiligheidsmaatregelen, beveiliging, evaluaties, parallelisme, prefetching, ... Dus context engineering is slechts één klein onderdeel van een opkomende dikke laag van niet-triviale software die individuele LLM-oproepen (en veel meer) coördineert in volledige LLM-apps. De term "ChatGPT-wrapper" is moe en echt, echt verkeerd.