+1 for "kontekstteknikk" over "rask utvikling". Folk assosierer spørsmål med korte oppgavebeskrivelser du vil gi en LLM i din daglige bruk. I alle LLM-apper med industriell styrke er kontekstteknikk den delikate kunsten og vitenskapen om å fylle kontekstvinduet med akkurat den riktige informasjonen for neste trinn. Vitenskap fordi å gjøre dette riktig innebærer oppgavebeskrivelser og forklaringer, noen få skuddeksempler, RAG, relaterte (muligens multimodale) data, verktøy, tilstand og historie, komprimering ... For lite eller av feil form, og LLM har ikke riktig kontekst for optimal ytelse. For mye eller for irrelevant, og LLM-kostnadene kan gå opp og ytelsen kan gå ned. Å gjøre dette bra er høyst ikke-trivielt. Og kunst på grunn av den veiledende intuisjonen rundt LLM-psykologi til menneskeånder. I tillegg til selve kontekstutviklingen, må en LLM-app: - bryte opp problemer helt riktig i kontrollflyter - Pakk kontekstvinduene helt riktig - sende anrop til LLM-er av riktig type og kapasitet - håndtere UIUX-flyter for genereringsverifisering - mye mer - rekkverk, sikkerhet, evals, parallellitet, forhåndshenting, ... Så kontekstteknikk er bare en liten del av et fremvoksende tykt lag med ikke-triviell programvare som koordinerer individuelle LLM-anrop (og mye mer) til fullstendige LLM-apper. Begrepet "ChatGPT-innpakning" er sliten og veldig, veldig feil.