Coraz bardziej myślę, że poziom umiejętności w inżynierii wspomaganej przez LLM jest prawdopodobnie tak wysoki, jak w inżynierii ogólnie. (Z pewnością jest głębszy niż np. Excel, a w Excelu są różnice w poziomie biegłości.)
Mckay Wrigley
Mckay Wrigley23 lip, 09:40
Aby 10-krotnie zwiększyć efektywność agentów kodujących AI, musisz *obsesyjnie* koncentrować się na inżynierii kontekstu ponad wszystko. Świetny kontekst = Świetny plan = Świetny wynik Modele AI to geniusze, którzy zaczynają od zera za każdym razem. Dlatego wprowadź je, przesadzając z kontekstem. Użyj tego promptu jako punktu wyjścia.
Limit umiejętności to termin związany z grami. Oddaje intuicję, że są gry, w których różnica między najlepszym a najgorszym graczem jest marginalna, jak w kółko-krzyżyk, oraz takie, w których jest to zupełnie nieprawda i można studiować grę przez całe życie, ciągle się poprawiając (poker, go).
To nie jest jedynie na poziomie mikro mechaniki, inżynierii podpowiedzi czy inżynierii kontekstu. Istnieją całe tryby pracy, które opierają się na tym, co LLM robi najlepiej, a czas, który możesz na nie poświęcić, nie jest stały w różnych sesjach czy projektach.
A więc, biorąc pod uwagę, że masz kontrolę lub wpływ na całość systemu, musisz podjąć półdecyzje dotyczące tego, "Czy chcę, aby ten system miał więcej podkomponentów, które LLM-y po prostu *przerabiają*? Czy powinienem dokonać innych wyborów architektonicznych lub podobnych?"
I tak, jesteśmy lata od zrozumienia, jak wygląda pętla konserwacyjna dla subsystemów dostarczanych przez LLM, ale mądrzejsze pieniądze prawdopodobnie mówią, że "Człowiek może być świadomy w ogólnym sensie, że to się dzieje."
W każdym razie to wszystko jest bardzo, bardzo zabawne i znajduję się w dziwnym miejscu, w którym życzę sobie, aby wakacje się skończyły, żebym mógł pisać kod za darmo.
(Jako jedna z wielu adaptacji tego stylu, korzysta z wielogodzinnych bloków nieprzerwanego czasu, ponieważ agenci rozwijają się w kontekście, a pierwsze kilka minut sesji jest słabe. To trudne do zrealizowania przy stole kuchennym u teściów.)
47,31K