يقوم فريق البنية التحتية لدينا بتفصيل مفهوم "هندسة السياق": @martin_casado - "إذا كنت ستتصل بنموذج ، فعليك أن تعرف ما يجب وضعه في السياق ... في مرحلة ما ، من المحتمل أن تستخدم علوم الكمبيوتر التقليدية ". @JenniferHli - "ما هو عامل الشكل الجديد للبنية التحتية الذي يجب أن يصبح جزءا من هندسة السياق هذه?... كيف لديك وكالات أو أدوات أو بنية تحتية توفر اكتشاف وضمانات لمراقبة هذه الأنظمة أيضا؟ "تخلق قطع البنية التحتية الجديدة أنماطا وأساليب جديدة للبرمجيات وأنظمة البناء. هذا مثال رائع على ظهوره أمام أعيننا ".
Andrej Karpathy
Andrej Karpathy‏25 يونيو 2025
+1 ل "هندسة السياق" بدلا من "الهندسة السريعة". يربط الأشخاص المطالبات بأوصاف قصيرة للمهام التي قد تعطيها LLM في استخدامك اليومي. عندما تكون في كل تطبيق LLM ذو قوة صناعية ، فإن هندسة السياق هي الفن والعلم الدقيق لملء نافذة السياق بالمعلومات الصحيحة للخطوة التالية. العلم لأن القيام بذلك بشكل صحيح يتضمن أوصافا وتفسيرات للمهام ، وبعض الأمثلة على اللقطات ، و RAG ، والبيانات ذات الصلة (ربما متعددة الوسائط) ، والأدوات ، والحالة والتاريخ ، والضغط ... القليل جدا أو من الشكل الخاطئ ولا يمتلك LLM السياق المناسب للأداء الأمثل. الكثير أو غير ذي صلة وقد ترتفع تكاليف LLM وقد ينخفض الأداء. القيام بذلك بشكل جيد غير تافه للغاية. والفن بسبب الحدس التوجيهي حول علم نفس LLM لأرواح الناس. علاوة على هندسة السياق نفسها ، يجب على تطبيق LLM القيام بما يلي: - تقسيم المشكلات مباشرة إلى تدفقات التحكم - حزم نوافذ السياق بشكل صحيح - إرسال المكالمات إلى LLMs من النوع والقدرة الصحيحين - التعامل مع تدفقات UIUX للتحقق من الجيل - أكثر من ذلك بكثير - الدرابزين ، والأمن ، والإيفال ، والتوازي ، والجلب المسبق ، ... لذا فإن هندسة السياق هي مجرد قطعة صغيرة من طبقة سميكة ناشئة من البرامج غير التافهة التي تنسق مكالمات LLM الفردية (وأكثر من ذلك بكثير) في تطبيقات LLM الكاملة. مصطلح "غلاف ChatGPT" متعب وخاطئ حقا.
‏‎23.14‏K