ما هي هندسة السياق؟

قام مطور بإنشاء وكيل دعم عملاء. واجهة النظام واضحة ومحددة ومنظمة بشكل جيد. في البداية، تعامل الوكيل مع طلبات المستخدمين بدقة مذهلة. ثم، بعد حوالي اثنتي عشرة رسالة، حدث تغيير. بدأ يتجاهل القيود التي التزم بها بدقة سابقًا. وكرر معلومات سبق للمستخدم تأكيدها. وفقد تماسكه تمامًا.

لم يتغير الموجه. لم يتغير النموذج. ما تغير هو بيئة المعلومات المحيطة التي كان النموذج يعمل ضمنها، ولم يكن أحد يديرها.

هذه هي المشكلة التي وُجدت هندسة السياق لحلها. فمع ازدياد قدرات أنظمة الذكاء الاصطناعي وقدرتها على أداء مهام أطول وأكثر تعقيدًا، لم يعد جودة مخرجاتها يعتمد على إيجاد الصياغة المثالية لتعليمات محددة، بل أصبح يعتمد بشكل أكبر على التحكم في بيئة المعلومات الكاملة التي يعمل النموذج ضمنها. يُعد فهم هذا المجال ضروريًا لكل من يبني تطبيقات موثوقة باستخدام نماذج لغوية ضخمة.

تحديد هندسة السياق

لتعريف هندسة السياق بدقة، نحتاج أولاً إلى فهم معنى السياق من الناحية التقنية. عندما يُنشئ نموذج لغة منطقية (LLM) استجابة، فإنه لا يحتفظ بذاكرة دائمة عبر الجلسات، ولا يدرك أي شيء خارج نطاق التفاعل الحالي. المعلومات الوحيدة المتاحة له في أي لحظة هي مجموعة الرموز الكاملة التي تُمرر إليه أثناء استدعاء الاستدلال. هذه المجموعة من الرموز هي سياقه. وهي تشمل موجه النظام، وسجل المحادثة، وأي بيانات مسترجعة من مصادر خارجية، ومخرجات الأدوات، والأمثلة التي يقدمها المهندس.

هندسة السياق هي منهجيةٌ تُعنى بتنظيم وهيكلة وإدارة مجموعة الرموز بشكلٍ مدروس لزيادة احتمالية الحصول على إخراج نموذجية مرغوبة. وقد وصفها أندريه كارباثي ، أحد أبرز رواد الذكاء الاصطناعي التطبيقي، بأنها "فن وعلم ملء نافذة السياق". هذا الوصف يُجسّد جانباً مهماً: هندسة السياق هي ممارسة تقنية ومهارة تتطلب حُكماً سليماً.

بينما يركز هندسة التوجيه الفوري على كيفية كتابة التعليمات، فإن هندسة السياق تطرح سؤالاً أوسع: بالنظر إلى كل ما يمكن أن يراه النموذج، ما هي المجموعة الفرعية المثلى من المعلومات التي يجب وضعها أمامه، وبأي نموذج، وفي أي لحظة؟

هندسة السياق مقابل الهندسة الفورية

تُعد العلاقة بين هندسة السياق وهندسة الاستجابة الفورية واحدة من أهم الفروق التي يجب فهمها بوضوح، لأن المصطلحين غالباً ما يُستخدمان بشكل متبادل عندما لا ينبغي ذلك.