سلامة الأدوات، والتصاريح، ومعالجة الأخطاء
تعلم كيفية تصميم وكلاء ذكاء اصطناعي آمنين ومرنين من خلال تطبيق أذونات قائمة على المطالبات، وخطوات التأكيد، ومنطق معالجة الأخطاء.
في درسنا السابق، نجحنا في منح نظام الذكاء الاصطناعي الخاص بنا القدرة على استخدام الأدوات والتفاعل مع العالم. هذه القدرة الجديدة تُثير على الفور مجموعة جديدة من التحديات الهندسية الحاسمة. فنظام الذكاء الاصطناعي القادر على اتخاذ إجراءات، مثل إرسال بريد إلكتروني، أو تعديل قاعدة بيانات، أو حذف ملف، يتمتع بطبيعته بقوة أكبر ويحمل مخاطر أكثر من النظام الذي يقتصر دوره على توليد النصوص فقط.
يُبرز هذا فرقًا جوهريًا بين الوكيل الكفؤ والوكيل المسؤول. فالوكيل الكفؤ قادر على أداء المهمة على أكمل وجه، بينما يؤديها الوكيل المسؤول بأمان وبشكل متوقع، مع مستوى الإشراف المطلوب من المستخدم. وبصفتنا مهندسين، لا يقتصر دورنا على تمكين الإجراءات فحسب، بل يشمل أيضًا بناء الضوابط التي تضمن سلامة هذه الإجراءات وفعاليتها.
يركز هذا الدرس على المسؤوليات الأساسية الثلاث للمهندس الذي يقوم ببناء وكيل يستخدم الأدوات:
الأذونات: كيف نحدد ونتحكم بدقة في مجموعة الإجراءات التي يُسمح للذكاء الاصطناعي بتنفيذها؟
التأكيد: كيف نمنع الذكاء الاصطناعي من اتخاذ إجراءات حساسة أو لا رجعة فيها دون موافقة صريحة من المستخدم؟
المرونة: كيف نضمن أن يتصرف الذكاء الاصطناعي بشكل متوقع وسلس عندما تفشل أدواته حتماً أو تعود بنتائج غير متوقعة؟
سنتعلم تقنيات الهندسة السريعة والمبادئ المعمارية اللازمة بناء هذه الحواجز الواقية، مما يحول عميلنا الكفء إلى عميل مسؤول.
مبدأ أقل الامتيازات (PoLP)
إن القاعدة الأساسية لأمن الأنظمة هي عدم منح صلاحيات أكثر من اللازم. وينطبق هذا المفهوم بشكل مباشر وفعّال على كيفية تصميمنا لوكلاء الذكاء الاصطناعي المزودين بالأدوات. ...