سلامة الأدوات والأذونات ومعالجة الأخطاء
تعرف على كيفية تصميم وكلاء الذكاء الاصطناعي الآمنين والمرنين من خلال تنفيذ الأذونات القائمة على المطالبة وخطوات التأكيد ومنطق معالجة الأخطاء.
في درسنا السابق، نجحنا في منح الذكاء الاصطناعي القدرة على استخدام الأدوات والتفاعل مع العالم. تُدخل هذه القدرة الجديدة فورًا مجموعة جديدة من التحديات الهندسية الحرجة. إن وكيل الذكاء الاصطناعي القادر على اتخاذ إجراءات، مثل إرسال بريد إلكتروني، أو تعديل قاعدة بيانات، أو حذف ملف، أقوى بطبيعته وينطوي على مخاطر أكبر من وكيل يُنتج نصًا فقط.
يُقدّم هذا تمييزًا هامًا بين العامل الكفؤ والعامل المسؤول. العامل الكفؤ قادر على أداء مهمة ما بشكل صحيح. أما العامل المسؤول، فيؤديها بأمان، وبشكل متوقع، وبمستوى الرقابة المطلوب من المستخدم. بصفتنا مهندسين، لا تقتصر مهمتنا على تمكين الإجراءات فحسب، بل تشمل أيضًا بناء الحواجز التي تضمن سلامة وفعالية هذه الإجراءات.
يركز هذا الدرس على المسؤوليات الأساسية الثلاث للمهندس الذي يبني وكيلًا يستخدم الأدوات:
الأذونات: كيف يمكننا تحديد والتحكم بشكل صارم في مجموعة الإجراءات التي يُسمح للذكاء الاصطناعي بأدائها؟
التأكيد: كيف نمنع الذكاء الاصطناعي من اتخاذ إجراءات حساسة أو لا رجعة فيها دون موافقة صريحة من المستخدم؟
المرونة: كيف نضمن أن يتصرف الذكاء الاصطناعي بشكل يمكن التنبؤ به وبرشاقة عندما تفشل أدواته حتما أو تعود بنتائج غير متوقعة؟
سنتعلم تقنيات الهندسة السريعة والمبادئ المعمارية المطلوبة بناء هذه الحواجز، وتحويل وكيلنا القادر إلى وكيل مسؤول.
مبدأ الحد الأدنى من الامتيازات (PoLP)
القاعدة الأساسية لأمن النظام هي عدم منح أذونات أكثر من اللازم. ينطبق هذا المفهوم بشكل مباشر وفعال على كيفية تصميم وكلاء الذكاء الاصطناعي المُمكّنين بالأدوات. ...