التكميم العملي

لنبدأ بتنفيذ التكميم على نموذج Meta's Llama 3.1، والذي يحتوي على 8 مليارات معلمة.

أولاً، نحتاج إلى إنشاء حساب على Hugging Face للوصول إلى النموذج. Hugging Face هي منصة تعلّم آلي مفتوحة المصدر، حيث يُمكن للمستخدمين استكشاف آلاف النماذج ومجموعات البيانات والتطبيقات نشر والتعاون عليها. يتيح ذلك للمستخدمين تنزيل النماذج وضبطها بدقة في مهام لاحقة متنوعة، مثل تلخيص النصوص والإجابة على الأسئلة، وغيرها. أتاحت Meta AI جميع إصدارات نماذج Llama، بما في ذلك Llama 3.1، على Hugging Face.

دعونا ننشئ حسابًا ونحصل على رمز لـ Hugging Face:

• قم بزيارة موقع Hugging Face وقم بإنشاء حساب.

• قم بزيارة صفحة رمز الوصول وقم بإنشاء رمز باستخدام زر " رمز جديد".

طلب Llama 3.1 من Meta

يتطلب ميتا من المستخدمين تقديم نموذج طلب وصول قبل تنزيل أوزان النماذج. Go إلى صفحة نماذج Hugging Face واخترmeta-llama/Meta-Llama-3.1-8B-Instruct النموذج. املأ نموذج طلب الوصول للنموذج المحدد. بمجرد أن يمنحنا Meta حق الوصول إلى النموذج، يمكننا تنزيله.

ملاحظة: عادةً، يمنح مؤلفو المستودع حق الوصول إلى النموذج خلال ساعة.

الآن أصبحنا جاهزين تمامًا لكمية النموذج.

تثبيت التبعيات

أولاً، لنثبّت المكتبات التالية لتنفيذ التكميم. نقوم حاليًا بتثبيت أحدث إصدارات المكتبات (وقت كتابة هذا المقال).

• الخط 1: نقوم بتثبيت transformers المكتبة، وهي مكتبة Hugging Face التي توفر واجهات برمجة التطبيقات والأدوات اللازمة لتنزيل وتدريب النماذج المدربة مسبقًا على أحدث طراز.

• الخط 2: نقوم بتثبيت accelerate مكتبة مصممة لتسهيل تدريب نماذج التعلم العميق عبر مختلف الأجهزة. فهي ...