التكميم العملي

لنبدأ بتنفيذ التكميم على نموذج Meta's Llama 3.1، والذي يحتوي على 8 مليارات معلمة.

أولاً، نحتاج إلى إنشاء حساب على Hugging Face للوصول إلى النموذج. Hugging Face هي منصة تعلّم آلي مفتوحة المصدر، حيث يُمكن للمستخدمين استكشاف آلاف النماذج ومجموعات البيانات والتطبيقات نشر والتعاون عليها. يتيح ذلك للمستخدمين تنزيل النماذج وضبطها بدقة في مهام لاحقة متنوعة، مثل تلخيص النصوص والإجابة على الأسئلة، وغيرها. أتاحت Meta AI جميع إصدارات نماذج Llama، بما في ذلك Llama 3.1، على Hugging Face.

دعونا ننشئ حسابًا ونحصل على رمز لـ Hugging Face:

• قم بزيارة موقع Hugging Face وقم بإنشاء حساب.

• قم بزيارة صفحة رمز الوصول وقم بإنشاء رمز باستخدام زر " رمز جديد".

طلب Llama 3.1 من Meta

يتطلب ميتا من المستخدمين تقديم نموذج طلب وصول قبل تنزيل أوزان النموذج. Go إلى صفحة نماذج Hugging Face واختر نموذج meta-llama/Meta-Llama-3.1-8B-Instruct . املأ نموذج طلب الوصول للنموذج المحدد. بمجرد أن يمنح ميتا حق الوصول إلى النموذج، يمكننا تنزيله.

ملاحظة: عادةً، يمنح مؤلفو المستودع حق الوصول إلى النموذج خلال ساعة.

الآن أصبحنا جاهزين تمامًا لكمية النموذج.

تثبيت التبعيات

أولاً، لنثبّت المكتبات التالية لتنفيذ التكميم. نقوم حاليًا بتثبيت أحدث إصدارات المكتبات (وقت كتابة هذا المقال).

• الخط 1: نقوم بتثبيت مكتبة transformers ، وهي مكتبة Hugging Face التي توفر واجهات برمجة التطبيقات والأدوات اللازمة لتنزيل وتدريب النماذج المدربة مسبقًا على أحدث طراز.

• الخط الثاني: نُثبّت مكتبة accelerate ، المُصمّمة لتسهيل تدريب نماذج التعلم العميق عبر مختلف الأجهزة. فهي ...