التكميم العملي

لنبدأ بتطبيق التكميم على نموذج Meta's Llama 3.1، الذي يحتوي على 8 مليارات معلمة.

أولًا، نحتاج إلى إنشاء حساب على منصة Hugging Face للوصول إلى النموذج. Hugging Face هي منصة مفتوحة المصدر للتعلم الآلي، حيث يمكن للمستخدمين استكشاف ومشاركة نشر والتعاون على آلاف النماذج ومجموعات البيانات والتطبيقات. يتيح ذلك للمستخدمين تنزيل النماذج وضبطها بدقة على مهام مختلفة مثل تلخيص النصوص والإجابة على الأسئلة، وغيرها. وقد أتاحت Meta AI جميع إصدارات نماذج Llama الخاصة بها، بما في ذلك Llama 3.1، على منصة Hugging Face.

لنقم بإنشاء حساب والحصول على رمز للعبة Hugging Face:

• قم بزيارة موقع Hugging Face الإلكتروني وقم بإنشاء حساب.

• قم بزيارة صفحة رمز الوصول وقم بإنشاء رمز باستخدام زر " رمز جديد".

اطلب Llama 3.1 من Meta

يتطلب موقع Meta من المستخدمين تقديم نموذج طلب وصول قبل تنزيل أوزان النموذج. Go إلى صفحة النماذج في Hugging Face واخترmeta-llama/Meta-Llama-3.1-8B-Instruct قم بتعبئة نموذج طلب الوصول للنموذج المحدد. بمجرد أن تمنح Meta حق الوصول إلى النموذج، يمكننا تنزيله.

ملاحظة: عادةً ما يمنح مؤلفو المستودع إمكانية الوصول إلى النموذج في غضون ساعة.

الآن أصبحنا جاهزين تماماً لتقدير النموذج كمياً.

قم بتثبيت التبعيات

أولاً، لنقم بتثبيت المكتبات التالية لتطبيق التكميم. نقوم بتثبيت أحدث إصدارات المكتبات (وقت كتابة هذا النص).

• السطر 1: نقوم بتثبيت transformers مكتبة، وهي مكتبة Hugging Face توفر واجهات برمجة التطبيقات والأدوات لتنزيل وتدريب أحدث النماذج المدربة مسبقًا.

• السطر 2: نقوم بتثبيت accelerate مكتبة مصممة لتسهيل تدريب نماذج التعلم العميق على مختلف أنواع ...