ضبط نماذج LLM باستخدام LoRA و QLoRA

ستتعلم في هذه الدورة التدريبية العملية فنّ ضبط نماذج اللغة الكبيرة (LLMs). ستتعلم أيضًا تقنيات متقدمة مثل التكيف منخفض الرتبة (LoRA) والتكيف منخفض الرتبة الكمي (QLoRA) لتخصيص نماذج مثل Llama 3 لمهام محددة. تبدأ الدورة بالأساسيات، مستكشفةً الضبط الدقيق، وأنواعه، ومقارنته بالتدريب المسبق، ومناقشة التوليد المعزز بالاسترجاع (RAG) مقابل الضبط الدقيق، وأهمية التكميم لتقليل حجم النموذج مع الحفاظ على الأداء. اكتسب خبرة عملية من خلال تمارين تطبيقية باستخدام أساليب التكميم مثل int8 والبتات والبايتات. تعمّق في تقنيات الضبط الدقيق الفعال للمعلمات (PEFT)، مع التركيز على تطبيق LoRA وQLoRA، والتي تُمكّن من الضبط الدقيق بكفاءة باستخدام موارد حاسوبية محدودة. بعد إكمال هذه الدورة، ستتقن ضبط LLM، وضبط PEFT، ومعلمات التكميم المتقدمة، مما يزودك بالخبرة اللازمة لتكييف وتحسين LLMs لمختلف التطبيقات.