تکنیک‌های کوانتیزاسیون پیشرفته برای مدل‌های زبان بزرگ

<h3>توضیح</h3> <h4>این دوره در مورد چیست؟</h4> با تمرکز بر الگوریتم‌ها و استراتژی‌های بهینه‌سازی که بهترین عملکرد را ارائه می‌کنند، تکنیک‌های کوانتیزه‌سازی پیشرفته را برای مدل‌های زبان بزرگ کشف کنید. مربی Nayan Saxena با پوشش مبانی ریاضی شروع می‌کند، قبل از اینکه از طریق روش‌های پیشرفته از جمله GPTQ، AWQ و SmoothQuant با مثال‌های عملی در Google Colab پیشرفت کند. در طول مسیر، نکات سریعی را برای تسلط بر مفاهیم مهم مانند فرمت های دقیق، استراتژی های کالیبراسیون و روش های ارزیابی جمع آوری کنید. این دوره با استفاده از اصول نظری و کاربردهای عملی، شما را با مهارت های مورد نیاز برای کاهش قابل توجه اندازه مدل و سرعت بخشیدن به استنتاج و حفظ کیفیت عملکرد مجهز می کند. </p> <h3>اهداف</h3> <h4>تا پایان این دوره چه کاری می توانم انجام دهم؟</h4> <ul> <li>مبانی ریاضی کوانتیزاسیون و تأثیر آنها بر معماری ترانسفورماتور را تجزیه و تحلیل کنید.</li> <li>از تکنیک‌های کوانتیزاسیون پیشرفته از جمله GPTQ، AWQ و SmoothQuant برای LLM استفاده کنید.</li> <li>معادل بین رویکردهای کوانتیزاسیون مختلف را با استفاده از معیارهای مناسب ارزیابی کنید.</li> <li>نتایج کمی سازی را از طریق استراتژی های کالیبراسیون پیشرفته بهینه کنید.</li> <li>روش‌های کوانتیزاسیون را بر اساس معماری مدل و الزامات مورد استفاده مقایسه و انتخاب کنید.</li> </ul></p> <h3>مخاطب</h3> <h4>این دوره برای چه کسانی است؟</h4> <ul> <li>مهندسین یادگیری ماشین</li> <li>تمرین‌کنندگان هوش مصنوعی</li> <li>سرنخ های فنی کار با LLM</li> </ul></p>