ایجاد و استقرار بارهای کاری ایمن هوش مصنوعی با Docker

با استفاده از Docker Model Runner، قدرت مدل‌های زبان بزرگ (LLM) را در دستگاه محلی خود باز کنید. در این دوره، به کاپیتان Docker و سفیر مؤسسه DevOps Pawel Piwosz بپیوندید تا به شما نحوه راه‌اندازی و پیکربندی Docker Model Runner را برای اجرای LLM به صورت محلی نشان دهد و آنها را هم از کانتینرها و هم از سیستم میزبان در دسترس قرار دهد. نحوه استخراج و مدیریت مدل های از پیش ساخته شده از Docker Hub و همچنین بسته بندی و توزیع مدل های خود را بررسی کنید. در طول مسیر، یاد بگیرید که چگونه با استفاده از رابط OpenAI API آشنا، LLM های محلی را در برنامه های خود ادغام کنید. چه در حال ساختن نمونه‌های اولیه، حفظ حریم خصوصی یا کاهش هزینه‌های استنتاج باشید، این دوره ابزارهایی را که برای اجرای مدل‌های قدرتمند بدون تکیه بر ابر باید بدانید را پوشش می‌دهد.