دوره آموزشی مدلهای زبان بزرگ در AWS: ساخت و استقرار مدلهای زبان بزرگ متنباز
35 دقیقهمتوسط2025-01-16
مدرسین
Noah Gift
MLOps Expert | Solopreneur | Author | Adjunct Professor | CTO
Pragmatic AI Labs
جزئیات دوره
در این دوره، نوآ گیفت، کارشناس MLOps، به بررسی دنیای مدلهای زبان بزرگ (LLM) منبعباز در AWS میپردازد. در این دوره، شما با ابزارهای ضروری آشنا میشوید، از جمله نحوه بهینهسازی و کامپایل LLMها مانند llama.cpp. همچنین، مفاهیم قانون آمداهل برای وظایف محاسباتی شما بررسی خواهد شد و دموهای عملی با استفاده از فرمت فایل GGUF ارائه میشود. در این دوره با اسکریپتنویسی Python UV و بستهبندی آنها برای بیشینه کردن عملکرد و کارایی مدلها آشنا خواهید شد. مفاهیم کلیدی در llama.cpp از طریق راهنماییهای دقیق و همچنین دموهای کامل از مدلهای کمیشده روی AWS G5 instances بررسی میشود. شما دانش عملی و تجربههای عملی به دست خواهید آورد که میتوانید به طور مستقیم در پروژههای خود استفاده کنید. در پایان این دوره، قادر خواهید بود به طور مؤثر از LLMهای منبعباز در AWS استفاده کرده و آنها را بهینهسازی کنید و کاربردهای هوش مصنوعی خود را کارآمدتر و قدرتمندتر سازید.
اهداف یادگیری:
آشنایی با ابزارهای ضروری برای بهینهسازی و کامپایل LLMها مانند llama.cpp.
درک قانون آمداهل و کاربرد آن در محاسبات.
یادگیری نحوه استفاده از فرمت GGUF برای بهینهسازی مدلها.
استفاده از اسکریپتنویسی Python UV برای بهبود کارایی مدلها.
درک عمیق از llama.cpp و کاربرد آن در مدلهای کمیشده.
پیادهسازی و بهینهسازی مدلهای زبان بزرگ منبعباز در AWS G5 instances.
اهداف یادگیری:
آشنایی با ابزارهای ضروری برای بهینهسازی و کامپایل LLMها مانند llama.cpp.
درک قانون آمداهل و کاربرد آن در محاسبات.
یادگیری نحوه استفاده از فرمت GGUF برای بهینهسازی مدلها.
استفاده از اسکریپتنویسی Python UV برای بهبود کارایی مدلها.
درک عمیق از llama.cpp و کاربرد آن در مدلهای کمیشده.
پیادهسازی و بهینهسازی مدلهای زبان بزرگ منبعباز در AWS G5 instances.
مهارت ها
Amazon BedrockCross-Platform DevelopmentNatural Language Processing (NLP)Mobile DevelopmentAmazon Web Services (AWS)AmazonCloud ServicesCloud PlatformsArtificial Intelligence (AI)Cloud ComputingOne-Off
سرفصل ها
0. مقدمه
- 01 - معرفی LLMهای منبع باز در AWS
منبع باز LLM Toolchain و بهینه سازی
- 02 - پیامدهای قانون امدال - گذری
- 03 - کامپایل دمو llama.cpp
- 04 - فرمت فایل GGUF
- 05 - برنامه نویسی Python UV
- 06 - بررسی اجمالی بسته بندی UV پایتون
- 07 - مفاهیم کلیدی در بررسی llama.cpp
- 08 - GGUF نسخه نمایشی llama.cpp quantized end-to-end
- 09 - Llama.cpp در نسخه ی نمایشی AWS G5
نتیجه گیری
- 10 - خلاصه
دوره های مرتبط
- دوره آموزشی اپلیکیشنهای هوش مصنوعی آماده برای تولید با Gradio
- دوره آموزشی پردازش زبان طبیعی (NLP) در Amazon Bedrock
- دوره آموزشی هوش مصنوعی و مدل های زبان بزرگ در AWS
- دوره آموزشی موارد استفاده و پروژههای مهندسی هوش مصنوعی بر روی AWS: سیستمهای LLM با کیفیت تولید
- دوره آموزشی ساخت و استقرار بارهای کاری هوش مصنوعی ایمن با داکر
- دوره آموزشی اجرای مدلهای هوش مصنوعی بهصورت محلی: ساخت دستیارهای AI بدون وابستگی به فضای ابری
- دوره آموزشی هوش مصنوعی مولد عملی: استفاده از داده های جدولی با ChatGPT، GPT-4 و LangChain
- دوره آموزشی تنظیم دقیق RAG: تکنیکهای پیشرفته برای دقت و عملکرد بهتر مدل
مسیرهای مرتبط
- مسیر آموزشی ارتقاء مهارت های خود را در هوش مصنوعی و یادگیری ماشین
- مسیر آموزشی ارتقا مهارت های خود به عنوان یک متخصص اسپارک آپاچی
- مسیر آموزشی ارتقا مهارت های خود را در Hadoop/NoSQL Data Science Stack
- مسیر آموزشی ایجاد مهارت های هوش مصنوعی برای توسعه دهندگان وب
- مسیر آموزشی تبدیل شدن به یک مهندس داده مسلط بر مفاهیم
- مسیر آموزشی تبدیل شدن به یک مهندس DevOps
- مسیر آموزشی ارتقا مهارت های خود در بلاک چین
- مسیر آموزشی تبدیل شدن به یک توسعه دهنده NoSQL