دوره آموزشی LLMOs پیشرفته: استقرار و مدیریت LLM در تولید
1 ساعت 45 دقیقهپیشرفته2024-07-19
مدرسین

Soham Chatterjee
Machine Learning Lead

Archana Vaidheeswaran
جزئیات دوره
فناوری های پیشرفته هوش مصنوعی در حال تغییر جهان هستند. اما بدون استقرار و مدیریت مناسب، برنامه های شما ممکن است هرگز به پتانسیل کامل خود نرسند. بدتر از آن، آنها به سادگی می توانند از کار بیفتند یا حتی باعث ایجاد خطاهای مهم در سیستم شما شوند. از آنجایی که سازمانهای بیشتری مدلهای زبانی بزرگ را در جریان کار خود وارد میکنند، نیاز روزافزونی به متخصصان ماهر در استقرار و نظارت بر این مدلها به طور موثر، مسئولانه و ایمن در محیطهای تولید وجود دارد. در این دوره، تکنیک های پیشرفته و بهترین شیوه ها برای استقرار و نظارت بر LLM ها در محیط های تولیدی را بیاموزید. گزینههای استقرار LLM، مدیریت محدودیتهای API، تکنیکهای نظارت بر عملکرد، مدیریت سریع، رسیدگی به توهمات و موارد دیگر را کاوش کنید. به علاوه، در مورد ملاحظات امنیت و هزینه اطلاعات کسب کنید و یادگیری خود را با چالش ها و راه حل ها آزمایش کنید.
مهارت ها
Software DeploymentNatural Language Processing (NLP)AdvancedGenerative AIArtificial Intelligence (AI)Network and System Administration
سرفصل ها
0. مقدمه
- 01 - استقرار LLM برای تولید
- 02 - کار در Google Colab
1. گزینههای استقرار برای LLM
- 03 - مروری بر گزینههای استقرار
- 04 - استقرار از طریق APIها
- 05 - استفاده از مدلهای تنظیم شده برای استقرار
- 06 - مدلهای سفارشی - ساخت و استقرار
2. مدیریت محدودیتهای API
- 07 - درک محدودیتهای API
- 08 - استراتژیهایی برای رسیدگی به محدودیتهای زمان پایانی
- 09 - کاهش مشکلات تاخیر در استقرار LLM
- 10 - چالش - محدودیتهای API برای استقرار LLM
- 11 - راه حل - محدودیتهای API برای استقرار LLM
3. معماری استقرار
- 12 - پایگاه داده برداری برای استقرار LLM
- 13 - عوامل در استقرار LLM
- 14 - زنجیره در استقرار LLM
- 15 - چالش - یک برنامه RAG ساده را با استفاده از یک API مستقر کنید
- 16 - راه حل - استقرار یک برنامه RAG ساده با استفاده از یک API
4. نظارت بر عملکرد LLM
- 17 - مقدمه ای بر نظارت بر عملکرد LLM
- 18 - پرداختن به توهم در LLM ها
5. تکنیکهای پیشرفته استقرار
- 19 - مدیریت سریع برای استقرار LLM
- 20 - ارزیابی LLMها در تولید
- 21 - چالش - ارزیابی سیستمهای LLM
- 22 - راه حل - ارزیابی سیستمهای LLM
6. ملاحظات امنیت و هزینه
- 23 - ملاحظات امنیتی برای LLM در تولید
- 24 - متعادل کردن هزینهها و عملکرد در استقرار LLM
- 25 - استراتژی برای استقرار مقرون به صرفه LLM
- 26 - چالش - برآورد هزینههای یک API LLM
- 27 - راه حل - برآورد هزینههای یک API LLM
نتیجه
- 28 - مراحل بعدی
دوره های مرتبط
- دوره آموزشی هوش مصنوعی مولد و LLMOps: بلوکهای ساختمانی و برنامههای کاربردی
- دوره آموزشی امنیت مدلهای زبانی بزرگ (LLM): چطور از سرمایهگذاریهات تو هوش مصنوعی مولد محافظت کنی
- دوره آموزشی مدیریت پیشرفته پایگاه داده MySQL
- دوره آموزشی طراحی مطالعات مراقبت های بهداشتی داده های بزرگ، بخش اول
- دوره آموزشی پایتون: الگوهای طراحی پیشرفته (2018)
- دوره آموزشی تنظیمات عملکرد لینوکس
- دوره آموزشی تصویرسازی پیشرفته دادهها: ۱۲ نوع نمودار کمتر شناختهشده و نحوه استفاده از آنها
- دوره آموزشی پیشرفته عکاسی: دوربین های دیجیتال با فرمت متوسط
مسیرهای مرتبط
- مسیر آموزشی مدیریت مدلهای زبان بزرگ (LLMs) با LLMOps
- مسیر آموزشی ساخت محصولات هوش مصنوعی با استفاده از سرویسهای Azure AI در چرخه توسعه
- مسیر آموزشی مهارت های خود را به عنوان یک حرفه ای بازاریابی توسعه دهید
- مسیر آموزشی ارتقا مهارت های توسعه دهنده اسپرینگ خود
- مسیر آموزشی تبدیل شدن به یک هنرمند موشن گرافیک
- مسیر آموزشی پیشرو بودن در Advanced Manufacturing
- مسیر آموزشی ساخت اپلیکیشن با watchOS 4
- مسیر آموزشی تبدیل شدن به یک استاد توسعه دهنده SQL