دوره آموزشی آپاچی آیسبرگ (Apache Iceberg): از صفر تا راهاندازی دیتا لیکهاوس (Data Lakehouse) عملیاتی
1 ساعت 33 دقیقهپیشرفته2026-04-03
مدرسین

Snowflake, Inc
جزئیات دوره
اگر داری روی معماری دادههای باز و مدرن کار میکنی، Apache Iceberg یکی از مهمترین چیزهاییـه که باید بشناسی. این فرمت جدولِ متنباز و سازگار، عملاً بهترینهای Data Lake و Database رو با هم قاطی کرده: هم انعطاف دریاچه داده رو داره، هم قابلاعتماد بودن دیتابیس رو. توی این دورهی عملی، یاد میگیری چطور جدولهای Iceberg رو برای کارهای واقعی و Production راهاندازی، مدیریت و بهینهسازی کنی.
از مفاهیم پایه مثل Hidden Partitioning، Schema Evolution و استراتژیهای مهاجرت داده شروع میکنیم و بعد میریم سراغ موضوعات پیشرفتهتر مثل مدیریت Concurrency، استراتژیهای نوشتن داده، و نگهداری جدولها. این دوره برای Data Engineerها، Analytics Engineerها، Data Platform Engineerها و Data Architectها طراحی شده که با Data Lake کار میکنن و میخوان زیرساخت دادهشون رو مدرن کنن. حتی اگه برنامهنویسی هستی و میخوای وارد دنیای داده بشی، یا نقش لید فنی داری و میخوای Iceberg رو برای سازمانت بررسی کنی، این دوره برات حسابی کاربردیه.
اهداف یادگیری
ساخت و پیکربندی یک Apache Iceberg Lakehouse
طراحی ساختارهای بهینه جدول با استفاده از Hidden Partitioning، Sort Order و Column Metrics برای افزایش سرعت کوئریها
مهاجرت داده از Hive Table، فایلهای Parquet، CSV و دیتابیسها به Iceberg
پیادهسازی گردشکارهای Production با Write-Audit-Publish، Branching برای تست و Rollback برای بازیابی
تغییر Schema و Partition Spec بدون داونتایم و بدون بازنویسی کامل داده
انجام عملیات نگهداری مثل Compaction فایلها، Metadata Compaction و Snapshot Expiration
تنظیم استراتژیهای نوشتن داده مثل Merge-on-Read و Copy-on-Write و همچنین Distribution Mode برای نیازهای مختلف
مدیریت عملیات همزمان و جلوگیری از Conflict در سناریوهای چندنویسنده
از مفاهیم پایه مثل Hidden Partitioning، Schema Evolution و استراتژیهای مهاجرت داده شروع میکنیم و بعد میریم سراغ موضوعات پیشرفتهتر مثل مدیریت Concurrency، استراتژیهای نوشتن داده، و نگهداری جدولها. این دوره برای Data Engineerها، Analytics Engineerها، Data Platform Engineerها و Data Architectها طراحی شده که با Data Lake کار میکنن و میخوان زیرساخت دادهشون رو مدرن کنن. حتی اگه برنامهنویسی هستی و میخوای وارد دنیای داده بشی، یا نقش لید فنی داری و میخوای Iceberg رو برای سازمانت بررسی کنی، این دوره برات حسابی کاربردیه.
اهداف یادگیری
ساخت و پیکربندی یک Apache Iceberg Lakehouse
طراحی ساختارهای بهینه جدول با استفاده از Hidden Partitioning، Sort Order و Column Metrics برای افزایش سرعت کوئریها
مهاجرت داده از Hive Table، فایلهای Parquet، CSV و دیتابیسها به Iceberg
پیادهسازی گردشکارهای Production با Write-Audit-Publish، Branching برای تست و Rollback برای بازیابی
تغییر Schema و Partition Spec بدون داونتایم و بدون بازنویسی کامل داده
انجام عملیات نگهداری مثل Compaction فایلها، Metadata Compaction و Snapshot Expiration
تنظیم استراتژیهای نوشتن داده مثل Merge-on-Read و Copy-on-Write و همچنین Distribution Mode برای نیازهای مختلف
مدیریت عملیات همزمان و جلوگیری از Conflict در سناریوهای چندنویسنده
سرفصل ها
مقدمه
- شروع به کار
اصول اولیه آپاچی آیسبرگ
- منظور از اینکه Apache Iceberg یک قالب جدول باز است چیست؟
- خانه کنار دریاچهای روباز
- مدلسازی دادهها در جدول آپاچی آیسبرگ
- پارتیشنبندی پنهان در جداول آپاچی آیسبرگ
- خلاصه ماژول اول
بهرهگیری از جداول آپاچی آیسبرگ
- انتقال دادههای موجود به Iceberg
- ویژگیهای شبیه به Git با Write-Audit-Publish و شاخهبندی و برچسبگذاری
- تکامل طرحواره برای جداول Iceberg
- تکامل پارتیشن برای جداول Iceberg
- خلاصه ماژول دو
بهرهبرداری و بهینهسازی آپاچی آیسبرگ
- وارد کردن دادهها به آپاچی آیسبرگ
- کپی هنگام نوشتن و ادغام هنگام خواندن
- مدیریت همزمانی در آپاچی آیسبرگ
- نگهداری میز برای Iceberg - اصول اولیه
- نگهداری جدول برای Iceberg - فشردهسازی و پاکسازی فایلهای رها شده
- نوشتن کارآمد در جداول Iceberg
- مرتبسازی سفارشات
- خلاصه ماژول سوم
دوره های مرتبط
- دوره آموزشی کار عملی با Apache Iceberg
- دوره آموزشی مبانی Apache Iceberg
- دوره آموزشی Apache Iceberg برای تجزیهوتحلیل دادهها و یادگیری ماشین
- دوره آموزشی DataOps با Apache Iceberg با استفاده از Spark، Nessie و Dremio
- دوره آموزشی مدیریت و بهینهسازی دادههای کلان با Apache Iceberg
- دوره آموزشی مقدمه ای بر Spark SQL و DataFrames
- دوره آموزشی Spark برای یادگیری ماشین و هوش مصنوعی (AI)
- دوره آموزشی تجزیه و تحلیل داده های عملی:بخش1 تجزیه و تحلیل داده های کارکنان با SQL
مسیرهای مرتبط
- مسیر آموزشی ارتقا مهارت های خود به عنوان یک متخصص اسپارک آپاچی
- مسیر آموزشی تبدیل شدن به یک استاد مهندسی داده
- مسیر آموزشی کاوش شغلی در مهندسی داده
- مسیر آموزشی از دانشمند داده به یک تحلیلگر داده تبدیل شوید
- مسیر آموزشی گواهینامه حرفهای مبانی مهندسی داده
- مسیر آموزشی ارتقا دادن مهارت های مهندسی داده
- مسیر آموزشی آماده شدن برای گواهینامه Databricks Certified Data Engineer Associate
- مسیر آموزشی تمرین عملی مهندسی داده