Cloud Pathways گوگل در 2026؛ اجرای مقاوم مدل‌های بزرگ روی GKE و TPU

این سرویس چیست؟ Cloud Pathways یک runtime توزیع‌شدهٔ یادگیری ماشین در Google Cloud است که اجرای مدل‌ها و بارهای آموزشی را روی چندین برش TPU و هزاران شتاب‌دهنده هماهنگ می‌کند. این سرویس با کنترلر واحد، sidecarهای Python و تحمل خطای کشسان، مسئلهٔ مدیریت پیچیدهٔ زیرساخت‌های بزرگ هوش مصنوعی را ساده‌تر می‌کند.

گوگل در ۹ نوامبر ۲۰۲۶ اعلام کرد Cloud Pathways روی Google Kubernetes Engine یا GKE به‌صورت عمومی در دسترس است. این runtime بخشی از AI Hypercomputer گوگل است و برای تیم‌هایی طراحی شده که می‌خواهند آموزش یا inference مدل‌های بزرگ را روی ناوگان‌های ناهمگون و چندبخشی اجرا کنند. برای آشنایی با خدمات توسعه و زیرساخت می‌توانید وب‌سایت تکتاز را نیز ببینید.

Cloud Pathways چه مشکلی را حل می‌کند؟

در اجرای معمول چندکنترلرهٔ JAX، هر میزبان TPU مفسر Python و دید محدودی از دستگاه‌های متصل خود دارد. این مدل برای برنامه‌های ساده مناسب است، اما وقتی workload بین چند slice پخش می‌شود، هماهنگی منابع، اجرای ناهمگون و مدیریت خطا پیچیده و شکننده خواهد شد. Cloud Pathways با تکیه بر معماری single-controller، یک فرایند JAX را قادر می‌کند چند slice بزرگ TPU را مانند یک منبع یکپارچه ببیند.

گوگل می‌گوید این معماری در ۹۰ روز گذشته برای مشتریان و شرکت‌های هوش مصنوعی بیش از ۱۳۰ میلیون ساعت‌تراشهٔ Cloud TPU را روی GKE پردازش کرده است. این عدد نشان می‌دهد هدف Cloud Pathways فقط یک قابلیت آزمایشی نیست، بلکه برای بارهای تولیدی بزرگ و طولانی‌مدت ساخته شده است.

معماری single-controller و sidecarهای Python

کنترلر واحد در Cloud Pathways ارزیابی گراف، کش کامپایل در Cloud Storage و ارسال ناهمگام XLA HLO را بین sliceهای TPU مدیریت می‌کند. با تنظیم JAX_PLATFORMS=proxy و استفاده از pathwaysutils، یک کلاینت JAX می‌تواند توپولوژی چندین slice را از یک نقطه مشاهده و ارکستراسیون کند.

در کنار آن، sidecarهای Python روی میزبان‌های TPU قرار می‌گیرند و کارهایی مانند data loading توزیع‌شده و checkpointing را نزدیک compute انجام می‌دهند. این الگو باعث می‌شود منطق Python و داده‌رسانی، بدون انتقال غیرضروری به یک کنترلر مرکزی، با workload شتاب‌داده‌شده هماهنگ بماند.

تحمل خطا و ادامهٔ آموزش

یکی از مهم‌ترین ویژگی‌های Cloud Pathways، آموزش resilient و elastic است. با host-memory snapshot، در صورت از دست رفتن یک slice یا بخشی از سخت‌افزار، workload می‌تواند به‌صورت پویا روی ظرفیت N-۱ slice بازچینی شود و الزاماً از ابتدا شروع نشود. برای آموزش‌های چندروزه، این رفتار می‌تواند زمان توقف و هزینهٔ تکرار محاسبات را کاهش دهد.

با این حال، resharding جایگزین پایش نیست. تیم‌ها باید سلامت sliceها، checkpointها، صف‌های workload و زمان بازگشت ظرفیت را اندازه‌گیری کنند. همچنین لازم است سناریوهای قطع یک slice، maintenance برنامه‌ریزی‌شده و بازگشت به ظرفیت کامل در محیط staging آزمایش شوند.

دسترسی عمومی، TPUها و مسیر شروع

این runtime در مناطق Google Cloud که TPU v5e، TPU v5p، Trillium یا Ironwood روی GKE ارائه می‌شوند، در دسترس عمومی قرار گرفته است. imageهای نسخه‌دار آن در Artifact Registry گوگل منتشر می‌شوند و از JAX نسخهٔ 0.10.1+ پشتیبانی می‌کنند. ادغام با Cluster Director برای کلاسترهای TPU مبتنی بر Slurm هنوز در وضعیت Preview است.

برای شروع، تیم فنی باید مستندات Pathways on Cloud را بخواند، یک کلاستر GKE یا Slurm مناسب بسازد و workload را با راهنماهای batch، interactive notebook، آموزش مقاوم و multihost inference آزمایش کند. انتخاب معماری باید بر اساس اندازهٔ مدل، الگوی ارتباطی، هزینهٔ TPU و نیاز به ادامهٔ کار پس از خطای سخت‌افزار انجام شود.

جمع‌بندی عملی

Cloud Pathways گوگل تلاشی برای تبدیل اجرای مدل‌های بزرگ از مجموعه‌ای از کنترلرهای جداگانه به یک runtime یکپارچه و مقاوم است. single-controller، sidecarهای Python، کش کامپایل و resharding کشسان، چهار جزء اصلی این رویکرد هستند. برای تیم‌های AI و DevOps، ارزش واقعی آن زمانی مشخص می‌شود که آموزش‌های طولانی، inference چندمیزبانه و سناریوهای خرابی واقعی روی GKE اندازه‌گیری شوند.

پیش از استفاده در production، ظرفیت و هزینه را برآورد کنید، checkpoint و monitoring را آماده کنید و سناریوی N-۱ slice را در staging اجرا کنید. منبع این بررسی، اعلام رسمی Google Cloud است.