مقالات

تقویت مراکز هوش مصنوعی با ستون های هوش مصنوعی


معماری‌های برگی-پایه به‌طور گسترده در فضای ابری به کار گرفته شده‌اند، مدلی که از سال 2008 توسط Arista پیشگام و رایج شد. شاسی پرچمدار Arista 7800 اصول اصلی ابر را در بر می‌گیرد – مقیاس پیشرو در صنعت، پارچه بدون تلفات، تأخیر بسیار کم، قابلیت مشاهده قدرتمند و انعطاف‌پذیری داخلی. به Universal AI Spine تبدیل شده است، و مقیاس عظیم، عملکرد قابل پیش بینی و پشتیبانی از رابط پرسرعت را ارائه می دهد. Arista 7800 به ویژگی‌های قدرتمندی مانند صف خروجی مجازی (VOQ) برای حذف انسداد صف اصلی و بافرهای بزرگ برای جذب میکرو انفجارهای هوش مصنوعی و جلوگیری از طوفان‌های PFC مجهز است.

تغییر چهره شبکه های هوش مصنوعی

شتاب دهنده ها نیازهای شبکه ای را افزایش داده اند که همچنان در حال رشد و تکامل هستند. شبکه‌های هوش مصنوعی فردا باید 1000 برابر یا بیشتر بار کاری را برای مدل‌های مرزی آموزش و استنتاج انجام دهند. برای آموزش، معیار کلیدی زمان تکمیل کار (JCT) است، زمانی که خوشه XPU برای تکمیل یک کار طول می کشد. در نتیجه، معیار کلیدی متفاوت است. این زمان برای پردازش توکن ها طول می کشد. Arista مجموعه ای از ویژگی های هوش مصنوعی جامع را برای مدیریت منحصر به فرد هوش مصنوعی و دقت حجم کار ابری در انواع، مدت زمان و اندازه جریان ها و الگوهای ترافیک ایجاد کرده است.

برای پرداختن به این موضوع، مجموعه شبکه‌های شتاب‌دهی Arista از سه خانواده پارچه Etherlink Spine-Leaf تشکیل شده است که ما با موفقیت در حال استقرار در آن هستیم. زوم، زوم و بزرگنمایی پروژه های شبکه

هوش مصنوعی به کمک می آید

رشد انفجاری در پهنای باند مورد نیاز XPUها منجر به تکامل ستون فقرات سنتی به کلاس جدیدی از جهش‌های هوش مصنوعی هدفمند شده است. سه عامل اصلی به مقیاس کمک می کند.

  • رشد پهنای باند دو بخش: پهنای باند تقسیم بر دو اساساً پهنای باند شبکه “بیرون و عرض” است. همانطور که حجم کاری پیچیده تر و توزیع شده تر می شود، پهنای باند متقابل شبکه باید به آرامی مقیاس شود زیرا دستگاه های اضافی برای جلوگیری از تنگناها و حفظ عملکرد اضافه می شوند.
  • تخریب جمعی: با گسترش یا بسط، ارتباطات جمعی می تواند به مانع تبدیل شود. سیستم باید از سقوط عملکرد از صخره جلوگیری کند زیرا گره های بیشتری درگیر هستند.
  • استفاده پایدار از XPU در دنیای واقعی (~75 درصد، نه 50 درصد. هدف اوج نظری نیست. این در مورد حفظ سیستم در انجام کار مفید در مقیاس، به طور مداوم، تحت شرایط مشابه تولید است.

انطباق با مقیاس عظیم از هاب های هوش مصنوعی

برای کاربردهای هوش مصنوعی در مقیاس فوق العاده که به ده ها هزار XPU برای اتصال در یک مرکز داده نیاز دارند، و در برخی موارد تا 100 هزار XPU موازی، طراحی برگ جهانی Arista ساده ترین، انعطاف پذیرترین و مقیاس پذیرترین معماری را برای پشتیبانی از بار کاری هوش مصنوعی ارائه می دهد. Arista EOS تعادل بار هوشمند را در زمان واقعی فعال می کند که استفاده واقعی از شبکه را برای توزیع یکنواخت ترافیک و جلوگیری از برخورد جریان در نظر می گیرد. قابلیت های تله متری پیشرفته آن، مانند AI Analyzer و Latency Analyzer، به اپراتورهای شبکه دید واضحی از آستانه پیکربندی بهینه می دهد و تضمین می کند که XPU ها می توانند توان عملیاتی خط شبکه را بدون از دست دادن بسته حفظ کنند. بسته به مقیاس خوشه هوش مصنوعی، گزینه‌های برگ هوش مصنوعی می‌توانند از پلت‌فرم‌های ثابت هوش مصنوعی تا پلت‌فرم‌های مدولار سری ۷۸۰۰ با ظرفیت بالا متغیر باشند.

جدیدترین AI Spine Arista – 7800R4

Arista’s 7800R4 جایگزینی است که بازی را تغییر می‌دهد برای طرح‌های سنتی جداشده از برگ‌های ستون فقرات که بر پارچه کاملاً روت‌شده L3 EVPN/VXLAN تکیه دارند و به جعبه‌های مجزای زیادی نیاز دارند که در چندین قفسه متصل شوند. عیب یابی دیگر یک تمرین یک لایه نیست. این نیاز به پیمایش چند لایه صفحه کنترل و صفحه داده و همچنین تعاملات همپوشانی و پد دارد. حتی تشخیص های معمول می تواند زمان بر و مستعد خطا باشد. پلت فرم ستون فقرات هوش مصنوعی 7800R4 پیچیدگی نرم افزار غیر ضروری، افزایش مصرف انرژی و هزینه های عملیاتی ذاتی در طرح های جدا شده از ستون مهره ها را حذف می کند. در عوض، راه‌حلی زیبا و یکپارچه ارائه می‌کند که عیب‌یابی به‌طور قابل‌توجهی آسان‌تر است و با اطمینان از زمان‌های تکمیل کار و بهره‌وری قابل اعتماد، به کاهش تنگناها کمک می‌کند. ستون فقرات 7800 AI عملکردهای صفحه کنترل، نیرو، خنک کننده، انتقال داده و مدیریت را در یک سیستم واحد و یکپارچه ادغام می کند. مشتریان اکنون از یک نقطه متمرکز پیکربندی، نظارت و تشخیص بهره می برند – که مستقیماً یکی از مهم ترین اولویت های مشتری در بارهای کاری هوش مصنوعی را هدف قرار می دهد: سادگی عملیاتی با عملکرد قابل پیش بینی RDMA، همانطور که در زیر نشان داده شده است.

برای دوام طراحی شده است

پارچه 7800 ذاتا خود ترمیم شونده است. اتصالات داخلی اتصال سیلیکون ورودی، ماژول های بافت و سیلیکون خروجی با شتاب داخلی طراحی شده اند و به طور مداوم در حین کار نظارت می شوند. اگر پیوند فابریک آسیب ببیند، به طور خودکار از مسیر برنامه ریزی حذف می شود و تنها پس از بازیابی بازیابی می شود. این انعطاف پذیری خودکار بار عملیاتی را کاهش می دهد و رفتار سیستمی سازگار و قابل پیش بینی را تضمین می کند.

7800 برای دسترسی بالا، از جمله ماژول های نظارتی اضافی، کارت های فابریک و منابع تغذیه طراحی شده است. همه اجزای اصلی – ماژول‌های برد، کارت‌های خط، منابع تغذیه و سرپرست‌ها – قابل تعویض هستند که بازیابی سریع خرابی‌های سخت‌افزاری را تضمین می‌کند و وقفه سرویس را به حداقل می‌رساند. این سطحی از ظرافت را ارائه می دهد که جعبه های فردی به سختی می توانند با آن مطابقت کنند. از یک پارچه VOQ زمان‌بندی شده با بافر سلسله مراتبی استفاده می‌کند، که به بسته‌ها اجازه می‌دهد تا به طور موثر از ورودی به خروجی بدون گلوگاه یا برخورد بسته‌ها حرکت کنند. از آنجایی که بافر در هنگام ورود انجام می‌شود، هر افت بسته مرتبط با تراکم محلی و قابل پیش‌بینی است و در صورت بروز مشکلات، تجزیه و تحلیل علت ریشه را بسیار ساده می‌کند. نقاط قوت اصلی معماری 7800 عبارتند از:

  • حافظه بافر عمیق، انفجارهای تراکم را جذب می کند تا انتقال هوش مصنوعی بدون تلفات را فراهم کند
  • کنترل از دست دادن بسته برای جلوگیری از دست دادن بسته
  • بافر بسته سلسله مراتبی در مرزهای DCI / WAN می تواند به استقرار XPU ها از فروشندگان مختلف اجازه دهد.

AI Spines آمده است

7800 AI Spine هسته ای است که بسیاری از توپولوژی ها و خوشه های توزیع شده را به هم متصل می کند. در مدت زمان کوتاهی، Arista مجموعه ای غنی از 20+ سوییچ Etherlink ایجاد کرده است که سرعت 400G/800G/1.6Tbps را برای موارد استفاده از هوش مصنوعی امکان پذیر می کند. Arista مسئولیت خود را برای ایجاد یک اکوسیستم هوش مصنوعی باز و سازگار با شرکت های پیشرو مانند AMD، Anthropic، Arm، Broadcom، Nvidia، OpenAI، Pure Storage و Vast Data می شناسد. شبکه‌سازی هوش مصنوعی به یک پشته نرم‌افزاری و ستون فقرات هوش مصنوعی مدرن نیاز دارد که بتواند از مدل‌های یادگیری و استنتاج پایه پشتیبانی کند که توکن‌ها را در مقیاس ترافلوپ در پارچه‌های کلاس ترابیت پردازش می‌کند. به عصر جدید AI Spines و مراکز AI خوش آمدید!

مراجع:




Source link

نوشته های مشابه

دیدگاهتان را بنویسید

همچنین ببینید
بستن
دکمه بازگشت به بالا