جنبه های متعدد پارچه های هوش مصنوعی

از آنجایی که منابع محاسباتی برای پاسخگویی به نیازهای مدل‌های هوش مصنوعی مولد در مقیاس بزرگ (AI) مقیاس می‌شوند، شبکه نقش مهمی در بهبود استفاده از چرخه‌های با ارزش پردازنده‌های شتاب دهنده (XPU) دارد. این شبکه مدیر عملکرد هوش مصنوعی شده است! هر بسته مسدود شده، هر میکروثانیه ازدحام مستقیماً به درآمد از دست رفته تبدیل می شود. علاوه بر این، شبکه‌های بهینه‌سازی شده می‌توانند عملکرد هوش مصنوعی پنهان را در سیستم‌های XPU توزیع‌شده باز کنند و بهره‌وری و هوشمندی را در مقیاس آزاد کنند. در دنیای مدل‌هایی با تریلیون‌ها پارامتر و استنتاج بلادرنگ، عملکرد شبکه عملکرد خود هوش مصنوعی را تعیین می‌کند. توپولوژی و طراحی صحیح شبکه باید به عنوان ستون فقرات برگ پیاده سازی شود. مقیاس، مقیاس و مقیاس سه استراتژی کلیدی هستند که در طراحی زیرساخت شبکه برای اتصال و مقیاس شتاب‌دهنده‌های هوش مصنوعی استفاده می‌شوند. بیایید این سه پارچه مشبک هوش مصنوعی را بررسی کنیم.

گسترش: پرسرعت XPU Interconnect Intra Rack

مقیاس گذاری عمودی XPU را می توان با اتصال چندین گره محاسباتی در یک رک با استفاده از سوئیچ های شبکه غیر مسدود کننده و با تأخیر کم برای دستیابی به انسجام حافظه مشترک به دست آورد. این به بارهای کاری هوش مصنوعی توزیع شده در چندین XPU در یک رک اجازه می دهد تا به حافظه تلفیقی به عنوان یک منبع غول پیکر از منابع دسترسی داشته باشد. به این ترتیب، XPU ها می توانند از طریق ارتباطات غیرمسدود همه به همه، با استفاده از حافظه تلفیقی برای به اشتراک گذاری همه به روز رسانی های داده در استخر مشترک با همه XPU ها به طور همزمان، با یکدیگر هماهنگ شوند. مزیت این روش سادگی آن است: محاسبات محلی را شامل می شود و به دلیل تراکم محاسباتی بالاتر می تواند منجر به بهبود عملکرد قابل توجهی شود.

طراحی‌های مدرن تراکم XPU را از طریق خنک‌سازی مایع بهبود می‌بخشند، و شتاب‌دهنده‌های هوش مصنوعی بیشتری را روی یک قفسه مقیاس‌پذیر با کاهش تولید گرما و به نوبه خود، مصرف انرژی امکان‌پذیر می‌سازند. این با پیوندهای کم مصرف و پهنای باند بالا مانند مس بسته بندی شده یا فیبر نوری (CPC/CPO) که پیوند را فراهم می کند تکمیل می شود. چنین ادغام فشرده منجر به اتکای قابل توجهی به عناصر فردی می شود. بنابراین، مسائلی مانند خرابی پیوند یا خطاهای حافظه می‌توانند باعث قطع ارتباط در سراسر گره شوند، که حل آن را از طریق کنترل‌های ترافیک جمعی مناسب در بافت کوچک شده ضروری می‌سازد.

مقیاس بندی: رک های اینترکانکت XPU با سرعت بالا

کاهش مقیاس یا مقیاس افقی شامل اضافه کردن ماشین های بیشتر به یک سیستم، جابجایی بار کاری بین چندین سرور یا گره، یا حتی اتصال عناصر دیگر مانند ذخیره سازی، CPU های همه منظوره و اتصال WAN است. سیستم‌های مقیاس‌بندی می‌توانند دو حالته باشند و در هر دو الگوی شرقی-غربی و شمالی-جنوبی در حال انتقال باشند. آنها برای یادگیری و استنتاج توزیع شده ایده آل هستند، جایی که وظایف را می توان در چندین گره موازی کرد تا مجموعه داده های عظیم و آموزش مدل را مدیریت کند. عملکرد یک شبکه در مقیاس بزرگ توسط اقتصاد توپولوژی شبکه هدایت می شود. با استفاده از یک رادیکس عظیم، اپراتورها می توانند تعداد XPU های موجود در یک شبکه دو لایه تخت را به حداکثر برسانند. این همان پهنای باند نصف شده را بدون نیاز به لایه فرستنده گیرنده و تعداد فیبر اضافی برای هاب های هوش مصنوعی حفظ می کند.

Scale Across: عملکرد هوش مصنوعی برای فواصل و مکان ها

Scale-cross با اتصال خوشه ها یا طبقات هوش مصنوعی جدا شده فیزیکی در فواصل زیاد، امکان گسترش در مراکز داده چندگانه را فراهم می کند. این معماری به وظایف آموزشی اجازه می دهد تا تعداد زیادی از XPU ها را در بر گیرند و منابع جغرافیایی توزیع شده را برای دستیابی به ظرفیت کل مورد نیاز برای مدل های مرزی جمع آوری کنند. این به یک زیرساخت قوی نیاز دارد که اینترنت، ذخیره‌سازی، WAN و لایه‌های نوری را از طریق توابع مسیریابی پیچیده و بافرهای عمیق سلسله مراتبی مورد نیاز برای جذب تراکم گذرا و انفجارهای ذاتی در بارهای کاری هوش مصنوعی توزیع شده یکپارچه کند. ادغام مهندسی ترافیک پیشرفته، رمزگذاری قوی، و مسیریابی پیشرفته تضمین می‌کند که خوشه‌های محاسباتی هوش مصنوعی در بین چندین مستأجر انعطاف‌پذیر و ایمن باقی می‌مانند.

شبکه سازی برای مرکز هوش مصنوعی: آموزش و نتیجه گیری

The Next Frontier – معرفی پارچه های هوش مصنوعی

با رشد بی‌امان حجم کاری هوش مصنوعی و تقاضای عملکرد، صنعت فراتر از شبکه‌های تک‌منظوره و مجزا به پارچه‌های هوش مصنوعی یکپارچه می‌رود. این معماری‌های کلاسیک ورق را به سیستم‌های هوشمند و چند جزئی تبدیل می‌کند که قابلیت‌های کوچک‌سازی، کوچک‌سازی و کوچک‌سازی را مطابق شکل زیر همگام‌سازی می‌کنند. در این الگوی فابریک، شبکه عملکرد قطعی مبتنی بر RDMA مورد نیاز برای خوشه‌های کوچک‌تر را با مدیریت ترافیک پیشرفته در مقیاس مورد نیاز برای استقرار توزیع‌شده گرد هم می‌آورد. با هماهنگ کردن شبکه‌های سخت‌افزاری و نرم‌افزاری، مشتریان می‌توانند همزمان سادگی اقتصادی یک طراحی دو لایه را به دست آورند و در عین حال از هزاران تا میلیون‌ها شتاب‌دهنده هوش مصنوعی را مقیاس‌بندی کنند.

پلتفرم‌های AI Etherlink™ Arista، پروتکل Multipath Reliable Connection (MRC) را از طریق خرد کردن بسته‌ها با تسریع سخت‌افزار و بافر هوشمند برای به حداقل رساندن تأخیر صف بهینه می‌کنند. ارکستراسیون چندسطحی ترافیک را در صفحات پارچه مستقل برای عملکرد قطعی و افزایش انعطاف پذیری جدا می کند. در این مقیاس عظیم، پرچم‌دار 7800 AI Spine یک لایه ستون فقرات رادیکال بالا را به توپولوژی‌های شبکه مترو معرفی می‌کند، که ترافیک بین خوشه‌ها را تخلیه می‌کند و مسیریابی یکپارچه با عملکردی بی‌نتیجه را امکان‌پذیر می‌کند.

پارچه های هوش مصنوعی یک معماری سازگار و انعطاف پذیر ارائه می دهند

بیش از یک دهه پیش، Arista برای جایگزینی شبکه‌های مرکز داده قدیمی 3 لایه‌ای سفت و سخت و متراکم، معماری جهانی برگ-پایه (CLOS) را پیشگام کرد. الگوهای ترافیک از شرق به غرب به انفجارهای گسترده، هماهنگ و همه جانبه یا کاهش دهنده ارتباطات جمعی برای یادگیری و استنتاج هوش مصنوعی تغییر کرده است. در همان زمان، ظرفیت پهنای باند مورد نیاز در حال انفجار است، از 112G SerDes به 224G و به زودی 448G در هر خط، که منجر به ترابیت های نمایی عملکرد در مقیاس و توان عملیاتی می شود.

هاب های هوش مصنوعی مدرن باید با تغییر الگوهای ترافیک سازگار شوند. فرد باید به طور همزمان هم جریان فیل های همزمان آموزش عظیم و هم ازدحام کم تاخیر همزمان استنتاج بلادرنگ را مدیریت کند. توپولوژی‌های استاتیک سنتی اغلب با این غیرقابل‌پیش‌بینی‌ناپذیری دست و پنجه نرم می‌کنند، که منجر به لرزش نقطه داغ می‌شود که زمان تکمیل کار (JCT) را کاهش می‌دهد یا زمان تا اولین نشانه به استنتاج (TTFT) را افزایش می‌دهد. پارچه‌های هوش مصنوعی که L1/L2/L3 با طراحی‌های شبکه کنترل و مدیریت داده سازگار هستند، بر این تأخیرها غلبه می‌کنند. پارچه‌های هوش مصنوعی را می‌توان به‌عنوان طرح‌های چند صفحه‌ای برای افزایش بیشتر پایداری و مقیاس در نظر گرفت. نمونه ای از این بهینه سازی پروتکل Multipath Reliable Connection (MRC) از طریق برش بسته با شتاب سخت افزاری و بافر هوشمند، همراه با پشتیبانی از شناسه میکروبخش SRv6 (uSID) در EOS است.^Ⓡبرای به حداقل رساندن تاخیر صف، اجازه می دهد تا کنترل دقیق منبع هدایت شود. ارکستراسیون چندسطحی ترافیک را در صفحات پارچه مستقل برای عملکرد قطعی و افزایش انعطاف پذیری جدا می کند.

همانطور که مدل‌های هوش مصنوعی مبتنی بر عامل، موازی‌سازی را افزایش می‌دهند و تراکم شتاب دهنده (XPU) همچنان در حال رشد است، AI Fabric استحکام بین محاسبات اختصاصی و شبکه‌های خوشه‌ای در مقیاس بالا را حذف می‌کند. در مقیاس، ستون فقرات SerDes 200G شبکه‌های مقیاس‌پذیری اترنت (ESUN) را قادر می‌سازد، و اتصال متقابل معنایی حافظه و زیر میکروثانیه را فراهم می‌کند که به عنوان یک جایگزین استاندارد باز برای اتصال‌های داخلی اختصاصی عمل می‌کند. به طور همزمان، در مقیاس، پارچه فراتر از مسیریابی استاتیک به تعادل بار توپولوژیکی خوشه ای (CLB) حرکت می کند.

در محیط‌های Scale-Across، 7800 AI Spine همچنین از SRv6 برای یکپارچه‌سازی صفحه داده‌ها در سایت‌های پراکنده جغرافیایی استفاده می‌کند و یک معماری مسیریابی بدون حالت انتها به انتها ارائه می‌کند. نتیجه یک چارچوب هوش مصنوعی یکپارچه است که حجم های کاری هوش مصنوعی را به صورت پویا در حین اجرا بهینه می کند. تمایزکننده های Arista EOS الاستیسیته عملیاتی مورد نیاز برای حرکت از شبکه های سیلد و اختصاصی به یک پارچه هوش مصنوعی واقعا باز و مولد را فراهم می کنند.

با ورود به عصر هوش مصنوعی مولد، وب به بافت ذاتی تبدیل شده است، یا نوار لاستیکی صفحه پشتی زیرساخت هوش مصنوعی. معرفی این معماری یک ضرب‌کننده نیرو برای بار کاری هوش مصنوعی است که میلیاردها پارامتر و میلیون‌ها توکن در ثانیه تولید می‌کند. Arista با یک کلاس پیشگام از پارچه‌های ورق طراحی شده برای عصر عامل هوش مصنوعی، سطح را دوباره بالا می‌برد و امکان استفاده بیشتر، یادگیری سریع‌تر و تأخیر استنتاج کمتر را برای پارچه‌های بدون درز، مقیاس‌پذیر و متنوع هوش مصنوعی با مجموعه Etherlink Arista فراهم می‌کند. به عصر جدید هاب های هوش مصنوعی خوش آمدید!

مراجع

محصولات Etherlink

کتاب سفید شبکه های هوش مصنوعی

ویدئوی اکوسیستم هوش مصنوعی

پروژه Glasswing/Mythos