دفع فوق العاده اترنت

کنسرسیوم Ultra Ethernet (UEC) ، که آریستا بنیانگذار آن است ، سازمانی برای استانداردهایی است که برای بهبود اترنت برای نیازهای خواستار هوش مصنوعی (AI) و محاسبات با اثر بالا (HPC) طراحی شده است. بیش از 100 کشور عضو و 1000 شرکت کننده با توسعه اترنت همکاری کرده اند که منجر به انتشار اخیر مشخصات آن 1.0 شده است ، که منجر به تحقق سخت افزاری خواهد شد که به طور قابل توجهی کار خوشه را افزایش می دهد.

شکل 1 اهداف UEC و اعضای بنیانگذاران

در این وبلاگ ما به نیاز به Ultra Ethernet و فرصت های جدید ارائه شده خواهیم پرداخت.

از نظر تاریخی ، خوشه های AI/ML جزایر تخصصی و مستقل فناوری بودند. از آنجا که هوش مصنوعی/ML به تجارت بسیار مهم شده است ، نیاز به یک الگوی متداول فناوری وجود دارد که با چارچوب های مالی ، عملیاتی و امنیتی موجود و امنیت ادغام می شود. اترنت و IP دارای سابقه سازگاری اثبات شده بیش از 50 سال هستند و راه حل های پیشرفته شبکه های اترنت ، مانند نمونه کارها Etherlink ™ Arista ، قبلاً برای بخش بزرگتر AI Accelerators (XPU) انتخاب شده اند.

عنصر اصلی چشم انداز UEC این است که بازده اترنت را به سطح بعدی برساند ، و در مورد دسترسی مستقیم از راه دور به حافظه (RDMA) به عنوان یک برنامه محلی اترنت ، تجدید نظر کنید. RDMA برای موفقیت هر دو برنامه AI و HPC بسیار مهم است ، زیرا به سیستم ها و پردازنده ها اجازه می دهد تا مستقیماً داده ها را با سرعت بالا ، در حال حاضر 400 گیگابیت بر ثانیه ، با 800 گیگابیت بر ثانیه در آینده نزدیک تبادل کنند. این ارتباطی مؤثر توزیع بارها به سرورها و پردازنده های متعدد را تسهیل می کند و از محاسبات موازی در هزاران شتاب دهنده پشتیبانی می کند.

RDMA شامل گلهای با جریان بالا است و مقدار زیادی جریان را همزمان می کند ، که چالش هایی برای شبکه های اترنت بهینه نشده است. بدون ویژگی های سوئیچینگ پیشرفته ، جریانهای بزرگ برای جلوگیری از احتقان ، ریختن کابوس هایی را ایجاد می کنند که نیاز به توزیع تقریباً کامل ترافیک دارند. راه اندازی سریع و خاتمه جریانهای RDMA الگوریتم های سنتی را برای کنترل اندازه گیری زمان پاسخ اندازه گیری ارائه می دهد. در حالی که پیشرفت هایی مانند EtherLink آریستا در حال حاضر به طور قابل توجهی کارایی را فراتر از رویکردهای جایگزین بهبود می بخشد ، سطح بعدی بهینه سازی جهانی نیاز به تجدید نظر در نحوه تعامل برنامه های کاربردی با شبکه دارد.

در اینجا حمل و نقل Ultra Ethernet (UET) طراحی شده است تا RDMA را به یک اترنت محلی تبدیل کند و با در نظر گرفتن معناشناسی جدید توزیع ترافیک و کنترل احتقان مدرن بر روی لایه های استاندارد اترنت و IP. UET قصد دارد بدون نیاز به زیرساخت های خاص خود ، نیازهای بارهای HPC مدرن و سنتی را برآورده کند.

شکل 2 قالب UET بسته

جنبه های اصلی حمل و نقل فوق اترنت (UET)

UET محدودیت های شبکه سنتی RDMA از چندین زاویه را برای ارائه یک الگوی حمل و نقل کامل جدید برای بارهای HPC و AI/ML می پردازد. ما به برخی از نوآوری های زیر خواهیم پرداخت:

کتابخانه های بومی: برای دستیابی به حداکثر کارآیی ، UET به طور موثری یک لایه حمل و نقل محلی را برای API Ubiquitous Libfabric 2.0 تحقق می بخشد. برای بسیاری از برنامه ها ، انتقال به UET آسان است و نیاز به تغییر حداقل یا بدون برنامه دارد.

تغییر مسیر ترافیک بهینه: مفهوم اصلی UET تکامل توزیع سنتی ترافیک مبتنی بر ترافیک به بسته های پاشش بر اساس منابع است. بر خلاف راه حل های خاص خود ، UET برای پاشیدن بسته ها برای انواع پیام ها بر روی زمین ساخته شده است و بهره وری بهینه از هر لایه را ارائه می دهد.

مدیریت اتصال پیشرفته و احتقان: روشهای سنتی برای تنظیم اتصالات جدید (به عنوان مثال دست 3 طرفه) زمان و منابع شدید است. الگوریتم های احتقان برای مدلهای متداول متداول بهینه شده و بازیابی از دست دادن بسته ها باعث می شود عملیات ناکارآمد “Go-Back-N” ، که به بسیاری از بسته ها نیاز دارند ، و بر خود گیرنده تأثیر می گذارد. UET بهینه سازی قابل توجهی را برای همه این موارد فراهم می کند ، از جمله:

• پیوندهای efhimatic: راه اندازی سریع اتصال را فعال کنید ، قبل از شروع داده ها ، تأخیر Shuffle را با یک سفر دور از بین ببرید.
• رله انتخابی: انتقال مجدد بسته های از دست رفته فردی را فعال می کند و تأثیر شبکه تمام وقت را برای زمان سفر به یک بسته کاهش می دهد.
• هرس بسته: این به طور موثری هم گیرنده و هم یک گیرنده را از دست دادن بسته ها و احتقان مطلع می کند ، که امکان کاهش سریع و بهبودی را فراهم می کند.
• احتقان سیگنال (NSCC) تراکم: یک الگوریتم مبتنی بر فرستنده که هنگام تشخیص احتقان سرعت انتقال را طی می کند.
• کنترل اضافه بار اعتبار برای گیرنده (RCCC): مکانیسم مبتنی بر یک گیرنده برای مدیریت سناریوهای “ساخته شده” با کنترل سرعت ترافیک فرستنده.

امنیت: با توجه به ارزش مدل های هوش مصنوعی و مالکیت معنوی ، امنیت داده ها در هنگام پرواز به ویژه در بسیاری از مستاجران ضروری است. UET با امنیت به عنوان یک هدف اصلی رفتار می کند ، و بر اساس یک طرح اصلی گروه پیشرفته گروهی که به همه اعضای شغل (به عنوان مثال همه XPU برای یک مستاجر) اجازه می دهد در یک حباب رمزگذاری شده کار کنند ، از داده ها محافظت می کنند و از داده ها در برابر مدل قرار گرفتن در معرض و پیشگیری از نمایشگاه محافظت می کنند.

به طور خلاصه ، مشخصات UEC ارتباط بین برنامه های AI/HPC و شبکه ها را مدرن می کند. با ادغام نزدیک به معناشناسی برنامه های رفتار شبکه ، یک مکانیسم حمل و نقل محلی ایجاد می کند که نقاط قوت RDMA را با بهترین راه حل های اترنت در کلاس ترکیب می کند و یک پایگاه قدرتمند برای نسل بعدی برنامه ها تشکیل می دهد.

شکل 3 نمونه کارها Etherlink از Arista

آریستا ، به عنوان تأمین کننده پیشرو در راه حل های پیشرفته اترنت برای خوشه های AI/ML و بنیانگذار UEC ، به این دیدگاه متعهد است. از آنجا که پرتفوی فعلی EtherLink اکنون برای تلاش های UET و مداوم برای توسعه سیستم های آینده و همکاری با سایر پیشگامان برای ایجاد شبکه های بهینه اترنت برای محاسبات بسیار کارآمد آماده است ، ما مشتاقانه منتظر تقویت اترنت به عنوان یک ارتباط جهانی هستیم. برای اطلاعات بیشتر در مورد UET ، لطفاً تصویر سفید ما را در اینجا مرور کنید.

منابع:

تصویر سفید فوق العاده اترنت

کنسرسیوم Ultra Ethernet مشخصات 1.0 را راه اندازی می کند

کنسرسیوم فوق العاده اترنت

مشخصات فوق العاده اترنت

کاغذ سفید فوق العاده اترنت

نمونه کارها Arista 800G

مرکز شبکه هوش مصنوعی

سایت وبلاگ های آریستا