تمام شبکه های اترنت AI

هوش مصنوعی (AI) ، با استفاده از واحدهای پردازش شتاب (XPU) مانند GPU و TPU ، صنایع را تبدیل می کند. اتصال شبکه مرتبط با این پردازنده ها برای مؤثر و موفقیت آمیز وارد شده به هوش مصنوعی بسیار مهم است. بارهای هوش مصنوعی ، از جمله آموزش فشرده و عفونت سریع ، به پهنای باند بسیار بالایی که با تأخیر کم و مداوم و بالاترین قابلیت اطمینان برای افزایش استفاده از XPU و کاهش عملکرد AI برای انجام (JCT) مرتبط است ، نیاز دارند. بهترین شبکه نژاد با بهینه سازی های خاص هوش مصنوعی برای تهیه برنامه های هوش مصنوعی بسیار مهم است و هرگونه تأخیر در JCT منجر به از دست دادن درآمد می شود. بارهای معمولی دارای توزیع بسیار کم ، بسیار زیاد ، جریان های آنتروپیک کم که برای دوره های طولانی انجام می شود ، تبادل پیام های همزمان بزرگ ، که نیاز به تغییر مسیر پیشرفته بدون ضرر و ابزارهای عملیاتی تخصصی دارد. آنها از ترافیک شبکه ابری متفاوت هستند ، همانطور که در زیر خلاصه شده است:

شکل 1: مقایسه در بارهای هوش مصنوعی با شبکه های ابری سنتی

مراکز هوش مصنوعی: ساخت طرح های بهینه شبکه هوش مصنوعی

با 30-50 ٪ از زمان پردازش صرف شده در تبادل داده از طریق شبکه ها ، تأثیر اقتصادی بهره وری شبکه در خوشه های هوش مصنوعی قابل توجه است. مشکلات شبکه منجر به چرخه های خالی XPU می شود و هر دو سرمایه را در پردازش و هزینه های انرژی و هزینه های خنک کننده از دست می دهد. بنابراین ، شبکه بهینه برای عملکرد مرکز AI بسیار مهم است.

مراکز هوش مصنوعی از معماری های بزرگ شبکه و بزرگ شبکه تشکیل شده است. شبکه های مقیاس پذیر علاوه بر این به شبکه های جلو و عقب تقسیم می شوند.

1. یک شبکه بزرگ در مقیاس (پارچه محاسباتی XPU): این شبکه از یک روابط خط بالایی تشکیل شده است که به شدت چندین شتاب دهنده (XPU) را در یک تنه متصل می کند و به آنها امکان می دهد حافظه و عملکرد مرتبط با XPU را به عنوان یک سیستم محاسباتی متحد برای تسهیل موازی بودن بار به اشتراک بگذارند.
2. شبکه اسکن پشتی: اختصاص داده شده به اتصال XPU از طریق قفسه هایی که از الزامات فشرده برای ارتباطات آموزش AI و نتیجه گیری های بزرگ در مقیاس پشتیبانی می کنند. این شبکه برای پهنای باند بالا و حداقل تأخیر طراحی شده است ، که امکان پردازش موازی موازی و آموزش اختصاص یافته را فراهم می کند.
3. FORE End Network: این شبکه خوشه را به کاربران خارجی ، منابع داده و ذخیره سازی ، پردازش داده ها ، مدیریت و ارکستراسیون برای کارهای هوش مصنوعی متصل می کند. برای آموزش ، تحویل آماده منبع تغذیه مدل را فراهم می کند ، در حالی که برای عفونت ، انتهای جلو خوشه AI را با مشتریان متصل می کند و تعامل پاسخگو را برای تجربه بهینه کاربر ارائه می دهد.

شکل 2: مراکز AI در شبکه های بزرگ و بزرگ ساخته شده اند

Arista Champions Open ، مبتنی بر استانداردها (تعریف شده توسط کنسرسیوم فوق اترنت) به عنوان پایه و اساس مرکز جهانی AI با کارایی بالا ، با استفاده از اکوسیستم اترنت وسیع ، نوآوری سریع ، یک استخر استعداد بزرگ ، قابلیت مدیریت بالغ ، سخت افزار برق ، سخت افزار نرم افزار و حمایت از سرمایه گذاری.

راه حل های Arista به کل مسیر داده AI ، از اتصال مقیاس در قفسه های سرور گرفته تا جبهه مقیاس به عقب و همچنین Alor ARES Acros که توسط سیستم عامل قابل توسعه پرچمدار آریستا اداره می شود ، پرداخته است (EOS^ⓡ) و یک هواپیمای مدیریتی (CloudVision^ⓡ).

Arista بهترین انتخاب عملکرد فوق العاده بالا را ارائه می دهد که منجر به سوئیچ های اترنت می شود که برای مقیاس بندی شبکه های AI بهینه شده اند. آریستا از همه اندازه ها مراقبت می کند ، از جداسازی راه حل های 1 جعبه ای که از ده ها شتاب دهنده تا بیش از هزار نفر نمره می گیرند ، تا یک شبکه دو لایه و 3 سرعته مؤثر برای صدها هزار میزبان ، همانطور که در شکل 3 نشان داده شده است.

شکل 3: راه حل های جذاب آریستا برای مقیاس بندی شبکه

سه اتریلینک^TM خانواده های محصولات و بیش از 20 محصول انتخاب عوامل شکل و مدل ها را برای اجرای ارائه می دهند و بسیاری از بزرگترین و پیشرفته ترین شبکه های Cloud/AI و شبکه های هوش مصنوعی شرکت را امروز هدایت می کنند. این محصولات همچنین با شبکه های کنسرسیوم فوق اترنت (UEC) سازگار هستند. سیستم های فعلی مبتنی بر فناوری سیلیکون کم قدرت 5 نانومتر و از اپتیک خطی برای گنجاندن (LPO) و کابل های DAC گشاد شده برای کاهش قدرت و کاهش هزینه هستند.

شروع پارچه های بزرگ AI اترنت

در حالی که شبکه مقیاس Etherlink آریستا سرورهای در مقیاس بزرگ را به هم وصل می کند ، بافت های در مقیاس بزرگ به سیستم ارتباط برقرار کردن فوق العاده بالا و کم نهفته در یک سرور یا سیستم مقیاس واحد می پردازند که مستقیماً شتاب دهنده ها را به هم متصل می کند. این امر برای برقراری ارتباط مؤثر در حافظه و محاسبات هماهنگ در واحدهای شتاب چندگانه در یک محیط محکم متصل ، همانطور که در شکل 4 در زیر نشان داده شده است ، بسیار مهم است.

شکل 4: اتصال مقیاس بر اساس اترنت

الزامات اساسی برای شبکه های در مقیاس بزرگ شامل پهنای باند بسیار بالا (باند فرکانس 8-10x از شبکه پشتی GPU) ، کار بدون ضرر ، کنترل جریان ریز دانه ، راندمان خط فرکانس بالا و تأخیر فوق العاده کم است. این ویژگی ها ارتباطات بین XPU را بهینه می کنند ، که امکان دسترسی مشترک به حافظه در چندین XPU را فراهم می کند. این معماری از تکنیک های حساس به تأخیر موازی ، از جمله داده ها ، تانسور و موازی سازی متخصص ، در این XPU ها پشتیبانی می کند. پیشرفت کلیدی برای بهبود اترنت برای برنامه های بزرگ در مقیاس توسعه یافته است. این موارد شامل تکرار لایه (LLR) و کنترل جریان مبتنی بر وام (CBFC) است که هدف آن اطمینان از مدیریت دقیق تر احتقان و ارائه مقیاس از راندمان NO NO NOWITS است.

مراکز AI را با عامل AI تسریع کنید

AI مولد و عامل پاکت شبکه AI را تحت فشار قرار می دهد. آریستا در صدر راه حل های اترنت برای مقیاس بندی (که از لحاظ تاریخی مالک است) و اتصالات در مقیاس بزرگ قرار دارد و نیاز به حمل و نقل ساده تر ، تأخیر کم ، بالاترین قابلیت اطمینان و کاهش هزینه های نرم افزاری را ارائه می دهد. این تکامل نوید می دهد آینده ای آزاد ، عملیاتی و متحد برای پارچه ها برای همه بخش های زیرساخت های شبکه هوش مصنوعی.

برنامه های AI در حال ظهور نیز به یک شبکه هوش مصنوعی پایدار نیاز دارند. Arista EOS و CloudVision نرم افزار شبکه را ارائه می دهند و ویژگی های خاصی را شامل می شوند که برای بار AI بهینه شده اند. داده های شبکه دریاچه آریستا (NetDL^TM) یک مخزن متمرکز است که دقت بالایی را از سیستم عامل های آریستا ، سیستم های کانتر سوم ، سرور NIC و مشاغل برنامه ریزی AI جذب می کند. NetDL پایه و اساس اتوماسیون و بهینه سازی شبکه AI-Fixed را تشکیل می دهد. قابلیت های اصلی بسته نرم افزاری Arista برای شبکه های AI شامل موارد زیر است:

تعادل بار پیشرفته: EOS با توجه به بار واقعی ، تعادل بار پویا (DLB) را ارائه می دهد ، و باعث تعادل بار بارگذاری RDMA با کمک دمها برای آنتروپی بهتر و متعادل کردن بار خوشه ها (CLB) می شود ، با اعتبار جهانی به هویت تأخیر دم هویت ،

مدیریت احتقان پایدار: EOS مرکز داده ، کنترل تراکم کوانتومی (DCQCN) را با احتقان صریح (ECN) (طول و پایه تأخیر) و کنترل جریان اولویت (PFC) با QoS RDMA-WWARE برای اطمینان از از دست دادن محیط ROCEV2 تحقق می بخشد.

نظارت بر کار: معیارهای معیارهای هوش مصنوعی با تله متری شبکه گرانول در زمان واقعی برای نمای پایان ، تشخیص ناهنجاری و عیب یابی شتاب را تصحیح می کند.

منبع تغذیه هوش مصنوعی و مراکز داده

تکامل روابط هوش مصنوعی یک روش واضح و تمایل به راه حل های مبتنی بر اترنت است. سازمان ها معماری های مبتنی بر استانداردهای باز را ترجیح می دهند و راه حل های مبتنی بر اترنت در دستیابی به بهره وری بالاتر ، تکامل مداوم را ارائه می دهند. معماری یکپارچه ، از خوشه تا مشتری ، با حداکثر اجرای تله متری غنی از برنامه ، امنیت داده ها و تجربه کاربر نهایی ، ضمن بهینه سازی سرمایه و هزینه های عملیاتی از طریق زیرساخت های قابل استفاده مجدد ، قابل استفاده مجدد و محافظت از سرمایه گذاری با انعطاف پذیری برای سازگاری با فناوری های نوظهور. به دوران جدید همه شبکه های AI اترنت خوش آمدید!

منابع:

AI Webinar 12 ژوئن

ویدیوی UEC 11 ژوئن

کاغذ سفید