شبکه برای هوش مصنوعی و هوش مصنوعی برای شبکه*

در حالی که همه ما در حال بهبودی از GTC 2024 هیجان انگیز NVIDIA در سن خوزه هستیم که هفته گذشته در سن خوزه برگزار شد، به نظر می رسد اخبار پیشرفته هوش مصنوعی به سرعت و خشمگینانه منتشر می شود. اعلامیه اخیر بلک‌ول GPU انویدیا و وبلاگ متا که اترنت را برای جفت 24000 کلاستر GPU برای آموزش مدل زبان بزرگ Llama 3 (LLM) اعتبار می‌دهد، خبرساز شد. شبکه راه درازی را پیموده است و محاسبات فراگیر، ذخیره سازی و حجم کاری هوش مصنوعی را برای دوره بعدی هوش مصنوعی تسریع کرده است. مشتریان عمده ما در هر بخش از بازار، و همچنین غول‌های ابر و هوش مصنوعی، پیشرفت‌های سریع در بهره‌وری و بینش‌ها و دانش بی‌سابقه‌ای را که هوش مصنوعی قادر می‌سازد، تشخیص می‌دهند. در قلب بسیاری از این خوشه های هوش مصنوعی، پرچمدار Arista 7800R AI spine قرار دارد.

یک شبکه قوی برای هوش مصنوعی

فعال کردن این موارد استفاده جدید از هوش مصنوعی مستلزم آن است که LLMها ابتدا آموزش ببینند. این خوشه‌های آموزشی هوش مصنوعی نیازمند یک رویکرد اساسی جدید برای شبکه‌سازی هستند، با توجه به بارهای کاری موازی انبوه که با جریان‌های ترافیک فیلی مشخص می‌شود که می‌تواند باعث ازدحام شبکه شود و بر زمان‌های تکمیل کار (JCT) که در حجم کاری کامل اندازه‌گیری می‌شود، تأثیر بگذارد. ازدحام ترافیک در هر جریان منفرد می تواند باعث ایجاد یک اثر موج دار شود و کل خوشه هوش مصنوعی را کند کند زیرا حجم کار باید منتظر تکمیل این انتقال تاخیری باشد. خوشه‌های هوش مصنوعی باید با ظرفیت عظیمی طراحی شوند تا این الگوهای ترافیک GPU توزیع شده را با تأخیر قطعی و بافت‌های بافر عمیق و بدون تلفات طراحی کنند تا ازدحام ناخواسته را حذف کنند.

Etherlink Arista برای مطابقت با استانداردها

پسندیدن کنسرسیوم اولترا اترنت (UEC) برنامه‌های افزودنی خود را برای تقویت اترنت برای بارهای کاری هوش مصنوعی تکمیل می‌کند، Arista به مشتریان اطمینان می‌دهد که می‌توانیم محصولات مطابق با UEC را ارائه دهیم که به راحتی قابل ارتقا به استانداردهای شرکت‌های UEC در سال 2025 هستند. به نقل از متا، “از طریق طراحی مشترک دقیق شبکه، نرم افزار و در معماری‌های مدل، ما با موفقیت از خوشه‌های Ethernet/RoCE و InfiniBand برای بارهای کاری بزرگ GenAI (از جمله آموزش مداوم Llama 3) بدون هیچ گونه گلوگاه شبکه استفاده کرده‌ایم. اما همچنین می تواند برای پشتیبانی از استانداردهای UEC باز به محض در دسترس قرار گرفتن، تکامل یابد.

Arista Etherlink™ اترنت مبتنی بر استانداردها با ویژگی های سازگار با UEC است. اینها شامل متعادل کردن بار پویا، کنترل ازدحام، و تحویل بسته قابل اعتماد به تمام NIC های دارای RoCE هستند. Arista Etherlink در طیف گسترده ای از سیستم های 800G و کارت های خط مبتنی بر Arista EOS پشتیبانی خواهد شد.^Ⓡ. با نهایی شدن مشخصات UEC، پلتفرم‌های هوش مصنوعی Arista برای سازگاری قابل ارتقا خواهند بود.

پلتفرم های Etherlink Arista سه ویژگی مهم شبکه را ارائه می دهند:

1. مقیاس شبکه: بارهای کاری هوش مصنوعی عملیات “جمعی” را اعمال می کند، که در آن allreduce و all-to-all انواع غالب جمعی هستند. مدل های امروزی اکنون با GPT-4 از میلیاردها به یک تریلیون پارامتر می رسند. البته، ما موارد دیگری مانند Google Gemini، Llama منبع باز و Grok از xAI را داریم. در طول چرخه محاسبه-تبادل-کاهش، حجم داده های مبادله شده به قدری قابل توجه است که هرگونه تأخیر ناشی از شبکه ضعیف می تواند عملکرد برنامه هوش مصنوعی را به شدت تحت تأثیر قرار دهد. توپولوژی Arista Etherlink AI به هر جریان اجازه می دهد تا به طور همزمان به تمام مسیرهای مقصد با تعادل بار پویا با سرعت چند ترابیت دسترسی داشته باشد. Arista Etherlink امروزه از پایه ای از 1000 تا 100000 گره GPU پشتیبانی می کند که در آینده به بیش از یک میلیون GPU خواهد رسید.
2. تأخیر قابل پیش بینی و قطعی: انتقال سریع و قابل اعتماد انبوه از مبدا به مقصد کلید تکمیل تمام وظایف هوش مصنوعی است. تأخیر بسته مهم است، اما حجم کاری هوش مصنوعی بیشتر به تکمیل به موقع کل مرحله پردازش بستگی دارد. به عبارت دیگر، تأخیر کل پیام حیاتی است. مکانیسم‌های سفارش‌دهی انعطاف‌پذیر از تمام مسیرهای Etherlink از NIC تا سوئیچ برای اطمینان از ارتباطات سرتاسر قابل پیش‌بینی استفاده می‌کنند.
3. مدیریت تراکم: مدیریت ازدحام شبکه هوش مصنوعی یک مشکل رایج با “incast” است. هنگامی که چندین فرستنده ناهماهنگ به طور همزمان ترافیک را به آن ارسال می کنند، این می تواند در آخرین پیوند گیرنده هوش مصنوعی اتفاق بیفتد. برای جلوگیری از نقاط داغ یا برخورد جریان در خوشه‌های GPU گران قیمت، الگوریتم‌های throttling، اعلان و تعادل بار در مسیرهای متعدد تعریف شده‌اند که استفاده و TCO این پردازنده‌های گرافیکی گران قیمت با پارچه VOQ را بهبود می‌بخشد.

Etherlink Arista از همکاری نزدیک ما با Broadcom برای سیلیکون بهینه‌سازی شده با هوش مصنوعی با استفاده از جدیدترین خانواده‌های Jericho و Tomahawk که در هندسه فرآیند 5 نانومتری ارائه شده‌اند، استفاده می‌کند. این بالاترین عملکرد را در کمترین توان تضمین می کند. صرفه جویی در مصرف انرژی واقعا مهم است و در مراکز داده بزرگ، به ویژه هنگام ساخت زیرساخت شبکه 400G یا 800G در مقیاس بزرگ برای خوشه های هوش مصنوعی با هزاران پردازنده گرافیکی، یک نقطه گیر است. هر واتی که به ازای هر تراشه سیلیکونی، کارت خط، سیستم شاسی و لوازم جانبی مرتبط با آن، اعم از دوشاخه و لاین اپتیک یا کابل، ذخیره می‌شود، افزایش می‌یابد.

هوش مصنوعی شبکه ای که بینش عمیقی را ارائه می دهد

هوش مصنوعی برای شبکه ها از طریق پشته Arista EOS ما و با استفاده از AVA™ (Autonomous Virtual Assist) AI برای به دست آوردن بینش های جدید با استفاده از داده های ناشناس از پایگاه داده مرکز جهانی کمک فنی (TAC) ما به دست می آید. Arista AVA از طریق یک سیستم خبره مبتنی بر هوش مصنوعی که وظایف پیچیده ای مانند عیب یابی، تجزیه و تحلیل علت ریشه و محافظت از تهدیدات سایبری را خودکار می کند، از تجربه انسانی در مقیاس ابر تقلید می کند. با داده های بلادرنگ در مورد وضعیت دستگاه های شبکه و در صورت لزوم بسته های خام شروع می شود. AVA تخصص گسترده ما در شبکه‌سازی را با مجموعه‌ای از تکنیک‌های AI/ML، از جمله ML و NLP (پردازش زبان طبیعی) تحت نظارت و بدون نظارت، ترکیب می‌کند. استفاده از AVA در شبکه‌های هوش مصنوعی، دقت و امنیت شبکه را با تشخیص و پاسخ خودکار شبکه و قابلیت نظارت در زمان واقعی افزایش می‌دهد. کیفیت نرم‌افزار پیشرو در صنعت، روش‌های توسعه مهندسی قوی و TAC بهترین بینش و انعطاف‌پذیری بیشتری را برای پایگاه مشتریان جهانی ما فراهم می‌کند.

پشته نرم‌افزار EOS ما در صنعت کمک به مشتریان در ساخت خوشه‌های هوش مصنوعی انعطاف‌پذیر، با پشتیبانی از ارتقای بی‌حرکتی است که از هرگونه خرابی جلوگیری می‌کند و بنابراین استفاده از خوشه‌های هوش مصنوعی را به حداکثر می‌رساند. EOS الگوریتم‌های متعادل‌سازی بار و مکانیزم‌های هش‌سازی را ارائه می‌دهد که ترافیک را از پورت‌های میزبان ورودی به لینک‌های بالادستی ترسیم می‌کند تا در صورت از کار افتادن یک پیوند، جریان‌ها به طور خودکار متعادل شوند. مشتریان ما اکنون می توانند فیلدهای هدر بسته را برای آنتروپی بهتر و متعادل کردن بار کارآمد بارهای کاری هوش مصنوعی انتخاب کنند. قابل مشاهده بودن شبکه هوش مصنوعی یکی دیگر از جنبه های مهم در مرحله آموزش برای مجموعه داده های بزرگ است که برای بهبود دقت LLM استفاده می شود. علاوه بر تحلیلگر تأخیر مبتنی بر EOS، که استفاده از بافر را نظارت می کند، تحلیلگر هوش مصنوعی Arista شمارنده های ترافیک پنجره را در سطح میکروثانیه نظارت و گزارش می کند. این ابزاری برای شناسایی و رسیدگی به ریز انفجارهایی است که ثبت آنها در فواصل ثانیه دشوار است.

در خط مقدم هوش مصنوعی

Arista هر دو بهینه را فراهم می کند شبکه سازی برای هوش مصنوعی سکوها و هوش مصنوعی برای شبکه نتایج. پلتفرم‌های AI Etherlink شبکه‌های با کارایی بالا، تأخیر کم، کاملاً هماهنگ و بدون تلفات را به عنوان ارز جدید برای شبکه‌های هوش مصنوعی ارائه می‌کنند. در عین حال، هوش مصنوعی برای شبکه منجر به نتایج مثبتی مانند امنیت، تجزیه و تحلیل علت اصلی و توانایی نظارت از طریق AVA می شود.

ما در Arista مفتخریم که در خط مقدم ایجاد بهترین زیرساخت شبکه برای بزرگترین خوشه های هوش مصنوعی جهان و ارائه نتایج تجاری با وفاداری بالا با AVA به کمک AI/ML هستیم. هوش مصنوعی مولد قول می دهد پتانسیل تغییر زندگی ما را ارائه دهد، از تشخیص سریع سرطان و بیماری آلزایمر گرفته تا کاهش تقلب در خدمات مالی و تشخیص بهتر قاچاق غیرقانونی مواد مخدر که امنیت عمومی را تهدید می کند. همانطور که Arista مراحل اولیه شبکه‌های هوش مصنوعی مبتنی بر اترنت را جشن می‌گیرد، دیدن این همه موارد استفاده در دنیای واقعی و فرصت‌ها برای بهبود بشریت بسیار عالی است! به دنیای جدید شبکه های هوش مصنوعی خوش آمدید!

منابع: