مجموعه داده‌های عظیم مدل‌های هوش مصنوعی را تغذیه می‌کنند، آموزش رانندگی می‌کنند و پیش‌بینی‌های دقیق را امکان‌پذیر می‌کنند. این تقاضای بی وقفه برای داده ها، محاسبات سنتی و معماری شبکه را به چالش می کشد و نیاز به راه حل های نوآورانه را تحریک می کند.
معماری شبکه کامپیوتری فعلی هوش مصنوعی
امروزه شبکه های هوش مصنوعی بر ساختار سلسله مراتبی از اجزای به هم پیوسته متکی هستند، از جمله:
- پردازنده های گرافیکی برای پردازش موازی داده ها
- سوئیچ های PCI که چندین GPU را در یک سرور متصل می کند.
- RDMA NIC (کارت های رابط شبکه دسترسی مستقیم به حافظه از راه دور) برای دسترسی مستقیم به حافظه بین GPU در سرورهای مختلف، کاهش درگیری CPU و سرعت بخشیدن به انتقال داده ها.
- سوئیچ های شبکه که ستون فقرات شبکه برگ و ستون فقرات را تشکیل می دهند، سرورها را به هم متصل می کنند و ارتباطات را در مرکز داده تسهیل می کنند.
در حالی که این رویکرد کاربردی است، محدودیت های قابل توجهی دارد که مانع از مقیاس پذیری و کارایی بارهای کاری هوش مصنوعی می شود:
- تنگناهای ارتباطی بین GPU ها: با GPU های بیشتر در یک خوشه، شبکه های سلسله مراتبی گلوگاه هایی ایجاد می کنند و تأخیر را اضافه می کنند و توان عملیاتی را کاهش می دهند.
- پهنای باند و انعطاف پذیری محدود: معماری‌های کنونی برای برآورده کردن نیازهای روزافزون پهنای باند بارهای کاری هوش مصنوعی تلاش می‌کنند، و تنها نقاط شکست می‌تواند وظایف آموزشی را شکست دهد و منجر به راه‌اندازی مجدد پرهزینه شود.
- عدم ترکیب پذیری: سختی معماری های سنتی پشتیبانی از برنامه های متنوع هوش مصنوعی که به منابع محاسباتی و حافظه متفاوتی نیاز دارند را محدود می کند و نوآوری را خفه می کند.
- افزایش هزینه کل مالکیت (TCO): مقیاس گذاری زیرساخت هوش مصنوعی با اجزای سنتی TCO را به دلیل هزینه های سخت افزاری، مصرف برق و نیازهای خنک کننده افزایش می دهد.
راه حل انفابریکا: ساختار محاسباتی شتاب یافته
فن آوری پارچه محاسباتی شتاب دهنده (ACF) Enfabrica نشان دهنده انحراف قابل توجهی از رویکردهای مرسوم است. ACF مفهوم MegaNIC را معرفی می کند، سوئیچینگ PCI، RDMA و سوئیچینگ شبکه لایه 1 را در یک دستگاه منفرد، انعطاف پذیر و با پهنای باند بالا یکسان می کند.
معماری منحصربه‌فرد ACF چندین کارت شبکه اترنت پرسرعت را که توسط سوئیچ‌های متقاطع داخلی به هم متصل شده‌اند، ادغام می‌کند و پارچه‌ای با سرعت بالا و غیر مسدود کننده ایجاد می‌کند. این طراحی پردازش هدر بسته و انتقال بار را از هم جدا می‌کند، و به NIC اجازه می‌دهد تا هدرها و حمل و نقل را مدیریت کند در حالی که بارها مستقیماً بین نقاط پایانی از طریق DMA منتقل می‌شوند و تأخیر را به حداقل می‌رسانند. این رویکرد حرکت کارآمد داده را برای بارهای کاری هوش مصنوعی تضمین می کند.
معماری ACF شامل:
- همگرا PCI و اترنت Crossbar: ACF با ترکیب شبکه اترنت و سوئیچینگ PCI برای ایجاد یک کانال انتقال داده با تأخیر کم بین GPU ها و در سراسر شبکه، تاخیر را کاهش می دهد و عملکرد را بهبود می بخشد.
- پهنای باند بسیار زیاد و مسیرهای متنوع: ACF تا 3.2 ترابیت در ثانیه در سمت شبکه و 5 ترابیت در ثانیه در سمت میزبان/شتاب دهنده ارائه می دهد که توان عملیاتی بالایی را ارائه می دهد و خرابی قطعات را کاهش می دهد.
- کنترل حمل و نقل و ازدحام قابل برنامه ریزی: لایه حمل و نقل قابل برنامه ریزی ACF روی یک CPU استاندارد مکانیسم های کنترل تراکم قابل تنظیم را فعال می کند و رفتار شبکه را برای بارهای کاری خاص تنظیم می کند.
- ترکیب پذیری و ناهمگونی.
در روز پنجم هوش مصنوعیروچان سانکار، مدیر عامل Enfabrica خاطرنشان کرد: «نقش کارت شبکه PCI برای هوش مصنوعی در آینده بی‌اهمیت است، زیرا هر GPU مستقیماً به تمام رابط‌های اترنت روی تراشه متصل می‌شود و توان پردازشی را تا 3.2 ترابیت بر ثانیه روی پارچه افزایش می‌دهد.
معایب احتمالی راه حل Enfabrica
راه حل Enfabrica در عین قانع کننده بودن، دارای اشکالات بالقوه است:
- وابستگی سخت افزاری.
- تنها نقطه شکست: با وجود معماری چند مسیره، ACF خود نشان دهنده یک نقطه شکست است. خرابی در سطح ACF می تواند GPU های مرتبط را مختل کند، اگرچه طراحی این خطر را به حداقل می رساند.
- سازگاری محدود: Enfabrica با اولویت دادن به سازگاری با افعال InfiniBand و RoCE نسبت به Ultra Ethernet، در نظر دارد همزمان با در نظر گرفتن پیشرفت‌های آینده، به چالش‌های مقیاس‌پذیری فوری رسیدگی کند.
چرا این مهم است
بارهای کاری هوش مصنوعی، به ویژه مدل های زبان بزرگ، به جابجایی، پردازش و ذخیره سازی داده های عظیم نیاز دارند. معماری های با پهنای باند بالا و تاخیر کم برای جلوگیری از مشکلات عملکرد بسیار مهم هستند.
Enfabrica، متمرکز بر ایجاد تحول در زیرساخت شبکه برای هوش مصنوعی، تغییری در رویکرد ارائه می دهد. به جای تلقی شبکه‌ها به عنوان شبکه‌های جانبی، Enfabrica آنها را در قلب محاسبات هوش مصنوعی قرار می‌دهد و نقش حیاتی آنها را در عملکرد و مقیاس‌پذیری تشخیص می‌دهد.
پیشنهاد ارزش اصلی Enfabrica به چالش های کلیدی شبکه هوش مصنوعی می پردازد:
- کاهش TCOACF هزینه‌های زیرساخت هوش مصنوعی را با ترکیب قطعات در یک دستگاه واحد و ساده‌سازی داده‌ها کاهش می‌دهد و منابع را برای قدرت پردازش آزاد می‌کند.
- عملکرد بهبود یافته است: با باز کردن ظرفیت کامل پردازنده‌های گرافیکی، قابلیت‌های پهنای باند بالا، تأخیر کم و چند مسیری ACF یادگیری و استنتاج را تسریع می‌کنند.
- دوام بهبود یافته: برای نصب های هوش مصنوعی در مقیاس بزرگ، طراحی قابل اعتماد ACF و بازیابی خرابی زمان خرابی را کاهش می دهد و عملکرد قابل اعتماد را تضمین می کند.
- زیرساخت هوش مصنوعی مقاوم در برابر آینده: پشتیبانی از منابع متنوع ACF و لایه حمل و نقل قابل تنظیم انعطاف پذیری را برای تغییر حجم کاری هوش مصنوعی و فناوری های در حال ظهور امکان پذیر می کند.
ACF Enfabrica نشان‌دهنده پیشرفت قابل توجهی در شبکه‌های هوش مصنوعی است که برنامه‌های کاربردی هوش مصنوعی را به طور فزاینده‌ای پیچیده و تقاضا می‌کند. با پیشرفت هوش مصنوعی، راه حل هایی مانند Enfabrica نقش مهمی در باز کردن پتانسیل کامل هوش مصنوعی و شکل دادن به آینده محاسباتی ایفا خواهند کرد. از طریق چت زنده یا ایمیل با ما تماس بگیرید sales@dataplugs.com برای کسب اطلاعات بیشتر در مورد ما برنامه های سرور اختصاصی GPU.
