پنج ملاحظات برای اعتبارسنجی آمادگی سازمانی برای بار کاری هوش مصنوعی

مقیاس یک عامل حیاتی برای هوش مصنوعی است. رشد اندازه مدل‌های مورد استفاده برای هوش مصنوعی مولد در دهه گذشته تنها یکی از جنبه‌های تأثیر مقیاس‌گذاری است. اکنون که هوش مصنوعی در زندگی روزمره جاسازی شده است، ظرفیت مورد نیاز برای اجرای موفقیت آمیز یک چالش برای معماری شبکه و محاسبات است.

چه آموزش مدل‌های هوش مصنوعی و چه به کارگیری سازه‌های تولید برای استنتاج، ماهیت داده فشرده فناوری زیربنایی استرس زیادی را بر شبکه‌های مرکز داده وارد می‌کند. و این استرس خود را به گونه‌ای نشان می‌دهد که با آنچه در تاسیسات مرکز داده سنتی وجود دارد متفاوت است. کسانی که چنین زیرساختی را پیاده‌سازی می‌کنند باید متغیرهای متعددی را برای تعیین بهترین روش طراحی و ساخت زیرساخت سخت‌افزاری و نرم‌افزاری مناسب برای مدیریت سیستم‌های هوش مصنوعی در نظر بگیرند.

هنگامی که معماری در جای خود قرار گرفت، تجزیه و تحلیل و آزمایش گسترده ضروری است تا اطمینان حاصل شود که توپولوژی شبکه، تجهیزات و مدل های امنیتی با هم هماهنگ هستند. پنج حوزه کلیدی وجود دارد که مهندسان مرکز داده باید در این فرآیند در نظر بگیرند. انتخاب ها در هر یک و تعامل آنها تعیین کننده میزان عملکرد شبکه است.

1. محیط کار

حجم کاری هوش مصنوعی برخلاف شبکه های IT معمولی، تقاضاهایی را برای شبکه های مرکز داده ایجاد می کند. علاوه بر این، این الزامات بسته به شرایط تغییر می کند. یک محیط یادگیری محور تاکید زیادی بر توانایی شبکه برای حفظ رگبارهای شدید فعالیت بین تمام گره های فعال دارد. این در درجه اول توسط الگوریتم های به روز رسانی وزن هدایت می شود که داده ها را از طریق یک شبکه در مقیاس بزرگ منتقل می کنند در حالی که مدل هوش مصنوعی در هر دسته جدید ورودی آموزش داده می شود. از سوی دیگر، الگوهای ترافیکی قابل پیش بینی تر از آنهایی هستند که در بارهای کاری استنتاج با آن مواجه می شوند.

نتیجه گیری عمدتاً ناشی از تقاضای مصرف کننده است. افزایش فعالیت فشار بیشتری بر شبکه وارد می کند و نسبت به به روز رسانی های آموزشی کمتر قابل پیش بینی است. از آنجایی که نیاز کمتری به ارائه همه به‌روزرسانی‌های یادگیری وجود دارد، سوکت‌ها فرصت‌های بیشتری را برای تغییر مسیر ترافیک به صورت پویا برای جلوگیری از تنگناهای موقت فراهم می‌کنند.

مانند یادگیری، استنتاج همان عدم تحمل برای از دست دادن بسته، تأخیر، و سربار رویکردهای ارسال مجدد سنتی را دارد. این منجر به پذیرش اشکال جدیدی از اترنت می شود که از تکنیک های مسیریابی، افزونگی و رله کارآمدتر پشتیبانی می کند.

نیاز به پروتکل های جدید بسته به محیط هدف متفاوت خواهد بود. فرامقیاس‌کننده‌هایی که الگوهای ترافیکی بسیار متفاوت را مدیریت می‌کنند، ممکن است به نفع امکانات ارائه‌شده توسط Ultra Ethernet باشند. Neocloud یا تأسیسات سازمانی ممکن است سرعت استقرار، امنیت و ابزارهای مدیریتی موجود با تجهیزات معمولی تر را ترجیح دهند. آنها اغلب قادر خواهند بود کنترل بیشتری بر خروجی جستجو اعمال کنند.

2. توپولوژی و ویژگی های شبکه

ویژگی های کلیدی عملکرد و قابلیت اطمینان وجود دارد که یک شبکه متمرکز بر هوش مصنوعی باید آن ها را برآورده کند. تصمیم گیری در مورد معماری استنتاج می تواند بر ترافیک بین سرورهای مرکز داده هوش مصنوعی تأثیر بگذارد. دسترسی به ذخیره سازی داده ها می تواند عامل اصلی در استقرار سازمانی باشد. برخی از سیستم‌های توسعه‌یافته برای بهبود کیفیت نتایج به چندین مدل هوش مصنوعی تکیه می‌کنند. آنها الگوهای انتقال شرق به غرب را نشان می دهند که به طور بالقوه کاملاً متفاوت از سیستم های تک الگو هستند. در این گره‌ها، گره‌های منفرد در درجه اول دستورات و داده‌های ارسال شده از اتصالات شبکه خارجی را مدیریت می‌کنند و تمرکز بیشتری بر ترافیک شمال به جنوب دارند.

معماری امنیتی تاثیرات بیشتری در انتخاب شبکه خواهد داشت. استفاده از مفروضات امنیتی بدون اعتماد ممکن است منجر به استفاده از کنترل دسترسی و رمزگذاری تمام مسیرهای شبکه داخلی شود. دیگران رویکردی سطحی به امنیت خواهند داشت. انتخاب‌ها درباره مکان و نحوه اجرای اقدامات حفاظتی باید مورد آزمایش قرار گیرند تا نشان دهند که برای سیستم نهایی مناسب هستند.

3. ویژگی های تجهیزات

هنگام توسعه یک شبکه برای پشتیبانی از استنتاج هوش مصنوعی، گزینه های تجهیزات زیادی وجود دارد. مشتقات جدید اترنت، مانند Ultra Ethernet، ویژگی‌های متمرکز بر هوش مصنوعی را به همراه دارند که ویژگی‌های عملکردی جدیدی دارند. این انتخاب‌ها سوالاتی را در مورد نحوه رسیدگی به جنبه‌هایی مانند تأخیر، کنترل ازدحام و از دست دادن بسته‌ها در شبکه زنده به همراه دارند.

این انتخاب‌ها منجر به تفاوت‌هایی در نحوه عملکرد شبکه نمی‌شود که انتظار می‌رود. پیک در استفاده یا تغییر در الگوهای دسترسی می تواند باعث از دست رفتن غیرمنتظره بسته شود زیرا ازدحام در تجهیزاتی متمرکز شده است که کمتر قادر به تحمل تغییرات هستند. به طور مشابه، تصمیمات اتخاذ شده برای بهبود امنیت ممکن است باعث شود برخی از روترها بسته ها را رها کنند زیرا ظرفیت پردازش لازم را ندارند. همه این عوامل باید آزمایش شوند.

VIAVI ONE LabPro (سمت چپ)، مرکز تست D2، و CyberFlood (راست) اعتبارسنجی را در تمام لایه‌های OSI (L0-L7) از جمله برای 1.6T فعال کنید

4. تست برای مقیاس بندی

مقیاس به همان اندازه در آزمایش مهم است که در استقرار. مرکز داده هوش مصنوعی به تعاملات پیچیده بین گره ها و اتصالات شبکه در هنگام نصب متکی است. عملکرد به عوامل زیادی در لایه های مختلف پشته بستگی دارد. پیوندهای فیزیکی سطح پایین نرخ خطای بیت را تعیین می کنند، که اغلب تعیین می کند که چه تعداد بسته به مقصد خود نمی رسند. ازدحام در سطح پیوند تعیین می کند که چه تعداد بسته به دلیل سرریز صف از بین رفته است. از دست دادن بسته و ازدحام پیامدهای زیادی بر آموزش هوش مصنوعی و استفاده از GPU دارد.

سپس الگوهای بسته پیچیده ای وجود دارد که هر مدل یا پیکربندی برنامه متفاوت احتمالاً ایجاد می کند. این جریان ها می توانند باعث ایجاد تراکم در نقاط فشار کلیدی شوند. اینها نکاتی است که پیمانکار می خواهد تا حد امکان با تغییرات توپولوژی و ظرفیت پیوند آنها را کاهش دهد.

به طور سنتی، آزمایش این شرایط در مقیاس به معادل یک مرکز داده برای تولید ترافیک آزمایشی و پردازش نتایج نیاز دارد. به لطف توسعه سخت افزار تست و اتوماسیون، این دیگر ضروری نیست. امکان تولید پروفایل های بسته با حجم بالا وجود دارد که به طور کامل شبکه را در سطوح استفاده بالا اعمال می کند. بنابراین، این رویکرد بینش‌هایی را ارائه می‌کند که با آزمایش‌های سطح پیوند فردی امکان‌پذیر نیست.

5. موارد گوشه ای

در مقیاس، رویدادهای عجیب و غریب می توانند به آسیب های گسترده منجر شوند. به همین دلیل، مهم است که نه تنها عملکرد کلی، بلکه هر موقعیت نادری را که اثرات نامتناسبی خواهد داشت، در نظر بگیرید. سخت‌افزار آزمایشی که امکان تزریق پروفایل‌های بسته سفارشی را برای اندازه‌گیری تأخیر صف یا ایجاد موقعیت‌هایی برای وادار کردن تجهیزات به تغییر مسیر انتقال یا از دست دادن بسته‌ها فراهم می‌کند، می‌تواند نشان دهد که شبکه تا چه اندازه با رویدادهای ناخواسته مقابله می‌کند.

یک راه حل آزمایشی که توانایی ایجاد ترافیک کاربر و الگوهای سریع را فراهم می کند، برای انجام آزمایش در این سطح از جزئیات ضروری است. اما با آزمایش تأخیر، تلفات و عملکرد در سناریوهای مختلف، پیمانکاران می توانند اطمینان حاصل کنند که معماری شبکه ای که انتخاب می کنند تا حد امکان انعطاف پذیر است.

خلاصه

خواسته های هوش مصنوعی فشار زیادی را بر طراحی شبکه وارد می کند. مهندسان مرکز داده چه در محیط هایپراسکیلر، نئوکلاد یا سازمانی کار کنند، می توانند با در نظر گرفتن این پنج عامل و ایجاد یک استراتژی اعتبارسنجی که آنها را آزمایش می کند، به موفقیت دست یابند.

درباره راه حل های تست شبکه AI Data Center بیشتر بیاموزید.