همزمان با گسترش مدلهای زبانی تریلیون پارامتری و ایجنتهای هوشمند، انویدیا با معرفی معماری انقلابی حافظه NVHBM، گام بلند دیگری برای بازتعریف زیرساختهای محاسباتی برداشته است. این فناوری اختصاصی که به اکوسیستم NVLink Fusion ملحق شده، ساختار سنتی اتصال حافظه به پردازنده را متحول میکند.
انویدیا در این اقدام راهبردی اعلام کرد که بخش Annapurna Labs شرکت آمازون، نخستین همکار تجاری برای پیادهسازی فناوری NVHBM و معماری مقیاسپذیر NVLink در نسل بعدی تراشههای اختصاصی هوش مصنوعی Trainium خواهد بود.
بنبست پهنای باند در عصر هوش مصنوعی مدرن
در سالهای اخیر، پردازندههای گرافیکی و شتابدهندههای هوش مصنوعی (XPUs) با سرعتی سرسامآور از نظر توان پردازشی رشد کردهاند؛ اما یک چالش همیشگی گلوگاه توسعه بوده است: محدودیت پهنای باند حافظه و اتلاف انرژی در انتقال داده. با فراگیر شدن بارهای کاری فوقسنگین و مدلهای چندوجهی، عملکرد سیستمهای AI دیگر صرفاً به تعداد ترانزیستورهای محاسباتی وابسته نیست، بلکه به هماهنگی بینقص پردازش، حافظه، شبکه و پشته نرمافزاری بستگی دارد.
انویدیا با درک این چالش، پلتفرم NVLink Fusion را گسترش داده و از فناوری جدیدی با عنوان NVHBM رونمایی کرده است؛ معماری نوآورانهای در زمینه حافظههای با پهنای باند بالا که مرزهای بهینگی و کارایی را جابهجا میکند.
معماری NVHBM چگونه معادله سختافزار را تغییر میدهد؟
در معماریهای رایج HBM، کنترلر حافظه روی دای (Die) اصلی پردازنده یا شتابدهنده قرار میگیرد. این ساختار قدیمی، بخش قابلتوجهی از سطح سیلیکون پردازنده را که میتوانست به هستههای محاسباتی هوش مصنوعی اختصاص یابد، اشغال میکند و بازدهی حرارتی را کاهش میدهد.
انویدیا در فناوری NVHBM رویکرد متفاوتی را در پیش گرفته است: انتقال مستقیم کنترلر حافظه سفارشی به بیسدای (Base Die) سهبعدیِ پشته حافظه HBM. این مهندسی پیشرفته مزایای ملموسی به همراه دارد:
- ۳۰ درصد پهنای باند بیشتر: افزایش چشمگیر سرعت تبادل دادهها در مقایسه با استاندارد HBM4E.
- ۱۵ درصد کاهش مصرف انرژی: کاهش تلفات توان در پشته حافظه و بهینهسازی مصرف برق مراکز داده.
- آزادسازی تا ۲۵ درصد از فضای پردازنده: فراهم شدن فضای بیشتر روی دای محاسباتی تراشه برای تعبیه واحدهای تانسور و محاسباتی جدید.
جدول مقایسه شاخصهای کلیدی NVHBM در برابر استانداردهای مرسوم
| شاخص عملکردی | معماری مرسوم (HBM4E) | معماری جدید NVIDIA NVHBM | تأثیر عملیاتی در مراکز داده |
|---|---|---|---|
| محل قرارگیری کنترلر حافظه | روی دای پردازنده (XPU Die) | ادغامشده در Base Die سهبعدی حافظه | آزادسازی فضای سیلیکون برای محاسبات |
| پهنای باند مؤثر حافظه | استاندارد مرجع پایگاه داده | تا ۳۰٪ افزایش پهنای باند | تسریع پردازش مدلهای زبانی حجیم |
| مصرف انرژی حافظه | سطح استاندارد مصرفی | ۱۵٪ کاهش مصرف توان | کاهش هزینههای خنکسازی و TCO |
| فضای آزاد دای پردازنده | محدود بهدلیل حضور کنترلر | تا ۲۵٪ فضای آزاد بیشتر | امکان افزودن هستههای هوش مصنوعی بیشتر |
اتحاد استراتژیک انویدیا و آمازون: تراشههای AWS Trainium مجهز به NVHBM میشوند
یکی از مهمترین ابعاد این رونمایی، پیوستن آزمایشگاههای آناپورنا (Annapurna Labs) متعلق به آمازون به این پروژه است. آمازون قصد دارد فناوری NVHBM و اتصال مقیاسپذیر NVLink را در نسل بعدی تراشههای هوش مصنوعی خود یعنی Trainium4 به کار بگیرد.
«فناوری NVHBM نشاندهنده یک رویکرد معماری نوین برای ارتقای عملکرد و بهینگی حافظههای با پهنای باند بالاست. ما مشتاقانه منتظر بهرهگیری از این همکاری فنی در طراحی نسلهای آینده زیرساخت AWS هستیم.»
— نافیا بشاره، نایبرئیس Annapurna Labs در آمازون
این همکاری نشان میدهد که غولهای ابری (Hyperscalers) علیرغم توسعه تراشههای اختصاصی خود، ترجیح میدهند برای حفظ هماهنگی با اکوسیستم جهانی هوش مصنوعی، از استانداردهای ارتباطی و حافظهای انویدیا استفاده کنند.
استراتژی انویدیا: یکپارچگی عمودی در کنار اکوسیستم باز افقی
پلتفرم NVLink Fusion به شرکتهای بزرگ ابری اجازه میدهد تراشههای سفارشی (ASIC/XPU) و پردازندههای مرکزی خود را به رکهای مقیاسبزرگ انویدیا پیوند بزنند. شرکای تجاری با استفاده از چیپلتهای NVLink، سیستمهای اتصال NVLink-C2C و سوئیچهای پیشرفته میتوانند بدون صرف هزینههای سنگینِ طراحی مجدد شبکه و زیرساخت، تراشههای خود را وارد اکوسیستم قدرتمند هوش مصنوعی کنند.
استانداردسازی NVHBM توسط انویدیا و ارائه آن از طریق تولیدکنندگان تراز اول حافظه در جهان، چرخه توسعه، اعتبارسنجی و عرضه شتابدهندههای نیمهسفارشی به بازار را بهطور چشمگیری کوتاهتر و کمریسکتر خواهد کرد.
جمعبندی
رونمایی از فناوری NVHBM گامی فراتر از یک ارتقای سختافزاری ساده است؛ این اقدام نشاندهنده تغییر استراتژی انویدیا برای تبدیلشدن به ستون فقرات اصلی معماری حافظه و شبکه در کل صنعت هوش مصنوعی است. همکاری با بازوی سختافزاری آمازون اثبات میکند که حتی توسعهدهندگان تراشههای اختصاصی نیز برای دستیابی به حداکثر کارایی در مقیاس ابری، معماریهای مشترک بر پایه NVLink را ترجیح میدهند.
سؤالات متداول
فناوری NVHBM انویدیا چیست و چه تفاوتی با HBMهای سنتی دارد؟
در حافظههای سنتی، کنترلر حافظه روی تراشه اصلی پردازنده قرار دارد و فضای زیادی اشغال میکند؛ اما در NVHBM کنترلر مستقیماً داخل پایه سهبعدی پشته حافظه ادغام شده که منجر به افزایش ۳۰ درصدی پهنای باند و کاهش ۱۵ درصدی مصرف برق میشود.
چرا آمازون تصمیم به استفاده از فناوری NVHBM انویدیا گرفته است؟
آزمایشگاههای Annapurna آمازون با ادغام این حافظه و استاندارد NVLink Fusion در تراشههای نسل بعدی Trainium4، فضای محاسباتی پردازندههای اختصاصی خود را تا ۲۵ درصد افزایش داده و امکان همکاری این چیپها با زیرساخت رکاسکیل انویدیا را فراهم میکنند.
پلتفرم NVLink Fusion چه مزیتی برای سازندگان تراشه دارد؟
این پلتفرم به ارائهدهندگان خدمات ابری اجازه میدهد تراشهها و پردازندههای نیمهسفارشی خود را به اکوسیستم پیشرفته سوئیچها، رکها و پشته نرمافزاری انویدیا متصل کنند و زمان عرضه محصولات خود به بازار را کاهش دهند.
