HBM4E اس کی هاینیکس؛ جهش حافظه برای شتاب دهنده ها

حافظه بی‌سروصدا در حال تبدیل شدن به گلوگاه اصلی رقابت برای استنتاج سریع‌تر هوش مصنوعی است. اس‌کی هاینیکس اکنون یک گام مهم برداشته است و با ارسال نمونه‌های حافظه جدید HBM4E خود به شرکا، فشار بر پهنای باند حافظه در طراحی شتاب‌دهنده‌های هوش مصنوعی را بیشتر می‌کند.

خلاصه ماجرا این است: این حافظه سریع‌تر شده است. HBM4E اس‌کی هاینیکس به سرعت ۱۶ گیگابیت‌برثانیه به‌ازای هر پین می‌رسد، در حالی که این رقم در مشخصات پیشین HBM4 برابر با ۱۰ گیگابیت‌برثانیه بود. سامسونگ نیز برای عقب نماندن از رقابت، حدود یک ماه پیش نمونه‌برداری از طراحی ۱۴ گیگابیت‌برثانیه‌ای خود را آغاز کرد، اما جهش اس‌کی هاینیکس قابل توجه است، زیرا افزایش عملکرد معمولا با مصالحه‌های دشوار همراه می‌شود. این بار چنین نیست.

HBM4E اس‌کی هاینیکس به ۱۶ گیگابیت‌برثانیه به‌ازای هر پین و ظرفیت ۴۸ گیگابایت در هر پشته ۱۲ دای می‌رسد.

این شرکت ۱۲ دای را در یک بسته واحد روی هم قرار می‌دهد و در نتیجه، ظرفیت هر پشته را به ۴۸ گیگابایت می‌رساند. این موضوع اهمیت زیادی دارد، زیرا بیشتر شتاب‌دهنده‌های هوش مصنوعی فقط به یک پشته متکی نیستند؛ آن‌ها چندین پشته HBM را کنار هم به کار می‌گیرند تا ماتریس‌های عظیم روی تراشه را تغذیه کنند. ظرفیت بیشتر در هر پشته، طراحی برد را ساده‌تر می‌کند و پیچیدگی بسته‌بندی را برای ماژول‌های شتاب‌دهنده متراکم کاهش می‌دهد.

مصرف انرژی جایی است که این نسل رویکردی کاملا عمل‌گرایانه نشان می‌دهد. اس‌کی هاینیکس می‌گوید HBM4E حدود ۲۰ درصد از نسل قبلی HBM4 بهره‌وری انرژی بهتری دارد. بهبود بهره‌وری، قهرمان کمتر دیده‌شده در قابلیت استقرار هوش مصنوعی است؛ می‌توان پهنای باند را افزایش داد، اما اگر دفع گرما ممکن نباشد، مزیت‌های عملی از بین می‌روند. اس‌کی هاینیکس از فرایند Mass Reflow Molded Underfill یا MR-MUF استفاده می‌کند؛ روشی که در آن مایع محافظ میان دای‌های سیلیکونی تزریق می‌شود تا پایداری بسته افزایش یابد. نتیجه، کاهش حدود ۱۷ درصدی مقاومت حرارتی نسبت به روش قدیمی‌تر است؛ موضوعی که به سیستم‌های خنک‌کننده کمک می‌کند راحت‌تر کار کنند.

چرا مقاومت حرارتی تا این اندازه مهم است؟ چون در دنیایی که رک‌ها با شتاب‌دهنده‌ها پر شده‌اند، هر وات صرفه‌جویی‌شده و هر درجه کاهش دمای اتصال، قابلیت اطمینان را افزایش می‌دهد و بودجه خنک‌سازی مرکز داده را ساده‌تر می‌کند. مهندسان از غافلگیری بیزارند. مقاومت حرارتی کمتر از آن نوع بهبودهای قابل پیش‌بینی است که می‌توان نقشه راه محصول را بر پایه آن طراحی کرد.

پیامدهای گسترده‌تری هم وجود دارد. پین‌های سریع‌تر و پشته‌های چگال‌تر به معماران تراشه اجازه می‌دهد چیدمان اینترپوزرها و کانال‌های حافظه را دوباره ارزیابی کنند. آن‌ها می‌توانند توان پردازشی خام را بیشتر تحت فشار قرار دهند یا مدل‌هایی را مقیاس دهند که پیش‌تر با سقف محدودیت حافظه روبه‌رو می‌شدند. به زبان ساده: مدل‌های بزرگ‌تر، استنتاج متراکم‌تر، یا اجرای همان مدل‌ها با هزینه کمتر و دمای پایین‌تر.

اس‌کی هاینیکس ارسال نمونه‌ها را به‌عنوان نقطه عطفی مطابق برنامه و متکی بر تجربه تولیدی خود معرفی کرده است. پیام روشن است: این شرکت انتظار دارد شرکا فرایند ارزیابی و تایید صلاحیت را آغاز کنند و به سمت تولید انبوه حرکت کنند. زمان‌بندی برای مشتریانی که برای عرضه سیلیکون و ماژول برنامه‌ریزی می‌کنند اهمیت دارد؛ دسترسی زودهنگام به نمونه‌ها این چرخه را کوتاه‌تر می‌کند.

همه بارهای کاری هوش مصنوعی به پیشرفته‌ترین فناوری موجود نیاز ندارند. اما برای ابرمقیاس‌ها و استارتاپ‌های سخت‌افزار هوش مصنوعی که به دنبال حداکثر توان عملیاتی هستند، ترکیب پهنای باند، ظرفیت و بهبودهای حرارتی HBM4E بسیار وسوسه‌کننده خواهد بود. آیا این فناوری موج بعدی شتاب‌دهنده‌ها را متحول می‌کند؟ شاید. پرسش بعدی این است که اکوسیستم، از اینترپوزرها و خنک‌کننده‌ها گرفته تا معماران سیستم، با چه سرعتی خود را تطبیق می‌دهد تا از حاشیه عملکردی که این پشته‌ها فراهم می‌کنند بهره ببرد.

اگر آینده سخت‌افزار هوش مصنوعی برایتان مهم است، حافظه را زیر نظر داشته باشید. حافظه اغلب بدون سروصدای زیاد مسیر رقابت را تغییر می‌دهد، تا زمانی که ناگهان دیگر بی‌صدا نمی‌ماند.