ایستگاه تردریپر هالو ای ام دی؛ هوش مصنوعی دسکتاپ

تصور کنید هوش مصنوعی در مقیاس دیتاسنتر را از روی یک رایانه دسکتاپ اجرا کنید. این ایده شبیه یک آزمایش ذهنی به نظر می‌رسد، تا زمانی که از کنار غرفه ای‌ام‌دی در نمایشگاه IFA عبور کنید و دستگاهی را ببینید که جسارت تبدیل آن به واقعیت را دارد.

ای‌ام‌دی از Threadripper Halo Station پرده برداشت؛ یک ورک‌استیشن که قدرتمندترین قطعات رده PRO این شرکت را در کنار هم قرار می‌دهد و ای‌ام‌دی آن را «نهایت ورک‌استیشن شخصی هوش مصنوعی» می‌نامد. هدف هم ساده است و هم بلندپروازانه: آوردن آموزش مدل‌های عظیم، فاین‌تیونینگ و استنتاج هوش مصنوعی به یک کیس دسکتاپ، تا توسعه‌دهندگان و استودیوها وابستگی خود را به محاسبات ابری گران‌قیمت کاهش دهند.

در قلب Halo Station یک Threadripper PRO 9995WX قرار دارد؛ یکی از سریع‌ترین پردازنده‌های تردریپر ای‌ام‌دی. به تعداد هسته‌های زیاد فکر کنید. به فرکانس‌های بالا فکر کنید. این تراشه می‌تواند تا ۵.۴ گیگاهرتز برسد و در قالبی عرضه می‌شود که برای توان عملیاتی بالا و چندوظیفگی سنگین بهینه شده است. اما قدرت خام پردازنده مرکزی فقط بخشی از ماجراست.

در بارهای کاری هوش مصنوعی، پردازنده‌های گرافیکی کار اصلی را انجام می‌دهند. ای‌ام‌دی تردریپر را با شتاب‌دهنده‌های Instinct در سطح ورک‌استیشن همراه کرده است؛ کارت‌های MI350P مجهز به حافظه HBM3e. یک پیکربندی معمولی با دو عدد از این کارت‌ها عرضه می‌شود و شاسی می‌تواند تا چهار کارت را بپذیرد؛ بنابراین ظرفیت حافظه تا رقم خیره‌کننده ۵۷۶ گیگابایت HBM3e مقیاس‌پذیر می‌شود. پهنای باند ترکیبی حافظه GPU در محدوده چند ترابایت بر ثانیه اعلام شده، در حالی که پشتیبانی سیستم از DDR5 RDIMM تا ۲ ترابایت می‌رسد و با ترکیب هر دو بخش، مجموع حافظه سیستم به حدود ۲.۶ ترابایت می‌رسد.

• پردازنده مرکزی: Threadripper PRO 9995WX، تا ۹۶ هسته Zen 5 و ۱۹۲ رشته، فرکانس تا ۵.۴ گیگاهرتز، حدود ۳۸۴ مگابایت کش
• پردازنده گرافیکی: تا ۴ شتاب‌دهنده AMD Instinct MI350P، هرکدام با ۱۴۴ گیگابایت HBM3e، در مجموع تا ۵۷۶ گیگابایت
• حافظه سیستم: تا ۲ ترابایت DDR5 RDIMM، مجموع حافظه سیستم حدود ۲.۶ ترابایت
• شاسی و خنک‌سازی: خنک‌سازی مایع در یک کیس استاندارد E-ATX با طراحی سبک Halo
• زمان عرضه هدف‌گذاری‌شده: برنامه‌ریزی‌شده برای ۲۰۲۷

البته باید به مصالحه‌ها هم توجه کرد. DGX Station انویدیا همچنان رقیب مستقیم محسوب می‌شود و در برخی معماری‌ها و مسیرهای ارتقا برتری‌هایی دارد؛ انویدیا از کارت‌های توسعه AIC پشتیبانی می‌کند و در برخی شتاب‌دهنده‌ها ظرفیت‌های بزرگ HBM تک‌تراشه‌ای ارائه می‌دهد. استدلال ای‌ام‌دی متفاوت است: مقیاس‌پذیری با چند کارت Instinct، ترکیب آن با تعداد بسیار زیاد رشته‌های پردازنده مرکزی و انعطاف برای تعویض قطعات با مؤلفه‌های رایج بازار وقتی نیازها تغییر می‌کنند.

چرا این موضوع اهمیت دارد؟ چون همه تیم‌ها نمی‌خواهند توان پردازشی را ساعتی اجاره کنند. آموزش یا اجرای مدل‌های تریلیون‌پارامتری به‌صورت محلی می‌تواند هزینه‌های تکرارشونده را به‌شکل چشمگیری کاهش دهد و موانع مربوط به پهنای باند و حریم خصوصی در سرویس‌دهندگان ابری را حذف کند. ساده‌تر بگوییم: یک بار پرداخت کنید، بارها اجرا کنید. ای‌ام‌دی صراحتا Halo Station را پلی برای تیم‌هایی می‌داند که به توان عملیاتی در سطح دیتاسنتر نیاز دارند، بدون آنکه فضای فیزیکی دیتاسنتر را اشغال کنند.

در IFA، ای‌ام‌دی به معرفی یک دستگاه بسنده نکرد. این شرکت همچنین سری Ryzen AI MAX 400 را به نمایش گذاشت؛ لپ‌تاپ‌ها و مینی‌پی‌سی‌هایی که برای وظایف هوش مصنوعی محلی بهینه شده‌اند. هدف این دستگاه‌ها قرار دادن استنتاج توانمند و توسعه روی دستگاه در فرم‌فکتورهای قابل‌حمل است و شرکایی از جمله اچ‌پی، لنوو، ایسر و دیگران نیز پیش‌نمایشی از محصولاتی ارائه کردند که بر پایه این پلتفرم عرضه خواهند شد.

ای‌ام‌دی در کنار سخت‌افزار، لایه نرم‌افزار و اکوسیستم را هم تقویت کرده است. سیستم‌های Ryzen AI Halo به‌صورت آماده برای Project Zenith مایکروسافت عرضه می‌شوند و ابزارهایی مانند Visual Studio Code، WSL، GitHub Copilot CLI و PowerShell را برای آسان‌تر کردن توسعه مدل‌های محلی در خود دارند. ای‌ام‌دی همچنین از همکاری با SUSE خبر داد تا به تیم‌ها کمک کند برنامه‌ها را از توسعه محلی روی Ryzen AI Halo به محیط‌های مقیاس‌پذیر و تولیدی منتقل کنند؛ یعنی یک مانع کمتر برای سازمان‌ها.

بنچمارک‌های نمایش‌داده‌شده در این رویداد توجه‌برانگیز بودند. طبق گزارش‌ها، یک نمونه اولیه Ryzen AI MAX+ با حافظه یکپارچه توانست GLM-5.3 Flash با حدود ۳۲۰ میلیارد پارامتر را به‌صورت محلی با سرعت حدود ۵۸ توکن بر ثانیه اجرا کند. این میزان توان عملیاتی برای بسیاری از کاربردهای واقعی عملی است و از نظر هزینه نیز اهمیت دارد: اتکای سنگین به مدل‌های زبانی بزرگ میزبانی‌شده می‌تواند برای هر بار کاری چندمیلیون توکنی، خیلی زود به صدها یورو برسد. سیلیکون محلی این معادله را تغییر می‌دهد.

ای‌ام‌دی تلاش می‌کند تعریف تازه‌ای از شیوه و محل ساخت هوش مصنوعی ارائه دهد؛ انتقال کار از رک‌های دوردست به میز کار، بدون اینکه عملکرد یا قابلیت توسعه به یک نقطه ضعف تبدیل شود.

هنوز همه چیز مشخص نیست. قیمت Threadripper Halo Station اعلام نشده است. DGX Station در گذشته برچسب قیمتی نزدیک به شش رقم داشته و تحلیلگران صنعت انتظار دارند ای‌ام‌دی Halo Station را با قیمتی رقابتی در همان محدوده جای‌گذاری کند؛ یا برای هم‌سطح شدن با انویدیا، یا برای ارزان‌تر بودن از آن، بسته به راهبرد بازار.

در راهبرد قطعات ای‌ام‌دی یک مزیت عملی هم وجود دارد: بسیاری از اجزای Halo Station از اکوسیستم‌های رایج سرور و ورک‌استیشن تأمین می‌شوند، بنابراین نگه‌داری و ارتقای آینده کمتر اختصاصی و بیشتر ماژولار خواهد بود. این موضوع برای آزمایشگاه‌ها و استودیوهایی جذاب است که نقشه راه سخت‌افزاری خود را برای چند سال آینده برنامه‌ریزی می‌کنند.

خلاصه اینکه پیشنهاد ای‌ام‌دی ترکیبی از عمل‌گرایی مهندسی و جاه‌طلبی است: ابزارهای آشنا را در اختیار توسعه‌دهندگان بگذارد، امکان اجرای مدل‌های عظیم را به‌صورت محلی فراهم کند و سخت‌افزاری ارائه دهد که بدون قفل‌شدن در اکوسیستم یک فروشنده، قابل سرویس و مقیاس‌پذیر باشد. اگر بازار پاسخ مثبتی بدهد، سال ۲۰۲۷ می‌تواند همان سالی باشد که هوش مصنوعی دسکتاپ از یک حوزه محدود خارج می‌شود و برای تیم‌های جدی به انتخابی منطقی تبدیل خواهد شد.