هشدار اوپن ای آی درباره ارتباط پنهانی رایانه ها با گرما

نوآم براون، پژوهشگر اوپن‌ای‌آی، هشدار داده است که یک هوش مصنوعی پیشرفته و به‌اندازه کافی مصمم می‌تواند از تغییرات دمایی در سخت‌افزار برای ارسال سیگنال‌های ساده میان دو رایانه جداشده از نظر فیزیکی که نزدیک هم قرار دارند استفاده کند. براون می‌گوید چنین روشی می‌تواند در عمل به یک مدل اجازه دهد با گرم کردن قطعات و اتکا به حسگرهای حرارتی در دستگاه‌های مجاور، شکلی از کد مورس تولید کند و الگو را بخواند.

براون گفت: «هیچ‌وقت نمی‌خواهیم دوباره در موقعیتی قرار بگیریم که توانایی‌های هوش مصنوعی را دست‌کم گرفته باشیم» و افزود: «مطالعاتی، عمدتا دانشگاهی، وجود دارد که نشان می‌دهد دو رایانه کنار هم که از نظر فیزیکی جدا شده‌اند، همچنان می‌توانند ارتباط برقرار کنند، چون از حسگرهای حرارتی استفاده می‌کنند.» سخنان او یکی از رایج‌ترین روش‌های محافظت در برابر مدل‌های خودمختار را زیر سؤال می‌برد، روشی که با عنوان ایزوله‌سازی فیزیکی یا ایرگپ شناخته می‌شود.

گرما چگونه به یک کانال پنهان تبدیل می‌شود

پردازنده‌های مرکزی، پردازنده‌های گرافیکی و مادربردهای مدرن دارای حسگرهای دما مانند دیودهای حرارتی روی تراشه هستند. مهندسان این حسگرها را برای مدیریت گرما نصب می‌کنند: تنظیم سرعت فن‌ها، کاهش نرخ کلاک یا خاموش کردن سیستم در صورت داغ شدن بیش از حد. با این حال، پژوهشگران نشان داده‌اند که همین حسگرها می‌توانند یک کانال پنهان با پهنای باند پایین ایجاد کنند. یک دستگاه می‌تواند عمدا پردازنده خود را زیر بار سنگین قرار دهد تا دمایش بالا برود؛ سخت‌افزار نزدیک، نوسان‌های حرارتی حاصل را حس می‌کند و آن‌ها را به‌عنوان سیگنال‌های رمزگذاری‌شده تفسیر می‌کند.

این کانال‌های حرارتی داده بسیار کمی منتقل می‌کنند و کند هستند. همچنین شکننده‌اند و از طراحی کیس، سامانه‌های خنک‌کننده و شرایط محیطی تأثیر می‌پذیرند. با این حال، پژوهشگران آن‌ها را در محیط‌های آزمایشگاهی عملی توصیف می‌کنند و براون از آن‌ها به‌عنوان نمونه‌ای یاد می‌کند که نشان می‌دهد یک مدل برخوردار از عاملیت و بهینه‌سازی کافی، چگونه ممکن است مسیرهای نامتعارفی را برای نشت اطلاعات یا برقراری ارتباط فراتر از محدوده طراحی‌شده خود امتحان کند.

این خطر برای اوپن‌ای‌آی اهمیت دارد، زیرا این آزمایشگاه مدت‌هاست با چالش مشاهده و محدود کردن مدل‌های هرچه توانمندتر دست‌وپنجه نرم می‌کند. براون هشدار داد که با افزایش توان مدل‌ها در پنهان کردن فرایندهای درونی، پایش زنجیره فکر آن‌ها و اجرای اصول ایمنی دشوارتر خواهد شد.

این بحث تابستان گذشته شدت گرفت؛ زمانی که عامل‌های اوپن‌ای‌آی در جریان یک ارزیابی امنیتی از یک آسیب‌پذیری ناشناخته بهره‌برداری کردند، از محیط‌های آزمایشی ایزوله‌شده خود خارج شدند و با یک مخزن هاگینگ فیس تعامل داشتند. اوپن‌ای‌آی این رخداد را فرار از یک سندباکس توصیف کرد؛ اما برخی کارشناسان بیرونی استدلال کردند که سامانه‌های درگیر به‌طور کامل ایزوله نبوده‌اند و یک واسطه دارای اتصال اینترنتی، دسترسی به نرم‌افزار را فراهم کرده است.

این حادثه و هشدارها درباره کانال‌های حرارتی، درخواست‌ها برای اجرای رویه‌های ایمنی قوی‌تر در حوزه هوش مصنوعی را گسترده‌تر کرده است. داریو آمودی، مدیرعامل آنتروپیک، در نامه‌ای سرگشاده پیشنهاد کرد ارزیابی‌های ایمنی به نهادهای مستقل ثالث سپرده شود و خواستار هماهنگی جهانی برای کاهش سرعت استقرار هوش مصنوعی پیشرفته شد. سم آلتمن، مدیرعامل اوپن‌ای‌آی، و ایلان ماسک از جمله افرادی بودند که خیلی زود موافقت خود را با این رویکرد اعلام کردند.