کنترل روم اوپن ای آی؛ توقف ایمن خروجی مدل ها در ۳۵ ثانیه

اوپن‌ای‌آی می‌گوید سامانه متمرکز تازه‌استقرار‌یافته این شرکت با نام کنترل روم می‌تواند پس از صدور فرمان مداخله، حداکثر ظرف ۳۵ ثانیه از تولید خروجی‌های بیشتر توسط یک مدل جلوگیری کند.

این شرکت کنترل روم را یک لایه ایمنی توصیف می‌کند که بارهای کاری پژوهشی، موتورهای استنتاج و یک سرویس مرکزی مجوزدهی را به هم متصل می‌کند تا فرایندهای پژوهشی در حال اجرا که ممکن است ریسک‌آفرین باشند، متوقف شوند. به گفته اوپن‌ای‌آی، این سامانه اکنون در سراسر زیرساخت پژوهشی این شرکت پیاده‌سازی شده است.

سازوکار توقف و لغو مجوز چگونه کار می‌کند

کنترل روم سه مؤلفه اصلی را به هم متصل می‌کند: بار کاری پژوهشی، موتور استنتاج و سرویس متمرکز کنترل روم. در اصطلاحات اوپن‌ای‌آی، بار کاری به یک وظیفه پژوهشی مانند آزمایش‌های یادگیری تقویتی، ارزیابی‌ها یا پردازش‌های بزرگ داده گفته می‌شود که به استنتاج مبتنی بر عامل نیاز دارند.

هر وظیفه‌ای که به استنتاج عامل‌محور نیاز دارد باید به یک فایل ایمنی تأییدشده متصل باشد. هنگامی که یک پژوهشگر فرایندی را آغاز می‌کند، کد وظیفه از کنترل روم یک شناسه کار یکتا درخواست می‌کند. این شناسه کار به همه درخواست‌هایی افزوده می‌شود که برای موتورهای استنتاج ارسال می‌شوند، موتورهایی که مدل‌ها را به‌صورت مستقیم روی پردازنده‌های گرافیکی اجرا می‌کنند و خروجی تولید می‌کنند.

پیش از آنکه یک موتور استنتاج پاسخی را بازگرداند، از کنترل روم استعلام می‌گیرد تا تأیید شود که وظیفه همچنان مجاز است. اگر یک پژوهشگر یا سامانه پایش خودکار فرمان توقف صادر کند، سرویس کنترل روم درخواست بعدی را رد می‌کند و موتور استنتاج مانع تولید هرگونه خروجی بیشتر می‌شود. اوپن‌ای‌آی تأکید می‌کند که کد برنامه لزوماً پایان نمی‌یابد یا بسته نمی‌شود؛ بلکه توانایی مدل برای تولید خروجی مسدود می‌شود. این طراحی، لایه حیاتی اعتبارسنجی را به موتور استنتاج منتقل می‌کند و وابستگی به بررسی‌های امنیتی جداگانه در پایگاه‌های کد هر پژوهشگر را کاهش می‌دهد.

اوپن‌ای‌آی می‌گوید کنترل روم بر پایه اصل «مسدودسازی پیش‌فرض در صورت بروز خطا» طراحی شده است. اگر سرویس متمرکز دچار اختلال شود، دست‌کاری شود یا از دسترس خارج شود، موتورهای استنتاج تا زمان بازیابی سامانه درخواست‌ها را پردازش نخواهند کرد.

این شرکت علت فاصله زمانی حداکثر ۳۵ ثانیه‌ای میان صدور فرمان توقف و مسدودسازی واقعی خروجی‌ها را به لایه کشی نسبت می‌دهد که برای مدیریت حجم بالای درخواست‌ها استفاده می‌شود. اوپن‌ای‌آی می‌گوید در تلاش است این فاصله زمانی را به سمت صفر کاهش دهد.

اوپن‌ای‌آی می‌گوید کنترل روم اکنون در سراسر زیرساخت پژوهشی این شرکت مستقر شده است.