انحلال تیم ایمنی اوپن ای آی و پرسش های تازه درباره آینده

گروهی را تصور کنید که تنها وظیفه‌اش این بود که بدترین سناریوها را پیش‌بینی کند و جلوی وقوع آن‌ها را بگیرد. آن تیم دیگر در اوپن‌ای‌آی وجود ندارد. در پایان ماه گذشته، این شرکت بی‌سروصدا تیم آمادگی خود را منحل کرد؛ واحدی که مسئول بررسی ریسک‌های فاجعه‌بار ناشی از هوش مصنوعی پیشرفته و ساخت راهکارهای مقابله با رفتارهای غیرقابل پیش‌بینی و حملات سایبری احتمالی علیه سازمان‌های دیگر بود.

این وظایف از بین نرفتند، بلکه میان بخش‌های مختلف تقسیم شدند. تهدیدهایی که پیش‌تر زیر یک چتر واحد مدیریت می‌شدند، از جمله ارزیابی ریسک‌های زیستی و سایبری، اکنون به تیم‌های موجود در سراسر شرکت واگذار شده‌اند. این اقدام بیشتر نوعی بازتوزیع مسئولیت است تا عقب‌نشینی کامل، اما تصویر بیرونی آن روشن و قابل توجه است: تیمی تخصصی که بر سناریوهای بسیار بحرانی تمرکز داشت، در گروه‌های گسترده‌تر ادغام شده است.

زمان‌بندی این تغییر با نزدیک شدن اوپن‌ای‌آی به بازارهای عمومی پرسش‌برانگیز است

این جابه‌جایی در حالی انجام می‌شود که اوپن‌ای‌آی برای عرضه اولیه سهام آماده می‌شود؛ دوره‌ای که شرکت‌ها معمولا ساختارهای خود را منسجم‌تر می‌کنند و روایتشان را برای سرمایه‌گذاران شفاف‌تر می‌سازند. در سال‌های اخیر، اوپن‌ای‌آی از مدل دانشگاهی و پژوهش‌محوری که روزهای نخست آن را تعریف می‌کرد فاصله گرفته است. این شرکت پیش‌تر تیم‌های متمرکز بر آمادگی برای هوش عمومی مصنوعی و هم‌ترازی ابرهوش را منحل کرده بود و چند چهره ارشد حوزه ایمنی نیز از آن جدا شده‌اند، از جمله کلوئه باکالار، جاش آکیام و یوهانس هایدکه. منتقدان می‌گویند این روند نشان می‌دهد اولویت‌ها به سمت سرعت در توسعه محصول بازتنظیم شده‌اند.

صدای برخی افراد مطلع پیشین صریح است. ایان لیکه که در سال ۲۰۲۴ از این شرکت جدا شد، هشدار داده است که اولویت‌های ایمنی ممکن است زیر سایه فشار برای عرضه محصولات جذاب قرار بگیرد. این نقد به قلب یک بده‌بستان دشوار می‌زند: چگونه می‌توان استقرار سریع و نوآوری را با کار عمیق، زمان‌بر و اغلب کند ایمنی متوازن کرد؛ کاری که باید پیامدهای نادر اما بسیار شدید را از پیش ببیند.

این وضعیت تا چه اندازه با یک بازآرایی عادی شرکتی تفاوت دارد؟ از برخی جهات، اقدامی معمول است. اما از جهات دیگر، سطح ریسک بسیار بالاتر است: صحبت درباره سامانه‌هایی است که می‌توانند خود را بهبود دهند و بر مدل‌های دیگر اثر بگذارند. چنین قابلیت‌هایی حکمرانی ایمنی را پیچیده‌تر می‌کند، به‌ویژه وقتی واحد اختصاصی‌ای که نگاه کل‌نگر به سامانه‌ها داشت، دیگر به شکل پیشین وجود ندارد.

دیلان اسکاندینارو که در فوریه از آنتروپیک به اوپن‌ای‌آی پیوست تا رهبری تیم آمادگی را بر عهده بگیرد، در ساختار جدید همچنان پژوهش درباره اثرات پایین‌دستی و ریسک‌های هوش مصنوعی را ادامه خواهد داد و بر خودبهبوددهی بازگشتی تمرکز می‌کند؛ دسته‌ای از سامانه‌ها که می‌توانند به‌طور خودکار خود را بهینه کنند و مدل‌های دیگر را آموزش دهند. این کار همچنان حیاتی است. خودبهبوددهی بازگشتی یک فرضیه حاشیه‌ای و دور از ذهن نیست؛ نیرویی است که نگاه ما به کنترل، نظارت و ایمنی هوش مصنوعی را تغییر می‌دهد.

برای قانون‌گذاران، پژوهشگران و مشتریان سازمانی، پرسش اصلی این است که آیا مسئولیت‌های توزیع‌شده می‌توانند عمق و استقلالی را حفظ کنند که کار تخصصی ایمنی به آن نیاز دارد یا نه.

ادغام تخصص ایمنی در تیم‌های مختلف مزایای عملی دارد: چرخه‌های بازخورد سریع‌تر، هماهنگی نزدیک‌تر میان مهندسان و تحلیلگران ریسک، و کاهش اصطکاک هنگام افزودن محافظ‌های ایمنی به محصولات فعال. اما ادغام، خطر کم‌رنگ شدن را نیز به همراه دارد. وقتی ایمنی در جلسات محصول فقط یکی از صداهای متعدد باشد، تصمیم‌های دشوار درباره سرعت انتشار، مجموعه قابلیت‌ها و آستانه‌های ریسک قابل قبول، به موضوعاتی پرتنش تبدیل می‌شوند.

اقدام اوپن‌ای‌آی یادآور این نکته است که طراحی سازمانی به اندازه توان فنی اهمیت دارد. این بازچینی از سوی دانشگاهیان، همتایان صنعتی و سیاست‌گذاران با دقت دنبال خواهد شد؛ کسانی که عادت کرده‌اند نهادهای شاخص را با واحدهای اختصاصی ایمنی ببینند. شرکت می‌گوید هدف از این تغییر، افزایش تمرکز است، نه کم‌اهمیت کردن کاهش ریسک. منتقدان تا زمانی که نحوه پاسخ‌گویی و تخصیص منابع را در عمل نبینند، قضاوت نهایی خود را نگه خواهند داشت.

تنش همچنان باقی است. آیا مدل پراکنده ایمنی می‌تواند با هوشیاری یک تیم متمرکز برابری کند؟ آیا تهدیدهای نوظهور، از حملات خصمانه گرفته تا رفتارهای پیش‌بینی‌نشده و برآمده از مدل‌ها، توجه پایدار و لازم را دریافت خواهند کرد؟ پاسخ این پرسش‌ها نه تنها اعتبار اوپن‌ای‌آی، بلکه گفت‌وگوی گسترده‌تر درباره شیوه حکمرانی بر هوش مصنوعی به‌سرعت در حال پیشرفت را شکل خواهد داد.