نادلا: مدل های هوش مصنوعی از آغاز باید مهارپذیر باشند

ساتیا نادلا، مدیرعامل مایکروسافت، در پستی طولانی در ایکس نوشت که توسعه‌دهندگان و نهادهای تنظیم‌گر باید از همان ابتدا مدل‌های پیشرفته هوش مصنوعی را به‌عنوان خطری بالقوه در نظر بگیرند و آن‌ها را با سازوکارهایی طراحی کنند که امکان مهارشان وجود داشته باشد. او استدلال کرد که «معماری اعتماد» پیرامون هوش مصنوعی باید دوباره بررسی شود و رویکرد فعلی، یعنی برخورد با مدل‌های قدرتمند به‌عنوان مجموعه‌ای از جعبه‌های سیاه تو در تو، کافی نیست.

جداسازی مدل‌ها از کنترل و نظارت

نادلا گفت نباید توصیه‌ها، پاسخ‌ها یا اقدامات یک مدل را بدون وجود سپرهای ساختاری بپذیریم. او پیشنهاد کرد معماری‌هایی ایجاد شوند که در آن‌ها مدل‌ها از سامانه‌هایی که وظایف را مدیریت و اجرا می‌کنند جدا باشند تا اقدامات مهارکننده و کنترل‌های ایمنی بتوانند بیرون از خود مدل قرار بگیرند. به نوشته او، این جداسازی امکان نظارت مستقل‌تر و پایش رفتار مدل را فراهم می‌کند.

نادلا درباره مسئله سازش یا از کنترل خارج شدن مدل‌ها توصیه کرد فرض بر این باشد که یک مدل ممکن است از همان آغاز خارج از کنترل باشد و بر همین اساس برای مهار آن طراحی انجام شود. او این موضوع را یک الزام ایمنی عملیاتی دانست: «باید فرض کنیم مدل از ابتدا خارج از کنترل است و ما باید آن را مهار کنیم. آن را مانند ترمز اضطراری در نظر بگیرید. یک فرد مجاز همیشه باید بتواند مدل را در میانه انجام یک وظیفه متوقف یا خاموش کند.» او افزود که مدل‌های توانمندتر به فناوری‌های پیشرفته‌تر برای مهار نیاز خواهند داشت و باید استانداردهای مشترکی برای این فناوری‌ها تدوین شود.

نادلا در کنار کنترل‌های توقف، خواستار ثبت گسترده اقدامات مهم مدل‌ها شد. او بر ایجاد سوابقی تأکید کرد که هم برای انسان قابل خواندن باشند و هم در برابر دست‌کاری مقاومت داشته باشند تا عملکرد و تصمیم‌ها قابل بررسی و ممیزی باشند. به گفته او، چنین سوابقی از بازبینی و ارزیابی نحوه عملکرد مدل‌ها در عمل پشتیبانی می‌کند.

بسیاری از بخش‌های پیشنهادهای نادلا با توصیه‌هایی همسو است که در دیگر بخش‌های جامعه هوش مصنوعی نیز مطرح شده‌اند. او اشاره کرد که موضوعاتی مانند افشای به‌موقع رخدادها، ممیزی مستقل، منشأ قابل راستی‌آزمایی داده‌ها و سازوکارهای مهار مدل‌ها هنگام رفتار غیرمنتظره، هم‌اکنون در حال بحث هستند.

نادلا در این پست نقشه فنی یا زمان‌بندی مشخصی ارائه نکرد و سخنان او بیشتر در قالب پیشنهادها و اصول مطرح شد، نه نسخه‌های سیاستی دقیق. او بر ضرورت استانداردهای مشترک و کنترل‌های بیرونی قوی‌تر تأکید کرد تا نظارت مستقل و قدرتمندتری بر سامانه‌های پیشرفته هوش مصنوعی امکان‌پذیر شود.