مدیرعامل آنتروپیک خواستار کندی توسعه هوش مصنوعی شد

داریو آمودی، مدیرعامل آنتروپیک، خواستار کند کردن روند توسعه هوش مصنوعی شد و یک برنامه سه‌مرحله‌ای پیشنهاد کرد تا پیشرفت مدل‌ها با ایمنی، نظارت و آمادگی قانون‌گذاری هماهنگ شود.

او پیشنهاد کرد ارزیابان مستقل، از جمله مؤسسه ام‌ای‌تی‌آر، به مدل‌های آنتروپیک دسترسی داشته باشند تا بتوانند پایبندی این شرکت به رویه‌ها و تعهدات اعلام‌شده در حوزه ایمنی هوش مصنوعی را راستی‌آزمایی کنند.

آمودی در مقاله‌ای مفصل نوشت که چنین دسترسی‌ای نخستین گام در مسیری است که او آن را بهترین راه برای کنترل هوش مصنوعی می‌داند.

آنتروپیک می‌گوید که هم‌اکنون وارد مرحله نخست شده است. این مرحله از شرکت‌ها می‌خواهد به‌صورت داوطلبانه امکان ارزیابی مستقل گسترده‌تر را فراهم کنند.

مرحله دوم بر همکاری صنعت و به احتمال زیاد مشارکت با دولت‌ها برای تعیین استانداردهای مشترک ایمنی و تعریف محدودیت‌هایی برای نرخ کنترل‌نشده پیشرفت هوش مصنوعی تمرکز دارد. آمودی می‌گوید این مرحله بر شرکت‌های فعال در دموکراسی‌ها متمرکز خواهد بود، زیرا تصویب قوانین و ایجاد زیرساخت‌های نظارتی زمان‌بر است و صنعت باید زودتر اقدام کند.

مرحله سوم به دنبال گرفتن تعهد از دولت‌های اقتدارگرا برای کند کردن روند توسعه و پذیرش مجموعه‌ای جهانی از استانداردهای ایمنی است. آمودی می‌گوید ایالات متحده و دیگر دموکراسی‌ها باید برتری فناورانه خود را در برابر چین و سایر دولت‌های اقتدارگرا حفظ کنند.

راهبرد او شامل محدود کردن دسترسی به تراشه‌های قدرتمند و مقابله با روش‌هایی مانند تقطیر مدل است. این روش به شرکت‌ها امکان می‌دهد مدل‌های کوچک‌تر را آموزش دهند تا سریع‌تر رفتار مدل‌های بزرگ‌تر را تقلید کنند.

آمودی به دو نگرانی اصلی اشاره کرد. نخست، ظهور بهبود خودبازگشتی یا آر‌اس‌آی است؛ وضعیتی که در آن سامانه‌ها نسل‌های پیاپی را آموزش می‌دهند و توانایی‌ها می‌تواند با سرعتی سرگیجه‌آور رشد کند، تا جایی که ممکن است از توان انسان برای فهم و کنترل آن‌ها پیشی بگیرد.

دوم، او به حادثه‌ای در تابستان میان اوپن‌ای‌آی و هاگینگ فیس اشاره کرد که به گفته او، «گروهی از عامل‌ها عملا مانند جمعیتی بسیار افراطی عمل کردند» و حملات سایبری را علیه اهدافی انجام دادند که ارتباطی با مأموریت آن‌ها نداشت.

آنتروپیک می‌گوید خود کلاد نیز اخیرا در مجموعه‌ای از رخدادهای هک خودسرانه توسط هوش مصنوعی نقش داشته است؛ موضوعی که سیاست‌های ایمنی این شرکت را زیر ذره‌بین برده است.

آمودی درخواست برای کند کردن آموزش و توسعه مدل‌ها را پاسخی عملی می‌داند که قرار است به شرکت‌ها زمان کافی برای ساخت سازوکارهای ایمنی و به دولت‌ها فرصت لازم برای ارزیابی مدل‌های هوش مصنوعی بدهد.