هشدار جدی بیل گیتس درباره آسیب های نزدیک هوش مصنوعی

بیل گیتس به نیلای پاتل گفت که ظرف دو تا سه سال آینده، هوش مصنوعی آسیب‌های قابل اندازه‌گیری در حوزه حملات سایبری و بازار کار ایجاد خواهد کرد.

این پیش‌بینی در میانه تغییر آشکار لحن گیتس مطرح شد. او که پیش‌تر در فضای عمومی نسبت به هوش مصنوعی خوش‌بین بود، پس از انتشار یک یادداشت هشدارآمیز در اوایل تابستان و نیز در مصاحبه‌ای جداگانه با نیویورک تایمز که هوش مصنوعی را «خطرناک‌ترین چیزی که بشر تاکنون به آن نزدیک شده» توصیف کرد، اکنون معتقد است سرعت پیشرفت مدل‌ها نیازمند مداخله مستقیم دولت‌ها برای مدیریت ریسک‌ها و حفظ اشتغال انسانی است.

گیتس در گفت‌وگویی مفصل با نیلای پاتل، سردبیر ارشد ورج و مجری پادکست دیکودر، توضیح داد چرا جهش یک‌ساله اخیر در توانایی مدل‌های هوش مصنوعی نگرانی فوری ایجاد کرده، چرا اجرای مدل‌های بدون فیلتر روی رایانه‌های شخصی اقدامی غیرمسئولانه است و چرا حتی در بهترین سناریو، ۲۰ سال آینده از پرآشوب‌ترین دوره‌های تاریخ بشر خواهد بود. او بارها مسئولیت اصلی را متوجه نهادهای عمومی دانست، نه شرکت‌هایی که قرار است خودشان بر رفتار خود نظارت کنند.

رقابت، نظارت و محدودیت‌های خودمهاری داوطلبانه

گیتس گفت آزمایشگاه‌هایی مانند اوپن‌ای‌آی، آنتروپیک و گوگل دیپ‌مایند کار خود را با وعده‌های حکمرانی مسئولانه و شعار اولویت ایمنی آغاز کردند، اما خیلی زود وارد رقابتی سریع برای تجاری‌سازی شدند. او از مدیرانی مانند سم آلتمن، داریو آمودی، ساتیا نادلا و ساندار پیچای به عنوان رهبران صنعتی نام برد که از هشدارهای داخلی آگاه‌اند، اما تأکید کرد وقتی چند شرکت رقیب هم‌زمان رقابت می‌کنند، بعید است ترمزهای داوطلبانه دوام بیاورد.

او ساختار اولیه اوپن‌ای‌آی و تعهد غیرانتفاعی آن را فقط زمانی کارآمد دانست که یک سازمان واحد در مرز فناوری پیشتاز باشد. به گفته گیتس، وقتی رقبا زیاد می‌شوند، دولت‌ها باید همان‌طور که در برابر فناوری‌های خطرناک دیگر وارد عمل می‌شوند، در این حوزه نیز مداخله کنند. او ابراز شگفتی کرد که هنوز هیچ فرایند الزام‌آور دولتی برای ارزیابی و آزمایش مدل‌های هوش مصنوعی پیش از عرضه عمومی وجود ندارد و این وضعیت را با استانداردهای نظارتی هواپیماها و خودروها مقایسه کرد.

او گفت دولت‌ها باید ارزیابی و آزمایش اجباری پیش از استقرار را برای مدل‌های هوش مصنوعی ایجاد کنند.

مدل‌های محلی، کنترل پلتفرم‌ها و خطرات زیستی

گیتس میان مدل‌های میزبانی‌شده در فضای ابری که تحت نظارت هستند و وزن‌های باز قابل دانلود، تفاوتی جدی قائل شد. آزمایشگاه‌های بزرگ که مدل‌ها را در فضای ابری میزبانی می‌کنند، حفاظ‌های ایمنی را حفظ می‌کنند و می‌توانند استفاده از مدل را پایش کنند تا ریسک کوتاه‌مدت کاهش یابد. به گفته او، خطر اصلی در مدل‌هایی است که می‌توان حفاظ‌های ایمنی آن‌ها را حذف کرد و آن‌ها را به صورت محلی روی سخت‌افزار مصرفی اجرا کرد.

او استدلال کرد وقتی مدل‌ها از آستانه مشخصی از توانایی عبور می‌کنند، توزیع وزن‌های خام برای اجرا روی رایانه‌های شخصی مسئولانه نیست. در عوض، این مدل‌ها باید فقط روی پلتفرم‌های تأییدشده‌ای اجرا شوند که از دستکاری سازوکارهای ایمنی جلوگیری می‌کنند. گیتس این منطق را به پلتفرم‌های توزیع نیز تعمیم داد: او خواستار قوانین متفاوت برای انتشار مدل‌های قدرتمند و اعمال کنترل بر پلتفرم‌هایی مانند گیت‌هاب شد؛ پلتفرمی که امروز محدودیت‌های اندکی برای انتشار کد دارد. او گفت یک پلتفرم پیش از اجازه انتشار مدلی که قادر به انجام حمله سایبری یا زیستی گسترده است، آن هم در قالبی که کاربران بتوانند برای حذف محافظ‌ها آن را تغییر دهند، باید تأیید دولت ایالات متحده را دریافت کند.

گیتس هشدار داد هوش مصنوعی بدون محافظ می‌تواند قدرت تخریب را به شکلی دموکراتیک و گسترده در دسترس قرار دهد که حتی محدودیت‌های عصر هسته‌ای نیز چنین نبود: به گفته او، در عصر اتمی فقط دولت‌های بزرگ می‌توانستند سلاح‌های کشتار جمعی بسازند، اما هوش مصنوعی بی‌حفاظ می‌تواند توانایی‌های ویرانگر سایبری و زیستی را در اختیار گروه‌های کوچک قرار دهد.

در پاسخ به این پرسش که سیاست‌گذاری باید بر تراشه‌ها متمرکز باشد یا پلتفرم‌ها، گیتس تأکید کرد کنترل توزیع و اجرای مدل در سطح پلتفرم نقطه حیاتی نظارت است. او گفت اگر مقام‌ها تأخیر کنند، مدل‌های قدرتمند در دسترس بازیگرانی قرار می‌گیرند که از دسترس پایش و اجرای قانون خارج‌اند.

گیتس همچنین به اختلاف نظر میان توسعه‌دهندگان درباره آگاهی مدل‌ها پرداخت. او گفت بحث‌ها درباره هوش مصنوعی عمومی یا خودآگاهی تا حد زیادی برای ایمنی بی‌ربط است؛ پرسش اصلی، عملی و دوگانه است: آیا یک سامانه می‌تواند نظام بانکی یا شبکه برق را از کار بیندازد یا نه. او افزود باور ندارد مدل‌های فعلی آگاهی شبیه انسان داشته باشند و با مصطفی سلیمان در مایکروسافت هم‌نظر است که نباید با مدل‌ها مانند موجودات دارای ادراک و احساس رفتار کرد.

گیتس درباره رویکردهای فنی کنترل، سه مسیر متمایز را شرح داد. نخست، یک ناظر بیرونی با قواعد نمادین صریح است که اقدامات مدل را خارج از خود مدل بررسی می‌کند. دوم، تغییر اهداف آموزش است، زیرا در روش‌های کنونی یادگیری تقویتی، هر چیزی که به صراحت در تابع پاداش کدگذاری نشده باشد، می‌تواند مورد سوءاستفاده قرار گیرد یا دور زده شود. سوم، افزایش شفافیت درونی است تا مهندسان بتوانند مدل را بررسی کنند و منشأ خطاها یا رفتارهای غیرعادی را درون شبکه ردیابی کنند.

گیتس گفت رویه فعلی، یعنی آموزش مدل‌ها و سپس مشاهده رفتار آن‌ها، مسئله‌ای حل‌نشدنی نیست، اما نیازمند کار هماهنگ در این سه جبهه است.

او همچنین درباره پیامدهای اقتصادی و آزمایشی خصوصی که با کلاد، محصول آنتروپیک، انجام داده بود صحبت کرد. گیتس گفت هوش مصنوعی به‌تدریج بسیاری از وظایف یقه‌سفید را بر عهده خواهد گرفت؛ از پشتیبانی مشتری، فروش تلفنی و حسابداری گرفته تا کارکردهای پیچیده‌ای مانند برنامه‌نویسی، پژوهش ریاضی و تشخیص پزشکی؛ و پیشرفت مداوم در ادامه، اتوماسیون رباتیک فیزیکی را به مشاغل یقه‌آبی نیز خواهد رساند.

از آنجا که کار هم منبع درآمد است و هم احساس هدفمندی ایجاد می‌کند، گیتس گفت جوامع ممکن است آگاهانه برخی نقش‌ها را برای انسان‌ها حفظ کنند، حتی در مواردی که هوش مصنوعی بتواند عملکرد بهتری داشته باشد. او گفت‌وگوهای خود با کلاد درباره حفظ سهم انسانی از مشاغل را شرح داد و گفت تلاش کرده هدفی حدود ۴۰ درصد از اشتغال را به عنوان مشاغل انسان‌محور تعیین کند؛ اما کلاد پیوسته پاسخ داده که چنین محدودیتی، قیدی مصنوعی بر توانایی هوش مصنوعی خواهد بود.

گیتس هشدار داد بدون محدودیت‌های سنجیده، حتی ممکن است ۴۰ درصد مشاغل نیز در دست انسان باقی نماند. او پیش‌بینی کرد اختلالی که همین حالا میان ریاضی‌دانان دیده می‌شود، به حوزه‌های دیگر گسترش خواهد یافت و در حالی که مزایای هوش مصنوعی در پزشکی و کاهش هزینه‌های زندگی زمان‌بر است، آسیب‌های امنیتی و بازار کار احتمالا ظرف دو تا سه سال ظاهر می‌شوند.

او در پایان گفت حتی اگر هوش مصنوعی به‌خوبی مدیریت شود، دو دهه آینده به‌شدت مختل‌کننده خواهد بود: برخی افراد این فناوری را می‌پذیرند، در حالی که دیگران ممکن است در جوامعی شبیه آمیش‌ها از آن فاصله بگیرند. او گفت رسیدن به دوره‌ای از فراوانی در نهایت ممکن است، اما خواستار هشدارهای صادقانه عمومی و انتخاب‌های فعالانه سیاستی شد تا مشخص شود آن آینده چگونه میان مردم توزیع خواهد شد.

گیتس گفت از ارائه پیش‌بینی‌های نگران‌کننده خوشش نمی‌آید، اما تأکید کرد هشدار دادن به افکار عمومی ضروری است و بشر هنوز اختیار دارد تصمیم بگیرد این فناوری‌ها چگونه حکمرانی شوند.