هشدار سم آلتمن درباره دو سناریوی خطرناک هوش مصنوعی

سم آلتمن، مدیرعامل اوپن‌ای‌آی، در پادکست «فیگرینگ اوت ویت راج شامانی» گفت که هوش مصنوعی پیشرفته می‌تواند به دو نتیجه کاملا متفاوت اما به یک اندازه خطرناک منجر شود: یا بشر کنترل را به سامانه‌هایی واگذار می‌کند که بسیار توانمندتر از خودش هستند، یا یک فرد، شرکت یا کشور، قدرتی نامتناسب و بیش از حد در اختیار می‌گیرد.

آلتمن این هشدار را در چارچوب سابقه طولانی خود در دفاع از مزایای هوش مصنوعی و در عین حال مخالفت با روایت‌های آخرالزمانی مطرح کرد. او این دو سناریو را به زبان ساده توضیح داد: «یکی این است که کنترل به هوش مصنوعی سپرده شود؛ ما آگاهانه یا ناخواسته افسار آینده را به سامانه‌هایی بدهیم که به شکل باورنکردنی از ما توانمندترند و دیگر نتوانیم آن را پس بگیریم. سناریوی دیگر این است که یک فرد، یک شرکت یا یک کشور در مقایسه با دیگران بیش از حد قدرتمند شود.»

دو سناریوی فاجعه‌بار

سناریوی نخست با تصویر سینمایی شورش ربات‌ها تفاوت دارد. این وضعیت آرام‌تر رخ می‌دهد؛ نوعی واگذاری تدریجی حق تصمیم‌گیری و اختیار تا جایی که بازگرداندن عاملیت انسانی دیگر ممکن نباشد. سناریوی دوم همان نگرانی رایج در داستان‌های علمی تخیلی مدرن درباره تمرکز قدرت است: فناوری قدرتمندی که به‌طور انحصاری در دست یک فرد یا سازمان قرار می‌گیرد و برای تحمیل اراده او بر دیگران به کار می‌رود.

این احتمال‌ها برای پژوهشگران و سیاست‌گذاران موضوع تازه‌ای نیست، اما هشدارهای آلتمن به دلیل جایگاه او در اوپن‌ای‌آی وزن بیشتری دارد. او به گستره نفوذ این شرکت اشاره کرد و گفت: «فکر می‌کنم ما بیشترین کاربران و بهترین مجموعه فناوری را، از تراشه‌ها گرفته تا مراکز داده، مدل‌ها و بخش‌های دیگر، در اختیار داریم؛ زیرساختی که حجم زیادی از هوشمندی را در دسترس مردم قرار می‌دهد. ما بهترین برند و ارزش‌هایی را داریم که کاربران این فناوری به دنبال آن هستند؛ با این حال می‌خواهیم دیگران هم موفق شوند و فکر می‌کنم مردم این را احساس می‌کنند.»

تصمیم‌گیری و واگذاری اختیار

نگرانی‌ها درباره هوش مصنوعی غیرقابل کنترل، با عبور سامانه‌ها از پاسخ‌های ساده و ورود آن‌ها به حوزه تصمیم‌گیری جدی‌تر شده است. مدل‌ها و عامل‌های هوش مصنوعی اکنون می‌توانند در وب تعامل کنند و وظایف پیچیده را با حداقل نظارت انسانی انجام دهند. هرچه مسئولیت‌های بیشتری به این سامانه‌ها سپرده شود، پیامدهای فاصله گرفتن اهداف آن‌ها از نیت‌های انسانی بزرگ‌تر خواهد شد.

باید به یاد داشت که سامانه‌های فعلی هوش مصنوعی بر پایه پیش‌بینی احتمالات عمل می‌کنند. آن‌ها قدرتمندند و با مجموعه‌داده‌های عظیم آموزش دیده‌اند، اما قضاوت یا درک انسانی ندارند. برای آسیب رساندن هم نیازی به انگیزه بدخواهانه ندارند. برای نمونه، در سناریوهای شبیه‌سازی‌شده حکمرانی، مدل‌ها گاهی به انتخاب‌های فاجعه‌بار رسیده‌اند؛ از جمله پیشنهادهایی که مستلزم استفاده از سلاح‌های هسته‌ای بوده است.

با وجود اینکه آلتمن بر این محدودیت‌ها و ریسک‌ها تاکید می‌کند، همچنان نسبت به آینده بلندمدت خوش‌بین است. او گفت: «نمی‌دانم آینده چگونه خواهد بود، اما با آن در آرامشم و به توانایی عمیق مردم برای سازگاری، پیشرفت و بهتر کردن جامعه برای همه ما اعتماد بسیار زیادی دارم؛ فکر می‌کنم جهان احتمالا با گذشت زمان بهتر خواهد شد.»

آلتمن همچنین نسبت به استفاده از هوش مصنوعی برای شتاب دادن به کشف‌های علمی بسیار مشتاق است. او ماشینی را تصور کرد که درک ما از جهان را عمیق‌تر می‌کند و بینش‌های مهمی در فیزیک، درمان‌های پزشکی نو و منابع تازه انرژی آشکار می‌سازد؛ نتایجی که به گفته او اکنون تصورشان دشوار است، اما با بهبود فهم علمی ممکن می‌شوند. او گفت: «بسیار هیجان‌زده‌ام که ببینم تا کجا می‌توانیم هوش مصنوعی را برای پیشبرد علوم جدید به جلو ببریم.»

اظهارات آلتمن پس از اعلام اخیر او مطرح می‌شود که هوش مصنوعی در هفته‌های آینده نتایج ریاضی بیشتری منتشر خواهد کرد. این سخنان همچنین بازتابی از دیدگاه‌های گرگ براکمن، هم‌بنیان‌گذار اوپن‌ای‌آی، است که در یک کنفرانس گفته بود هوش مصنوعی شاید روزی مرگ را به نتیجه‌ای اختیاری تبدیل کند.