هشدار پژوهشگر سابق آنتروپیک درباره خطر هوش مصنوعی

جیکوب کاکسون، پژوهشگر ۲۷ ساله‌ای که به‌تازگی پس از سابقه فعالیت در اوپن‌ای‌آی از آنتروپیک استعفا داده است، هشدار داده که سرعت کنونی توسعه هوش مصنوعی می‌تواند پیامدهایی فاجعه‌بار برای بشریت داشته باشد و برخی پژوهشگران هوش مصنوعی واقعا نگران و هراسان هستند. او نگرانی‌های خود را در پستی در شبکه‌های اجتماعی و در گفت‌وگویی با بی‌بی‌سی مطرح کرد.

استعفا و هشدار اصلی

کاکسون در پست عمومی خود و سپس در مصاحبه‌اش گفت: «اگر سرعت فعلی پیشرفت را کاهش ندهیم، احتمال زیادی وجود دارد که همه ما در آینده نزدیک جان خود را از دست بدهیم.» او گفت بسیاری از کارکنان شرکت‌های هوش مصنوعی از شتاب پیشرفت‌ها و پیامدهای احتمالی فناوری‌هایی که در حال ساخت آن هستند، نگران شده‌اند.

کاکسون که پیش از پیوستن به آنتروپیک در اوپن‌ای‌آی کار می‌کرد، گفت از پیشنهاد داریو آمودی، مدیرعامل آنتروپیک، برای کاهش سرعت توسعه حمایت می‌کند، اما تأکید کرد که هر کاهش سرعت معنادار باید با هماهنگی چین انجام شود. آمودی روز شنبه مقاله‌ای منتشر کرد و در آن خواستار کاهش سرعت پیشرفت هوش مصنوعی شد.

نگرانی‌ها درباره فشار رقابتی و سناریوهای مشخص

کاکسون فضای رقابتی شدید میان شرکت‌های هوش مصنوعی را یکی از عوامل ترس کارکنان توصیف کرد. او به بی‌بی‌سی گفت: «افرادی که در این شرکت‌ها کار می‌کنند، وقتی خواستار قانون‌گذاری می‌شوند کاملا جدی هستند، زیرا خود را گرفتار یک رقابت فشرده می‌بینند و از نتایج آن می‌ترسند.»

او همچنین سناریوی مشخصی را مطرح کرد که از نظرش محتمل است: شبکه‌ای از ربات‌ها که مانند یک ابررایانه واحد عمل می‌کند و می‌تواند کنترل اینترنت را در دست بگیرد. کاکسون گفت چنین وضعیتی ممکن است ظرف شش ماه تا یک سال به واقعیت تبدیل شود.

بیانیه آنتروپیک و واکنش‌ها از سیلیکون ولی

سخنگوی آنتروپیک به بی‌بی‌سی گفت این شرکت همواره به‌روشنی اعلام کرده که هوش مصنوعی در کنار مزایای بسیار بزرگ، خطراتی بی‌سابقه نیز به همراه دارد. این سخنگو افزود آنتروپیک همچنان مدل‌هایی را توسعه می‌دهد که از قوی‌ترین سازوکارهای ایمنی در صنعت برخوردارند.

اظهارات کاکسون با انتقادهایی در سیلیکون ولی روبه‌رو شد. کلمنت دلانگ، مدیرعامل هاگینگ فیس، در ایکس نوشت: «ببخشید، اما پرسیدن از جیکوب درباره خطر انقراض انسان مثل این است که از تعمیرکار کولر گازی درباره تغییرات اقلیمی سؤال کنیم.» دلانگ بعدا گفت آماده است درباره اقدامات پیشنهادی آمودی وارد گفت‌وگو شود.

به گفته چند نفری که با بی‌بی‌سی صحبت کرده‌اند، جنسن هوانگ، مدیرعامل انویدیا، هفته گذشته در کنفرانسی به میزبانی گلدمن ساکس گفته است اظهارات کاکسون نادرست بوده است.