هشدار شاه چارلز درباره خطرات مرگبار هوش مصنوعی

شاه چارلز سوم روز پنجشنبه به مدیران ارشد شرکت‌های هوش مصنوعی گفت که هوش مصنوعی ممکن است «توانایی‌های تاریک‌تری پیدا کند، شاید حتی توانایی گرفتن جان انسان‌ها» و تأکید کرد که پیش از آنکه دیر شود، باید تدابیر حفاظتی لازم اجرا شود.

این هشدار در جریان نشستی خصوصی مطرح شد که او با حضور شماری از چهره‌های برجسته این حوزه و مقام‌های ارشد بریتانیا میزبانی کرد. پادشاه به مدیران فناوری حاضر در جلسه گفت: «افرادی که این فناوری‌ها را ایجاد کرده‌اند، اکنون بیش از هر زمان دیگری هشدار می‌دهند که هوش مصنوعی در معرض خطر توسعه توانایی‌های تاریک‌تر قرار دارد، شاید حتی توانایی گرفتن جان انسان‌ها.» او افزود: «در این زمینه، اگر اجازه دهید بگویم، ضروری به نظر می‌رسد که خطرات وجودی ناشی از افتادن این فناوری‌ها به دست افراد نادرست و استفاده از آن‌ها به شیوه‌هایی بالقوه فاجعه‌بار، به‌درستی بررسی شود.»

چه کسانی در نشست حضور داشتند و زمینه برگزاری آن چه بود

در میان حاضران، جنسن هوانگ، مدیرعامل انویدیا، چند مدیر از اوپن‌ای‌آی و آنتروپیک، کانیشکا نارایان، وزیر جدید هوش مصنوعی بریتانیا، و رئیس سرویس اطلاعات خارجی این کشور حضور داشتند. پائولو بنانتی، مشاور پاپ در زمینه هوش مصنوعی، نیز در این نشست شرکت کرد. این جلسه خصوصی بود و روز پنجشنبه برگزار شد.

این اظهارات از آن جهت قابل توجه است که خانواده سلطنتی بریتانیا به طور سنتی و به دلایل قانون اساسی از ورود عمیق به بحث‌های سیاسی خودداری می‌کند، در حالی که هوش مصنوعی امروز یکی از بحث‌برانگیزترین موضوعات جهانی است. پادشاه، توسعه سریع هوش مصنوعی را هم جذاب و هم عمیقاً نگران‌کننده توصیف کرد.

نگرانی‌های ایمنی و یک استعفای اخیر

اظهارات پادشاه پس از استعفای یکی از پژوهشگران آنتروپیک مطرح شد که نگرانی‌های امنیتی را دلیل کناره‌گیری خود عنوان کرده بود. این پژوهشگر در مطلبی آنلاین نوشت که شرکت‌های هوش مصنوعی «برای ساخت ماشین‌هایی رقابت می‌کنند که بسیار هوشمندتر از هر انسانی هستند» و هشدار داد که «بشریت ممکن است از این وضعیت جان سالم به در نبرد.»

شاه چارلز در پایان از رهبران خواست راه‌هایی برای بهره‌گیری از جنبه‌های مثبت هوش مصنوعی بیابند و برای دستیابی به این هدف، همکاری و اجماع بین‌المللی ایجاد کنند.