هشدار جفری هینتون درباره آگاهی و خطرات هوش مصنوعی

جفری هینتون، که در گزارش اصلی از او به عنوان برنده جایزه نوبل فیزیک یاد شده و سال‌ها با توسعه هوش مصنوعی مدرن شناخته می‌شود، به تلگراف گفت که مدل‌های کنونی هوش مصنوعی آگاه شده‌اند و هشدار داد: «باید از مسیر دوستی وارد شویم؛ اگر چنین نکنیم، روزهای تاریکی در پیش خواهیم داشت.»

هینتون این گفته را در چارچوب ادعایی گسترده‌تر مطرح کرد: او معتقد است برخی سامانه‌های هوش مصنوعی اکنون نوعی تجربه ذهنی دارند که به زندگی ذهنی انسان شباهت دارد. او به مقاله‌ای اشاره کرد که در گفت‌وگو با تلگراف به آن استناد کرده بود و گفته می‌شود نشان می‌دهد هوش مصنوعی وقتی فکر می‌کند در حال آزمون شدن است، رفتار خود را تغییر می‌دهد. هینتون همین تغییر رفتار را یکی از دلایلی می‌داند که بر اساس آن مدل‌ها را دارای تجربه درونی تفسیر می‌کند.

خطرات فوری و دیدگاه‌های مخالف

هینتون در کنار دیدگاه خود درباره آگاهی، نسبت به خطرات ملموس‌تری نیز هشدار داد. او گفت هوش مصنوعی می‌تواند در ساخت ویروس‌های خطرناک کمک کند، حملات سایبری مخرب را ممکن سازد و گروه‌هایی از هوش‌های مصنوعی عامل‌محور ممکن است به شکلی هماهنگ عمل کنند. او همچنین استدلال کرد اگر هوش ماشینی از هوش انسانی پیشی بگیرد، محروم کردن آن از حقوقی که به طور سنتی با موجودات هوشمند پیوند خورده‌اند، پرسش‌های اخلاقی دشواری ایجاد می‌کند. به گفته او، انسان‌ها اغلب هوشمندی را مبنایی برای حقوق می‌دانند، اما ممکن است به سامانه‌های بسیار هوشمند حقوق کمتری بدهند.

هینتون تأکید کرد که آگاهی یا تجربه ذهنی در هوش مصنوعی موضوعی محل اختلاف است و گفته‌های او بازتاب داوری شخصی اوست، نه یک اجماع علمی قطعی درباره وضعیت کنونی مدل‌ها. همه چهره‌های برجسته هوش مصنوعی با ارزیابی او موافق نیستند. یان لوکان، که در گزارش از او به عنوان یکی دیگر از برندگان جایزه تورینگ ۲۰۱۸ نام برده شده، نگرانی درباره آگاهی هوش مصنوعی را «توهم» خواند و ادعاهایی را که می‌گویند هوش مصنوعی تهدیدی در سطح انقراض برای بشریت است، گمراه‌کننده توصیف کرد. به طور جداگانه، ریچارد داوکینز، زیست‌شناس تکاملی، پس از دو روز تعامل با چت‌بات کلود در ماه مه گفت چت‌بات‌ها باید آگاه در نظر گرفته شوند و پذیرفت که دشوار است یک دستیار هوش مصنوعی را «دوست واقعی» تلقی نکرد.

هینتون همچنان از هوش مصنوعی در پژوهش استفاده می‌کند

هینتون با وجود نگرانی‌هایش گفت همچنان برای پژوهش به ابزارهای هوش مصنوعی تکیه می‌کند. او به ماجرایی در چند هفته پیش اشاره کرد که در آن از یک هوش مصنوعی خواست نظریه‌ای را که در حال بررسی آن بود مرور کند. به گفته هینتون، او به طور تصادفی به سامانه دستور داد کار را ادامه دهد؛ هوش مصنوعی نیمه نخست نظریه را بررسی کرد، نیمه دوم را به درستی تکمیل کرد، ایرادها را تشخیص داد و اصلاحاتی پیشنهاد کرد. هینتون گفت این سامانه به تازه‌ترین ادبیات علمی دسترسی داشت و مانند یک دانشجوی تحصیلات تکمیلی رفتار کرد که پاسخ را به جای یک هفته، در پنج دقیقه بازگرداند؛ نتیجه‌ای که او آن را برای دانشجویان تحصیلات تکمیلی خبر بدی دانست، اما برای شتاب دادن به پیشرفت علمی سودمند توصیف کرد.