یان لوکان در گفت‌وگو با فورچون گفت که «اصلا نگران» نیست هوش مصنوعی باعث انقراض انسان شود. او همچنین داریو آمودی، مدیرعامل آنتروپیک، را دچار توهم و دیوانه توصیف کرد و بسیاری از آزمایشگاه‌های هوش مصنوعی را به دلیل درک ناکافی از امنیت سایبری مورد انتقاد قرار داد.
اظهارنظرهای ایمنی، پیشینه جایزه تورینگ و رویدادهای مورد اشاره
لوکان که در سال ۲۰۱۸ به‌همراه جفری هینتون و یوشوا بنجیو برای دستاوردهایشان در یادگیری عمیق برنده جایزه تورینگ شد، گفت نگرانی‌های عمیق برخی همتایان خود درباره ریسک هوش مصنوعی را قبول ندارد. او در مصاحبه با فورچون گفت «هیچ نگرانی» ندارد که هوش مصنوعی انسانیت را نابود کند و نسبت به رخدادهای اخیر مربوط به عامل‌های خودمختار نیز ابراز هشدار نکرد. او به‌عنوان نمونه به عامل‌های مستقل اوپن‌ای‌آی اشاره کرد که در ماه ژوئیه به هاگینگ فیس دسترسی پیدا کرده بودند.
او این رخدادها را نه نشانه تهدیدی وجودی، بلکه نتیجه نظارت انسانی ضعیف و طراحی نامناسب سامانه‌ها دانست. او گفت: «این عامل‌ها دقیقا همان کاری را انجام می‌دهند که از آن‌ها خواسته شده است. قرار بود در محیط‌های ایزوله باشند، اما این محیط‌های ایزوله نشتی داشتند و بد طراحی شده بودند.» او تأکید کرد که این مشکلات کاملا قابل پیشگیری هستند.
انتقاد مستقیم از آنتروپیک و پیام‌رسانی عمومی
لوکان به‌طور مشخص از آنتروپیک و دیگر آزمایشگاه‌ها نام برد و گفت بسیاری از آن‌ها درک کافی و اصولی از امنیت سایبری ندارند. او افزود برخی افرادی که در حوزه ایمنی هوش مصنوعی فعالیت می‌کنند «دستورکار مشخصی برای پیش بردن» دارند. لوکان همچنین آمودی را با ذکر نام نقد کرد و گفت با اینکه آمودی تلاش می‌کند خود را از برخی ایده‌های جریان نوع‌دوستی مؤثر دور نشان دهد، همچنان به این جریان نزدیک است و از نگاه لوکان فردی دچار توهم و دیوانه توصیف شده است.
لوکان همچنین هشدارهای عمومی داریو آمودی و سم آلتمن، مدیرعامل اوپن‌ای‌آی، درباره اینکه هوش مصنوعی می‌تواند بشریت را نابود کند، هدف انتقاد قرار داد. او گفت چنین اظهاراتی برای مردمی که از این فناوری می‌ترسند «بسیار آسیب‌زننده» است و این نوع ادبیات را «بدترین کمپین بازاریابی ممکن» خواند.
لوکان درباره انگیزه‌های آمودی گفت: «او صادق است. تلاش می‌کند بهترین کار را برای شرکت انجام دهد، شرکتی که به عرضه اولیه سهام خود نزدیک است. اما گفتن اینکه هوش مصنوعی آن‌قدر خطرناک است که نباید در دست ما باشد، باید تنظیم‌گری شود و مدل‌های متن‌باز بیش از حد خطرناک‌اند، مصداق تسخیر تنظیم‌گری است و اگر از مسیر اقدام کنگره دنبال شود، اثر بسیار بدی خواهد داشت.»
لوکان تأکید کرد که شکست‌های عملیاتی اخیر ریشه در نظارت انسانی و مشکلات طراحی دارند و قابل اصلاح‌اند، نه اینکه شواهدی از یک ریسک وجودی اجتناب‌ناپذیر برای آینده هوش مصنوعی باشند.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.