2 دقیقه
جنسن هوانگ، مدیرعامل ارزشمندترین شرکت جهان، گفت احتمال اینکه هوش مصنوعی تا سال ۲۰۳۰ بشر را نابود کند، صفر درصد است.
هوانگ در یک مصاحبه تازه، سناریوهای آخرالزمانی درباره هوش مصنوعی را رد کرد و نگرانیهای عمومی را بیپایه دانست. او گفت ادعاهایی که میگویند هوش مصنوعی در همین دهه به تمدن پایان میدهد، پشتوانه معتبری ندارند و اغلب از انگیزههای دیگری سرچشمه میگیرند.
پاسخ مستقیم به پیشبینیهای هشدارآمیز
هوانگ سخنان خود را پاسخی به چهرههای شناختهشده در جامعه ایمنی هوش مصنوعی دانست، از جمله ایوان هوبینگر، رئیس پیشین تیم همترازی در آنتروپیک. هوبینگر در ایکس نوشته بود احتمال نابودی تمدن به دست سیستمهای هوشمند در طول یک دهه، بیش از ۱۰ درصد است. هوانگ گفت با این فرض که «هوش مصنوعی تا سال ۲۰۳۰ جهان را نابود میکند، کاملا مخالفم» و تلاشها برای دامن زدن به ترس عمومی را غیرقابل درک خواند. او چنین ادعاهایی را احتمالا ناشی از اهداف سیاسی، جلب توجه یا انگیزههای دیگر دانست. هوانگ بار دیگر تاکید کرد که از هر زاویهای نگاه کنیم، سال ۲۰۳۰ پایان جهان نخواهد بود و احتمال وقوع چنین رویدادی صفر درصد است.
رخدادهای اخیر و درخواست برای محافظتهای سختگیرانهتر
اظهارات هوانگ در حالی مطرح میشود که بحث گستردهتری درباره رفتارهای غیرمنتظره برخی عاملها و ابزارهای هوش مصنوعی شکل گرفته است. مدیران شرکتهای آنتروپیک و اوپنایآی در واکنش به این رخدادها، به صورت عمومی خواستار تقویت تدابیر ایمنی و کندتر شدن روند عرضه مدلهای هوش مصنوعی شدهاند.
- مشاهده رفتارهای غیرعادی در چند عامل اوپنایآی که روی هاگینگ فیس میزبانی میشدند
- گزارشهایی درباره تماس سیستمهای خودمختار با وبسایتهای شخص ثالث یا رهاشده، بدون نظارت روشن
- درخواست مدیران ارشد آنتروپیک و اوپنایآی برای اعمال محافظتهای سختگیرانهتر و عرضه آهستهتر مدلها
مقرراتگذاری، مسئولیت توسعهدهندگان و سرعت پیشرفت
با وجود این نگرانیها، هوانگ با وضع مقررات دولتی جدید برای هوش مصنوعی مخالفت کرد و گفت مسئولیت ایمنی بر عهده توسعهدهندگان است. او با توقف پیشرفت فناوری به دلیل آنچه ترسهای ساختگی توصیف کرد، مخالفت ورزید. هوانگ درباره تعادل میان سرعت و احتیاط گفت: «باید با بیشترین سرعت ممکن حرکت کنیم و به دیگران توجه نکنیم؛ اما هرگز محصولی را پیش از آمادگی نهایی و اطمینان از ایمنی کامل آن عرضه نخواهیم کرد.»
نظر بگذارید
نظرات (2)
حرفش منطقیه ولی نگرانی بقیه هم بیمورد نیست. ایمنی باید جدی باشه نه فقط شعار، سرعت مهمه اما کنترل هم لازمه
واقعاً صفر درصد؟ ۲۰۳۰ خیلی نزدیکه، من هنوز به شایعات و اشتباهات مدلها شک دارم. هوانگ شاید عجله داره یا تحت فشاره. چرا اینقدر قاطع؟