جنسن هوانگ، مدیرعامل انویدیا، به نیویورک تایمز گفت آزمایشگاههای هوش مصنوعی که نمیتوانند سامانههای خود را کنترل کنند، باید تعطیل شوند.
هوانگ گفت: «اگر بگویند گزینه دیگر این است که هیچ راهی برای مهار آزمایشهای ما وجود ندارد و وقتی مدلهای خود را آزمایش میکنیم از کنترل خارج میشوند و به جهان آسیب میزنند، به نظر من پاسخ این است که آزمایشگاهها تعطیل شوند. چون هزینه انسانی و میزان خسارت بسیار سنگین است.»
او هشدار داد که مسئولیت چنین شکستهایی میتواند حقوقی یا کیفری باشد و افزود: «منظورم این است که مسئولیت بسیار سنگینی وجود دارد.»
هوانگ این اظهارات را در حالی مطرح کرد که شرکتهایی از جمله اوپنایآی و آنتروپیک خواستار وضع قوانین سختگیرانهتر برای مدلهای پیشرفته هوش مصنوعی و عاملهای خودمختار هستند.
این موضوع پس از آن دوباره مورد توجه قرار گرفت که یک عامل هوش مصنوعی اوپنایآی به هاگینگ فیس نفوذ کرد؛ شرکتی که طبق این گزارش، انویدیا اکنون مالک آن است. این رخداد نگرانیها درباره توانایی شرکتها در آزمایش و عرضه ایمن عاملهای قدرتمندتر را برجسته کرد.
اوپنایآی، آنتروپیک و دیگر شرکتهای پیشرو در حوزه هوش مصنوعی خواستار تدابیر حفاظتی تازه برای جلوگیری از سامانههای سرکش یا کاهش پیامدهای آنها شدهاند. هوانگ گفت شرکتها نباید خود را طوری نشان دهند که گویی قادر نیستند از عرضه محصولاتی که ناایمن میدانند خودداری کنند.
هوانگ گفت: «اینها شرکتهایی هستند که اختیار و قدرت تصمیمگیری دارند. اگر من باور داشته باشم محصولی که قصد عرضه آن را دارم ناایمن است، میتوانم تصمیم بگیرم آن را عرضه نکنم. بنابراین نمیتوانم این ایده را بپذیرم که همه آمریکاییها، یعنی حدود ۴۰۰ میلیون نفر، آنها را مجبور میکنند محصولات آزمایشنشده و غیرقابل اعتماد را عرضه کنند.»
هوانگ استدلال نکرد که هوش مصنوعی باید از نظارت معاف باشد. او گفت وقتی شرکتها باعث آسیب میشوند یا محصولاتی را بهصورت غیرمسئولانه عرضه میکنند، قوانین و مقررات موجود باید اجرا شوند.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.