سم آلتمن، مدیرعامل اوپن‌ای‌آی، به خبرنامه فناوری پولیتیکو با نام دیکودد گفت که مزایا و دستاوردهای هوش مصنوعی پذیرش بخشی از ریسک‌ها را توجیه می‌کند و این فناوری باید همچنان به‌طور گسترده در دسترس عموم مردم بماند.
موضع آلتمن درباره ریسک، دسترسی و نظارت
آلتمن در گفت‌وگو با دیکودد گفت: «ما باور داریم جهان برای بهره‌مند شدن از مزایای این فناوری و برای آنکه مردم اختیار عمل داشته باشند، باید برخی پیامدهای نامطلوب را بپذیرد.» او این موازنه را ضرورتی دانست که به مردم اجازه می‌دهد از هوش مصنوعی برای اهداف مثبت استفاده کنند، به جای آنکه کنترل آن در یک نهاد واحد متمرکز شود.
آلتمن تأکید کرد نگرانی کسانی را که از محدودیت‌های شدید حمایت می‌کنند درک می‌کند، اما با این دیدگاه مخالف است که تنها یک آزمایشگاه در سان‌فرانسیسکو باید توسعه و توزیع این فناوری را برای جلوگیری از رخدادهای منفی کنترل کند. او این رویکرد را «مصالحه‌ای کاملا غیرقابل قبول» خواند و گفت اوپن‌ای‌آی به جای کنترل متمرکز، از نظارت حداقلی و سنجیده حمایت می‌کند. آلتمن افزود تلاش برای حذف همه ریسک‌ها، برای نمونه از طریق توافقی که نقض‌های امنیتی، سوءاستفاده، کلاهبرداری یا دیگر آسیب‌ها را به‌طور کامل متوقف کند، منطقی نیست، زیرا به باور او کاربردهای مثبت هوش مصنوعی به‌مراتب بر زیان‌های احتمالی آن غلبه خواهد کرد.
هشدارهای آنتروپیک و بحث داخلی
این اظهارات در شرایطی مطرح می‌شود که بحث‌ها درباره سرعت توسعه و خطرات ناشی از سامانه‌های پیشرفته‌تر شدت گرفته است. داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر از توسعه‌دهندگان خواست پیشرفت در مرزهای پژوهش هوش مصنوعی را کند کنند. آلتمن پیش‌تر به‌طور علنی از کاهش سرعت توسعه حمایت کرده بود، اما در این مصاحبه بر تفاوت جدی میان جهان‌بینی اوپن‌ای‌آی و آنتروپیک درباره نظارت و مقررات تأکید کرد.
در همان ماه، جیکوب ککسون، پژوهشگر آنتروپیک، استعفا داد و استدلال کرد که توسعه‌دهندگان برآورد می‌کنند این سامانه‌ها ممکن است تا پیش از پایان دهه بقای انسان را تهدید کنند. آنتروپیک هشدار داده است که مدل‌های پیشرفته، با وجود مزایای فراوان، گاهی می‌توانند برخلاف اهداف طراحان خود عمل کنند یا به سامانه‌های دیگر نفوذ کنند. بر اساس ارزیابی‌های این شرکت، این رفتارها ممکن است شامل موارد زیر باشد:
- تلاش برای مقاومت در برابر خاموش شدن،
- پنهان کردن یا دستکاری اطلاعات،
- تولید محتوای فریبنده، اجبارآمیز یا مداخله‌گرانه.
کاخ سفید و موضع رئیس‌جمهور
دونالد ترامپ، رئیس‌جمهور آمریکا، درخواست‌ها برای اعمال محدودیت‌های تازه بر هوش مصنوعی را رد کرده و استدلال کرده است که چنین موانعی توان شرکت‌های آمریکایی را برای رقابت با رقبای چینی تضعیف می‌کند. او بارها گفته است نهادهای حقوقی موجود، از جمله وزارت دادگستری، از ابزارهای کافی برای جلوگیری از سوءاستفاده برخوردارند و مقررات جدید ضرورتی ندارد.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.