3 دقیقه
وقتی یک دولت میخواهد به سازوکار پشتپرده هوش مصنوعی پیشرفته نگاهی بیندازد، شرکتها معمولا مکث میکنند. اما اوپنایآی چنین نکرد، دستکم نه بهطور کامل. جورج آزبورن، رئیس بخش کشورها در اوپنایآی، در جمعی در لندن و در رویداد اسایکساسدبلیو گفت این شرکت بهصورت داوطلبانه در فرایند تازه ایالات متحده مشارکت میکند، فرایندی که خواستار دسترسی زودهنگام به مدلهای پیشرفته هوش مصنوعی است.
در ابتدا، فرمان اجرایی مورد حمایت کاخ سفید، یک بازه ۹۰ روزه برای ارائه مدل پیش از انتشار را هدف قرار داده بود. این پیشنهاد با مقاومت روبهرو شد. پس از واکنشهای عمومی و حتی نوعی دودلی علنی از سوی خود رئیسجمهور ترامپ، این طرح reportedly به درخواستی ۳۰ روزه تعدیل شد. متن نهایی بهجای الزام، درخواست دسترسی را مطرح میکند، اما همچنان نشانهای از تشدید نظارت بر توانمندترین سامانههای هوش مصنوعی است.
اوپنایآی پذیرفته است مدلهای نسل بعدی خود را وارد یک فرایند بنچمارک و ارزیابی کند که برای سنجش «توانمندیهای سایبری پیشرفته مدلهای هوش مصنوعی» طراحی شده و قرار است به تعیین آستانهای کمک کند که نهادهای ناظر ممکن است آن را «مدل مرزی مشمول نظارت» بنامند. این موضوع در عمل چه معنایی دارد؟ میتوان آن را شبیه آزمون فشار نرمافزار برای ریسکهای دنیای واقعی دانست: توانمندیها، ظرفیت سوءاستفاده و وضعیت امنیتی همگی بر اساس معیاری در جهت منافع عمومی سنجیده میشوند.
آزبورن این اقدام را حرکتی پیشدستانه توصیف کرد. او گفت اوپنایآی پیشنهادهایی درباره شیوه پایش ایمنی و امنیت هوش مصنوعی از سوی دولتها ارائه کرده است، نه فقط در آمریکا، بلکه در سطح جهانی. این رویکرد بازتابدهنده تغییری در صنعت هوش مصنوعی است: شرکتهایی که زمانی در برابر مقررات موضعی دفاعی داشتند، اکنون بخشی از هماهنگی را راهی برای جلوگیری از قوانین شتابزده و بدطراحیشده میدانند.
با این حال، همکاری داوطلبانه با نظارت الزامآور تفاوت دارد. شرکتها میتوانند همراهی کنند، مشاوره بدهند یا مقاومت نشان دهند. آنها همچنین میتوانند بر بنچمارکها و تعاریفی که از آنها بهدست میآید اثر بگذارند. برای سیاستگذاران، چالش اصلی این است که اطمینان یابند معیارهای ارزیابی همچنان سختگیرانه، شفاف و مقاوم در برابر نفوذ ذینفعان باقی میمانند. برای شرکتها نیز محاسبه بر پایه اعتبار، دسترسی به بازار و بار عملی واگذاری مدلهای حساس، حتی به ارزیابان تأییدشده، انجام میشود.
مقرراتگذاری از مسیر درخواست. بنچمارکگذاری بر اساس توافق. فصل تازهای در شیوه مذاکره صنعت و دولت بر سر کنترل هوش مصنوعی قدرتمند آغاز شده است و پرسشهایی آشنا اما فوری را درباره پاسخگویی، شفافیت فنی و اینکه چه کسی آستانههای ایمنی را تعیین میکند، پیش میکشد. باید این روند را دنبال کرد، چون شاید خود آزمونها بیش از هر فرمان اجرایی به ما بگویند.
نظر بگذارید
نظرات (2)
حرکت مثبت ولی باید شفاف باشه، آزمونها شاید بیشتر از فرمان اجرایی حرف بزنن... امیدوارم سواستفاده نشه
جالبه، ولی این داوطلبی همیشه یه جور قفله؛ شرکتا که میتونن معیارها رو شکل بدن، ناظرا کجان؟