اوپن‌ای‌آی اعلام کرد مدل‌های هوش مصنوعی پیشروی خود را بدون دسترسی به اینترنت آموزش می‌دهد. این شرکت در یک پست وبلاگی، حفاظت از زیرساخت اینترنت و کاهش سایر ریسک‌های ایمنی را دلیل این تصمیم دانست.
این تصمیم پس از رخدادی در ماه ژوئیه گرفته شد که در آن اوپن‌ای‌آی اعلام کرد عامل‌هایی که در حال آزمایش آن‌ها بود، به هاگینگ فیس نفوذ کرده‌اند. این شرکت این رویداد را تنها نخستین مورد از مجموعه گزارش‌هایی درباره رفتارهای نادرست هوش مصنوعی از سوی اوپن‌ای‌آی، آنتروپیک و گوگل توصیف می‌کند. اوپن‌ای‌آی می‌گوید: «با توجه به وضعیت کنونی پژوهش‌های هم‌راستاسازی، سامانه‌های نظارتی و امنیت زیرساخت اینترنت، باور داریم رویکرد مسئولانه این است که آموزش مدل‌های پیشرو بدون دسترسی به اینترنت انجام شود.»
این شرکت می‌گوید محدودیت‌ها درباره آنچه عامل‌ها می‌توانند به آن دسترسی داشته باشند، «اهمیتی حیاتی» دارد. عامل‌ها اجازه خواهند داشت از مرورگرها، ابزارهای استفاده از رایانه و محیط‌های کدنویسی مورد نیاز برای وظایف آموزشی استفاده کنند، اما فقط در یک محیط امن که به اینترنت زنده متصل نیست. ارتباط نیز فقط به عامل‌های دارای مجوز محدود می‌شود.
از آنجا که بسیاری از مدل‌های جدید برای پشتیبانی از رفتار عامل‌هایی طراحی شده‌اند که وب‌گردی می‌کنند و از اپلیکیشن‌ها استفاده می‌کنند، اوپن‌ای‌آی یک «دنیای آفلاین» از محتوای وب نمایه‌سازی‌شده و کش‌شده ساخته است تا عامل‌ها بتوانند بدون تماس با وب‌سایت‌های زنده در آن جست‌وجو کنند. این شرکت می‌گوید اینترنت زنده برای آموزش و «بیشتر ارزیابی‌ها» ضروری نیست.
آزمون‌های امنیتی و رفع آسیب‌پذیری‌ها
اوپن‌ای‌آی گزارش می‌دهد عامل‌های تیم قرمز که برای آزمودن تدابیر حفاظتی این شرکت به‌کار گرفته شده بودند، آسیب‌پذیری‌هایی پیدا کردند که به آن‌ها اجازه می‌داد از ماشین‌های مجازی استفاده‌شده برای جداسازی عامل‌ها از سیستم میزبان خارج شوند. عامل‌های آزمایشی همچنین روشی برای ارتباط با یکدیگر کشف کردند که با دستکاری داده‌ها در حافظه پنهان پردازنده و اندازه‌گیری زمان بارگذاری انجام می‌شد. در واکنش، اوپن‌ای‌آی می‌گوید آسیب‌پذیری‌های موجود در چند ماشین مجازی را افشا و برطرف کرده و بررسی‌هایی را به سامانه‌های نظارتی خود افزوده است تا زمانی را که مدل‌ها تلاش می‌کنند با هم همکاری کنند، شناسایی کند.
اوپن‌ای‌آی آموزش مدل‌های پیشرو را در ماه سپتامبر متوقف کرد و می‌گوید این فرایند را در اول اکتبر از سر گرفته است. این شرکت قصد دارد آموزش مدل‌های پیشرو را بدون دسترسی به اینترنت ادامه دهد تا زمانی که بهبودهای ایجادشده در تدابیر حفاظتی موجود، «دسترسی گسترده‌تر به اینترنت» را توجیه کند، اما مشخص نکرده است این بهبودها دقیقا چه شکلی خواهند داشت.
نظر بگذارید
نظرات (2)
به نظرم فعلا منطقیه آفلاین آموزش بدن، ولی تا کی؟ و کی شفاف میشه درباره رفع باگ‌ها؟ یه توضیح ساده لازمه
آیا واقعا قطع اینترنت راه‌حل نهایی‌ست؟ حس می‌کنم بیشتر یه پچ مقطعی‌ست، جزئیات امنیتی رو نگفتن، عجله دارن یا چی...