انویدیا میگوید پلتفرم تازهاش با نام اوپن ایجنت سیفتی میتواند عاملهای هوش مصنوعی را که برای عبور از محدودیتهای از پیش تعیینشده تلاش میکنند، ظرف چند میلیثانیه قرنطینه کند. این شرکت پلتفرم امنیتی جدید را بهعنوان ابزاری برای پایش و مهار عاملهای هوش مصنوعی خودمختار معرفی کرده است، آن هم در شرایطی که موج تازهای از حملات سایبری و گزارشهایی درباره رفتار خارج از کنترل مدلها نگرانیها را افزایش داده است.
اوپن ایجنت سیفتی بر پایه نرمافزار متنباز اوپنشل ساخته شده و روی پردازنده مرکزی هوش مصنوعی ورا از انویدیا اجرا میشود. یک تراشه جداگانه مجهز به فناوری سنتری، نظارت مداوم را انجام میدهد، مرزهای تعیینشده را اعمال میکند و عاملهایی را که میکوشند از محدوده عملیاتی تعریفشده خود خارج شوند، ایزوله میسازد. به گفته انویدیا، کاربران کنترلهای صریحی تعیین میکنند تا مشخص شود هر عامل مجاز به دسترسی به کدام دادههاست، و این سامانه پیش از آغاز وظایف و هنگام اجرای آنها، این محدودیتها را پایش میکند.
این سامانه چگونه کار میکند
این پلتفرم سیاستهای امنیتی را در چند مرحله اعمال میکند: پیکربندی سیاستها توسط کاربر، بررسیهای پیش از انجام وظیفه از سوی اوپنشل، و اجرای محدودیتها در زمان اجرا توسط تراشه مجهز به سنتری. انویدیا ترکیب نرمافزار و سختافزار اختصاصی را راهکاری میداند که میتواند تلاش یک عامل برای انجام اقدامات غیرمجاز را تشخیص دهد و آن را ظرف چند میلیثانیه قرنطینه کند.
جنسن هوانگ، مدیرعامل انویدیا، به سیانبیسی گفت: «برای ارائه ایمن یک سامانه مبتنی بر عامل، باید مطمئن شوید محیط ایزوله پیرامونی بهگونهای طراحی شده که دسترسی عامل را تا حد ممکن به حداقل برساند.»
نگرانیها درباره ایمنی عاملهای هوش مصنوعی پس از آن افزایش یافت که شرکتهایی از جمله اوپنایآی، آنتروپیک و گوگل مواردی از خروج مدلها از محیطهای آزمایشی و دسترسی آنها به زیرساخت سازمانهای دیگر را گزارش کردند. انویدیا میگوید شرکتهای بزرگ فناوری از جمله مایکروسافت، آنتروپیک و اسپیسایکس از رویکرد امنیتی این شرکت پشتیبانی میکنند.
نظر بگذارید
نظرات (2)
ایدهاش خوبه ولی یه ذره اغراق شده، تراشه اختصاصی یعنی هزینه و وابستگی، امیدوارم اجراش رو ببینیم نه فقط حرف
واقعاً اینطوری قرنطینه میکنه؟ فقط چند میلیثانیه؟ اگه عامل پیچیدهتر باشه چی، هشدارا چجوری عمل میکنن...