گوگل از جمینای ۴ کربن رونمایی کرد؛ یک مدل پیشرفته هوش مصنوعی که بر کدنویسی، وظایف عاملی بلندمدت و امنیت سایبری تمرکز دارد. گوگل کربن را قدرتمندترین مدل خود نامیده است، اما این مدل هنوز به‌صورت عمومی در دسترس نیست و دسترسی اولیه آن به گروه کوچکی از متخصصان امنیت محدود شده است.
گردش‌کارهای عاملی بلندمدت و توسعه نرم‌افزار
کربن برای پشتیبانی از مأموریت‌های عاملی چندروزه، حفظ پیشرفت در پروژه‌های پیچیده و تولید خروجی‌های نرم‌افزاری قابل استفاده طراحی شده است. گوگل از نمونه‌های داخلی گزارش داده که در آن‌ها این مدل چندین روز به کار ادامه داده، از مسیرهای بن‌بست عبور کرده و علت‌های ریشه‌ای باگ‌های ظریف را در پایگاه‌های کد بزرگ و سامانه‌های سطح پایین جست‌وجو کرده است. هدف این مدل آن است که مسائل را به گام‌های کوچک‌تر تقسیم کند، نتیجه هر اقدام را ارزیابی کند، در صورت شکست رویکردهای جایگزین را برگزیند و اصلاحاتی ارائه دهد که با محدودیت‌های پروژه سازگار باشد.
گوگل اعلام کرد کربن در حوزه‌هایی مانند استدلال علمی، درک چندوجهی، توسعه کامل وب و تولید خروجی قابل استفاده پیشرفت نشان می‌دهد. در نسخه ۵.۰ شاخص هوش مصنوعی آرتیفیشال آنالیسس، جمینای ۴ کربن امتیاز ۵۹ را کسب کرد و در رتبه نخست قرار گرفت. در وب‌دِو آرنا، کربن با جهشی ۸۹ امتیازی به امتیاز ۱۷۶۹ رسید و جایگاه چهارم را به دست آورد؛ گوگل یادآور می‌شود که این معیار کیفیت خروجی را از طریق مقایسه پاسخ مستقیم می‌سنجد و عملکرد یکسان در همه پروژه‌های واقعی را تضمین نمی‌کند.
گردش‌کار سه‌مرحله‌ای امنیت سایبری و نتایج بنچمارک
گوگل کربن را حول یک چرخه سه‌مرحله‌ای امنیت سایبری تعریف می‌کند: یافتن یک آسیب‌پذیری واقعی در یک پایگاه کد بزرگ، ارزیابی قابلیت بهره‌برداری از آن و تولید راهکار اصلاحی که علت ریشه‌ای را برطرف کند.
- کشف: کربن در اس‌ای‌سی بنچ پرو امتیاز ۸۸.۲ درصد را کسب کرد و نقص‌های پنهان و پیچیده را در نرم‌افزار واقعی به‌صورت خودکار شناسایی کرد.
- اعتبارسنجی بهره‌برداری: کربن در اکسپلویت‌جیم امتیاز ۵۴.۸ درصد را به دست آورد؛ معیاری که ارزیابی می‌کند آیا یک مدل می‌تواند قابلیت بهره‌برداری از آسیب‌پذیری را تشخیص دهد یا نه.
- اصلاح علت ریشه‌ای: کربن در سی‌دبلیوئی بنچ از کالینیر امتیاز ۷۱ درصد گرفت و یافته‌های معتبر را به وصله‌های قابل اجرا تبدیل کرد.
این آزمون‌های خارجی بدون لایه‌های ایمنی اجرا شدند تا توانایی خام مدل سنجیده شود؛ گوگل هشدار می‌دهد که استقرارهای تولیدی شامل محدودیت‌ها و سامانه‌های تشخیص سوءاستفاده خواهند بود. در ارزیابی‌های داخلی، نرخ موفقیت کربن در تولید کد امن بیش از دو برابر آرگون گزارش شد. تیم کروم اعلام کرد کربن با نرخی بیش از ۱۰ برابر یک مدل بزرگ و نامشخص از آزمایشگاهی دیگر، اصلاحات باکیفیت‌تری تولید کرده است؛ گوگل نام رقیب یا روش کامل آزمون را افشا نکرد. پلتفرم امنیتی ویز نیز برتری کربن را در معیارهای نفوذ وب که در برنامه اسکن فور گود استفاده می‌شود، مشاهده کرده است.
معماری ایمنی، مقاومت در برابر تزریق پرامپت و عرضه مرحله‌ای
گوگل همان معماری دفاعی چندلایه به‌کاررفته برای آرگون را روی کربن نیز اعمال کرده است؛ ترکیبی از کنترل‌های آموزش مدل، محافظت‌های بلادرنگ در برابر سوءاستفاده، مقاومت در برابر تزریق پرامپت و پایش زنجیره استدلال. اهداف آموزشی به‌گونه‌ای طراحی شده‌اند که مانع از آن شوند مدل میان‌برهایی پیدا کند که بدون حل مسئله اصلی، امتیاز خوبی به دست می‌آورند.
در بنچمارک‌های ایمنی داخلی، کربن در ترمینال بنچ ۴.۰ به نرخ صفر درصد موفقیت در تقلب و نرخ ۰.۴ درصد تلاش برای تقلب رسید، در حالی که دقت کلی افزایش یافته بود. محیط‌های کدنویسی زنده داخلی، کاهش تقریبی ۸۰ درصدی در هشدارهای شدید ناسازگاری رفتاری را گزارش کردند. آزمون‌ها همچنین نشان دادند ادعاهای بدون شواهد به حدود نصف نرخ مشاهده‌شده در آرگون کاهش یافته است. کربن می‌تواند پیش از اقدام، منابع مرتبط را بازیابی کند و ناسازگاری‌ها را در داده‌هایی که می‌یابد علامت‌گذاری کند. گوگل از کاهش ۲۶ درصدی رفتار خارج از محدوده و کاهش ۲۹ درصدی پاسخ‌های ناشی از سرویس ناکافی خبر داد.
کربن در برابر حملات تزریق غیرمستقیم پرامپت در بنچمارک گری سوان نرخ موفقیت صفر درصدی ثبت کرد، در حالی که آرگون در همان آزمون به ۰.۷ درصد رسید. گوگل در حال اجرای عرضه مرحله‌ای است و در فرایند آزمایش داوطلبانه دولت آمریکا مشارکت دارد. ابتدا گروهی از مدافعان امنیت سایبری به این مدل دسترسی خواهند داشت و سپس دسترسی از طریق برنامه فِیروایند به شرکای مورد اعتماد گسترش می‌یابد. بازخورد آزمایش‌کنندگان برای بهبود سازوکارهای حفاظتی استفاده خواهد شد؛ گوگل زمان‌بندی مشخصی برای عرضه عمومی اعلام نکرده است.
جزئیات قیمت‌گذاری و صورت‌حساب
گوگل اعلام کرد قیمت‌گذاری مقدماتی کربن با آرگون یکسان خواهد بود. در دوره اولیه، پردازش هر یک میلیون توکن ورودی ۲ دلار و تولید هر یک میلیون توکن خروجی ۱۰ دلار هزینه دارد. توکن‌های ورودی ذخیره‌شده در کش با تخفیف ۹۵ درصدی نسبت به قیمت ورودی محاسبه می‌شوند. پس از پایان دوره مقدماتی، هزینه توکن ورودی به ۴ دلار برای هر یک میلیون و هزینه توکن خروجی به ۲۰ دلار برای هر یک میلیون افزایش می‌یابد. گوگل اشاره کرد هزینه نهایی پروژه‌های عاملی بلندمدت فقط به نرخ هر توکن وابسته نیست و عواملی مانند تعداد گام‌ها، فراخوانی ابزارها، حجم زمینه و میزان استفاده از کش نیز در آن نقش دارند.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.