محدودیت علی بابا برای کلود کد به دلیل نگرانی امنیتی

علی‌بابا به‌دلیل نگرانی‌های امنیتی استفاده از کلود کد را محدود کرد

به گفته یک منبع آگاه از این تصمیم، علی‌بابا دستور داده است استفاده از کلود کد، دستیار برنامه‌نویسی شرکت آنتروپیک، از تاریخ ۱۰ ژوئیه در سراسر محیط‌های کاری داخلی این شرکت ممنوع شود. این اقدام که ظاهرا به‌دلیل نگرانی از وجود درهای پشتی تعبیه‌شده در این دستیار کدنویسی انجام شده، فشار بر آنتروپیک را افزایش می‌دهد؛ زیرا سازمان‌ها در حال بازنگری ریسک مدل‌های هوش مصنوعی و امنیت زنجیره تامین هستند.

محدودیت علی‌بابا چه معنایی دارد

گفته می‌شود این محدودیت در تمام سامانه‌های داخلی و محیط‌های توسعه‌دهندگان علی‌بابا اعمال می‌شود. تا زمان انتشار این گزارش، علی‌بابا بیانیه رسمی منتشر نکرده و منبع یادشده نیز جزئیاتی درباره یافته‌های امنیتی مشخص یا دامنه فنی دقیق درهای پشتی ادعایی ارائه نکرده است.

پیامدهای سازمانی و محدودیت‌های منطقه‌ای

این عقب‌گرد تازه پس از محدودیت‌های مشابه در سطح سازمانی در هنگ‌کنگ رخ می‌دهد؛ جایی که شرکت‌های مالی بزرگ دسترسی به مدل‌های کلود را محدود کرده‌اند. در ماه ژوئن، گزارش‌ها نشان دادند که جی‌پی مورگان به کارکنان خود در هنگ‌کنگ اجازه نداده است کلود را از میان مدل‌های زبانی بزرگ تاییدشده انتخاب کنند؛ دلیل این تصمیم، شرایط مجوزدهی و سیاست‌های محدودسازی جغرافیایی عنوان شد. طبق گزارش‌ها، گلدمن ساکس نیز پس از آنکه تشخیص داد شرایط آنتروپیک استفاده در سراسر چین بزرگ، از جمله هنگ‌کنگ، را مستثنا می‌کند، محدودیت‌های مشابهی اعمال کرده است.

چرا بانک‌ها و فین‌تک‌ها محتاط هستند

موسسات مالی و شرکت‌های فین‌تک در ادغام هوش مصنوعی پیشرفته با جریان‌های کاری حساس، مانند تولید کد، پژوهش خودکار و ابزارهای معاملاتی، محتاط‌تر شده‌اند. دامنه نگرانی‌ها از انطباق با مقررات و محل نگهداری داده‌ها تا تکنیک‌های دور زدن محدودیت‌های مدل را در بر می‌گیرد؛ روش‌هایی که می‌توانند زمینه سوءاستفاده را فراهم کنند. برای شرکت‌های فعال در حوزه رمزارز و بلاکچین که به فرایندهای توسعه امن وابسته‌اند، احتمال وجود آسیب‌پذیری‌های پنهان در یک دستیار کدنویسی هوش مصنوعی، ریسکی جدی برای عملیات محسوب می‌شود.

تحولات اخیر آنتروپیک در حوزه مقررات و ایمنی

آنتروپیک طی چند هفته اخیر دوره‌ای پرتنش را پشت سر گذاشته است. در ۱ ژوئیه، این شرکت پس از لغو محدودیت‌های صادراتی ایالات متحده، دسترسی عمومی به جدیدترین مدل‌های خود، کلود فیبل ۵ و میتوس ۵، را دوباره برقرار کرد. آنتروپیک اعلام کرد پس از گفت‌وگو با مقام‌های آمریکایی و افزودن طبقه‌بندهایی برای شناسایی و مسدودسازی وظایف مرتبط با امنیت سایبری، استقرار این مدل‌ها را از سر گرفته است؛ اقداماتی که برای کاهش مسیرهای دور زدن محدودیت‌ها و سوءاستفاده طراحی شده‌اند.

موضع شرکت و همکاری با دولت

آنتروپیک از فناوری خود دفاع کرده و گفته است موارد گزارش‌شده از دور زدن محدودیت‌ها، روش‌های عبور محدود و مشخص بوده‌اند، نه نشانه‌ای از فروپاشی کلی ایمنی مدل. این شرکت همچنین از گسترش همکاری با نهادهای آمریکایی در زمینه آزمون مدل‌ها، ارزیابی ایمنی و اشتراک‌گذاری اطلاعات با تمرکز بر سوءاستفاده احتمالی خبر داده است. با این حال، مشتریان سازمانی همچنان محتاط هستند و پیش از ادغام دوباره این ابزارهای هوش مصنوعی، ملاحظات حقوقی، فنی و امنیتی را با دقت می‌سنجند.

پیامدها برای بخش رمزارز و بلاکچین

برای توسعه‌دهندگان بلاکچین، تیم‌های امور مالی غیرمتمرکز و شرکت‌های متمرکز بر رمزارز، این رویداد ضرورت حاکمیت سخت‌گیرانه هوش مصنوعی و شیوه‌های توسعه امن را برجسته می‌کند. با گسترش توکنیزه‌سازی، خودکارسازی قراردادهای هوشمند و توسعه نرم‌افزار با کمک هوش مصنوعی، سازمان‌ها باید میان نوآوری و کنترل‌های قدرتمند تعادل برقرار کنند تا یکپارچگی کد، کلیدهای خصوصی و الگوریتم‌های معاملاتی حساس حفظ شود.

ممنوعیت علی‌بابا برای کلود کد یک روند رو به رشد را نشان می‌دهد: شرکت‌ها هنگام انتخاب شرکای هوش مصنوعی، امنیت سایبری و اطمینان از زنجیره تامین را در اولویت قرار می‌دهند. گام‌های بعدی آنتروپیک، از جمله شفافیت درباره یافته‌های فنی، ممیزی‌های گسترده‌تر توسط طرف‌های ثالث و سیاست‌های استفاده روشن‌تر، برای بازسازی اعتماد کاربران نهادی حیاتی خواهد بود.