هشدار آنتروپیک درباره ریسک مدل های متن باز هوش مصنوعی

رئیس امور بین‌الملل آنتروپیک در نشستی تحت نظارت اتحادیه اروپا در دوبلین استدلال کرد که مدل‌های متن‌باز هوش مصنوعی، بنا بر ماهیت خود، خطرات ذاتی بیشتری نسبت به سامانه‌های اختصاصی این شرکت دارند.

هشدار گیوم پرنسن و زمینه موضع آنتروپیک

گیوم پرنسن این اظهارات را در یک نشست دولتی درباره هوش مصنوعی در دوبلین مطرح کرد و گفت دسته مدل‌های متن‌باز، یعنی مدل‌هایی که کد، معماری و فایل‌های وزن آن‌ها منتشر می‌شود تا هر کاربری بتواند آن‌ها را دانلود، اجرا یا تغییر دهد، از اساس خطرات بسیار بیشتری ایجاد می‌کند. پرنسن این موضع را در برابر اظهارات پیشین داریو آمودی، مدیرعامل آنتروپیک، قرار داد؛ آمودی گفته بود مدل‌هایی با وزن‌های باز که قابلیت‌های خطرناک ندارند، باید به‌عنوان کالاهای عمومی در نظر گرفته شوند.

انتشارهای تازه متن‌باز و آزمون‌های ایمنی

این اظهارات در شرایطی مطرح می‌شود که رقابت در حوزه هوش مصنوعی شدت گرفته و ارزیابی‌های ایمنی تازه‌ای انجام شده است. شرکت اروپایی میسترال هفته گذشته مدل Large 4 را با نام Le Chonk معرفی کرد؛ مدلی که به گفته این شرکت یک تریلیون پارامتر دارد، در اروپا آموزش دیده و بر حاکمیت داده تاکید می‌کند. میسترال هنوز فایل‌های وزن این مدل را منتشر نکرده است؛ دسترسی فعلا فقط از طریق API میسترال امکان‌پذیر است و این شرکت انتشار وزن‌ها را برای ۲۷ اکتبر برنامه‌ریزی کرده است.

ارزیابی‌های مستقل و نهادی که در جریان نشست به آن‌ها اشاره شد، رفتار ایمنی متفاوتی را در میان مدل‌های متن‌باز نشان دادند. ارزیابی SaferAI نشان داد که مدل چینی GLM-5.2 هیچ‌یک از درخواست‌های مرتبط با حملات سایبری مخرب یا درخواست‌های زیستی با کاربرد دوگانه را رد نکرده است. در مقابل، گزارش شده که کلود آنتروپیک به دلایل ایمنی آن‌قدر درخواست‌های زیادی را رد کرده که تکمیل بنچمارک ممکن نبوده است. پژوهش تیم Frontier Red Team آنتروپیک نیز نشان داد که مدل‌های کوچک‌تر می‌توانند روی دستگاه‌های ارزان‌قیمت Android TV بازتولید شوند؛ همه مدل‌های حاضر در آن آزمون، از جمله Gemma4 و GLM-5.2، متن‌باز بودند.

نکته قیمت‌گذاری و منافع منطقه‌ای در دوبلین

پرنسن همچنین از تغییر قیمت‌گذاری برای کلود خبر داد: هزینه معمول Claude Opus 5.5 نسبت به نسخه قبلی ۴۰ درصد کاهش یافته است. او این کاهش را نتیجه کاهش رسمی ۲۰ درصدی قیمت در کنار مصرف کمتر توکن در نسخه جدید دانست.

اظهارات پرنسن در دوبلین، ایرلند، بیان شد. چندین رسانه و گروه جامعه مدنی دوبلین را از این نظر محل بحث دانسته‌اند، زیرا نرخ‌های پایین مالیات شرکتی در ایرلند مدت‌هاست شرکت‌های بزرگ فناوری را جذب کرده و درآمد قابل‌توجهی برای دولت ایجاد کرده است؛ این گروه‌ها معتقدند منافع مالی ممکن است بی‌طرفی ایرلند در تنظیم‌گری هوش مصنوعی را پیچیده کند. آنتروپیک در اروپا منافع تجاری گسترده‌ای دارد: این شرکت اروپا را سریع‌ترین بازار در حال رشد خود توصیف می‌کند، نخستین دفتر اروپایی خود را در دوبلین افتتاح کرده و گزارش شده که برای عرضه اولیه سهام با ارزش‌گذاری ادعایی ۹۶۵ میلیارد دلار آماده می‌شود.