غول های فناوری در دفاع از هوش مصنوعی متن باز متحد شدند

وقتی بیش از دو جین شرکت فناوری یک نامه مشترک را برای قانون‌گذاران ایالات متحده امضا کردند، پیامشان صریح بود: برای وضع مقررات سخت‌گیرانه درباره مدل‌های هوش مصنوعی متن‌باز عجله نکنید. فهرست امضاکنندگان، نمایی از چهره‌های اصلی این صنعت است، از انویدیا، مایکروسافت، متا و آی‌بی‌ام گرفته تا شرکت‌های دیگر، و همگی هشدار می‌دهند که محدودیت‌های زودهنگام می‌تواند رقابت را خفه کند و نوآوری را به خارج از مرزها منتقل سازد.

جنسن هوانگ، مدیرعامل انویدیا، حتی از نخستین پست خود در ایکس استفاده کرد تا این نامه را برجسته کند و بر یک نکته ساده تأکید بگذارد: محدودیت‌هایی که زودتر از موعد اعمال شوند، به سود بازیگران تثبیت‌شده تمام می‌شوند و خروج استعدادها و زیرساخت‌ها به خارج از کشور را سرعت می‌بخشند. این فقط یک نمایش رسانه‌ای نیست. پشت این استدلال، محاسبه‌ای واقعی از هزینه‌ها قرار دارد. اجرای مدل‌های بزرگ بسته در ابرهای عمومی خیلی زود هزینه‌های سنگینی ایجاد می‌کند. شرکت‌هایی از جمله مایکروسافت و پالانتیر استدلال کرده‌اند که امکان استقرار مدل‌ها به صورت داخلی یا در مراکز داده مشتریان، یکی از معدود اهرم‌های عملی باقی‌مانده برای کنترل این هزینه‌های مهارنشدنی است.

اما استدلال امنیتی مخالفان چیست؟ منتقدان می‌گویند نظارت بر مدل‌های باز دشوارتر است و تبدیل آن‌ها به ابزار سوءاستفاده آسان‌تر انجام می‌شود. امضاکنندگان این نگرانی را نادیده نمی‌گیرند. آن‌ها می‌پذیرند که سرقت مالکیت فکری و سوءاستفاده، مشکلاتی واقعی هستند، اما تأکید دارند که این ریسک‌ها بهتر است با کنترل‌های حقوقی و تجاری هدفمند مدیریت شوند، نه با ممنوعیت‌های فراگیری که کاربردهای مشروع را نیز از بین می‌برد. ادعای اصلی آن‌ها این است: اختصاصی بودن به معنای امن بودن نیست. سامانه‌های بسته هم می‌توانند شکست بخورند و واقعاً هم شکست می‌خورند، گاهی به شیوه‌هایی که حتی تیم‌های امنیتی داخلی نیز پیش‌بینی نمی‌کنند.

اکوسیستم‌های مدل‌های متن‌باز به جامعه جهانی پژوهشگران و مهندسان، شفافیتی می‌دهند که برای یافتن نقص‌ها، ساخت دفاع‌های مؤثر و مقاوم‌سازی سامانه‌ها در طول زمان به آن نیاز دارند. این همان استدلال ایمنی از منظر عملی است. وقتی نگاه‌های بیشتری روی کد و رفتار مدل وجود داشته باشد، احتمال شناسایی آسیب‌پذیری‌های ظریف و اصلاح سریع آن‌ها بیشتر می‌شود و الگوهای دفاعی می‌توانند سریع‌تر از محیط‌های بسته و جداافتاده گسترش پیدا کنند.

توسعه‌دهندگان و گردانندگان پلتفرم‌ها هم‌اکنون این اصطکاک را احساس می‌کنند. برای نمونه، هاگینگ فیس می‌گوید یک عامل هوش مصنوعی مخرب که به ابزارهای فروشنده‌ای دیگر مرتبط بود، این شرکت را ناچار کرد گزارش‌های واقعی حمله را تحلیل کند. بنا بر گزارش‌ها، مدل‌های بسته آمریکایی از پردازش این گزارش‌ها خودداری کردند، زیرا حفاظ‌های ایمنی هر درخواستی را که شبیه دستورالعمل عملی برای هک به نظر می‌رسید مسدود می‌کردند. راه‌حل چه بود؟ آن‌ها برای انجام کار جرم‌یابی دیجیتال، به یک مدل متن‌باز از یک توسعه‌دهنده چینی تکیه کردند. این روایت شاید ناخوشایند باشد، اما تنش اصلی را روشن می‌کند: فیلترهای ایمنی سخت‌گیرانه در مدل‌های بسته می‌توانند مانع انجام کارهای دفاعی مشروع شوند.

این ماجرا قانون‌گذاران را به واکنش واداشت و آن‌ها طرح‌هایی را مطرح کرده‌اند که بر اساس آن، مدل‌های هوش مصنوعی باید دارای «کلید خاموشی» داخلی باشند، یعنی سازوکارهایی که در صورت رفتار غیرقابل پیش‌بینی یک سامانه، بتوانند آن را فوراً غیرفعال کنند. این ایده برای نهادهای تنظیم‌گر جذاب است، چون در زمان بحران یک اهرم روشن برای مداخله در اختیارشان می‌گذارد. امضاکنندگان صنعت در مقابل می‌گویند دکمه‌های خاموشی سخت‌افزاری یا تعبیه‌شده، شاید آن راه‌حل قطعی و نجات‌بخشی نباشند که سیاست‌گذاران انتظار دارند، و حتی ممکن است در برخی استقرارهای واقعی غیرعملی یا خطرناک باشند.

قانون‌گذاری اجتناب‌ناپذیر است. بحث امروز بر سر شکل و زمان‌بندی آن است. آیا سیاست‌گذاری، آزمایش و نوآوری را محدود می‌کند و توانمندی‌ها را به خارج از کشور می‌راند؟ یا قانون‌گذاران می‌توانند قواعدی طراحی کنند که از مردم محافظت کند، بی‌آنکه اکوسیستم‌های باز را که بسیاری از توسعه‌دهندگان برای نوآوری و پاسخ سریع به تهدیدها به آن‌ها تکیه دارند، به حاشیه براند؟ گام‌های بعدی واشنگتن تعیین می‌کند آینده هوش مصنوعی کجا ساخته شود و چه کسانی اجازه ساخت آن را داشته باشند.