ماجرا با درخواستی شروع شد که زنگ خطرهای داخلی را به صدا درآورد: پرامپتی که از یک هوش مصنوعی می‌خواست پیش‌نویس یک طرح پژوهشی برای تغییر یک ویروس را بنویسد تا آسان‌تر پخش شود. جمله‌ای کوتاه. خطری کاملا واقعی.
آنتروپیک می‌گوید سامانه‌های ایمنی آن چند دانشمند را شناسایی کردند که تلاش داشتند از کلود برای توسعه قابلیت‌های زیستی بالقوه خطرناک استفاده کنند و سپس مداخله انجام شد. گزارش تازه منتشرشده این شرکت پنج مطالعه موردی را مرور می‌کند؛ نه شخصیت‌های شرور سینمایی، بلکه مسیرهای پژوهشی ظریف و باورپذیری که می‌توانند مرز میان علم مشروع و سوءاستفاده را مبهم کنند.
یکی از نگران‌کننده‌ترین نمونه‌ها به چیکونگونیا مربوط بود. دسته‌بند ایمنی، درخواستی را برای طراحی یک مطالعه افزایش عملکرد علامت‌گذاری کرد که هدف آن بالا بردن قابلیت انتقال ویروس و توانایی آن برای فرار از پاسخ‌های ایمنی بود. چیکونگونیا درمان ضدویروسی تاییدشده‌ای ندارد و می‌تواند افراد را برای هفته‌ها یا ماه‌ها ناتوان کند. وقتی مشخص شد این کار پیشنهادی احتمالا با یک آزمایشگاه وابسته به نهادهای نظامی ارتباط دارد، نگرانی آنتروپیک شدیدتر شد.
پژوهش افزایش عملکرد، بنا بر تعریف، تغییرات ژنتیکی‌ای را بررسی می‌کند که ویژگی‌های یک ارگانیسم را دگرگون می‌سازند. همان مراحل آزمایشی که به ساخت واکسن یا درمان کمک می‌کنند، می‌توانند برای خطرناک‌تر کردن عوامل بیماری‌زا نیز به کار گرفته شوند. همین واقعیت کاربرد دوگانه، تشخیص خودکار را به‌شدت دشوار می‌کند. چگونه می‌توان تفاوت میان یک مطالعه ایمنی مشروع و نقشه راهی برای آسیب‌رسانی را تشخیص داد؟ پاسخ به‌ندرت صفر و یکی است.
در موردی دیگر، یک پژوهشگر از کلود برای گردآوری اطلس پپتیدهای سمی موجود در زهرها استفاده کرد و سپس یک روند تولید برای بهینه‌سازی ویژگی‌های آن‌ها خواست. این گزارش همچنین تلاش‌هایی را ثبت می‌کند که برای استفاده از مدل‌ها در آسیب‌های دیجیتال انجام شده‌اند: سناریوهای نظارتی، توسعه بهره‌برداری‌های نرم‌افزاری، تبلیغات سازمان‌یافته و مسیرهای تسلیحاتی‌سازی برای سامانه‌های متعارف.
آنتروپیک می‌گوید حساب‌های درگیر را مسدود کرده و یافته‌ها را دوباره وارد چارچوب ایمنی خود می‌کند تا دفاع‌های خودکار هوشمندتر و محتاط‌تر شوند.
جیکوب کلاین، رئیس اطلاعات تهدید در آنتروپیک، موضوع را روشن بیان کرد: «این یک سناریوی کمیک‌بوکی نیست که در آن کسی با صدای بلند اعلام کند می‌خواهد سلاح زیستی بسازد. این‌ها پرونده‌هایی پیچیده و آشفته‌اند که به قضاوت نیاز دارند.» به باور آنتروپیک، همین قضاوت توجیه می‌کرد که جانب احتیاط گرفته شود.
این شرکت با اشاره به ماهیت ظریف پژوهش‌های زیستی و خطر برداشت نادرست، از نام بردن افراد یا نهادهای درگیر خودداری کرد. با این حال، این رخداد پرسش‌های فوری درباره مسئولیت نظارت بر تحقیقات کاربرد دوگانه مطرح می‌کند، آن هم در زمانی که مدل‌های قدرتمند هوش مصنوعی به‌طور گسترده در دسترس هستند. چه کسی باید مرز را ترسیم کند؟ و سامانه‌های ایمنی با چه سرعتی می‌توانند همگام با دسترس‌پذیرتر شدن تکنیک‌ها پیش بروند؟
این گزارش پایان‌بندی مرتب و قطعی ندارد. بیشتر تصویری لحظه‌ای از مشکلی است که با سرعت در حال تحول است: ابزارهای هوش مصنوعی که کشف علمی را شتاب می‌دهند و اگر بد استفاده شوند، مسیر میان ایده و آسیب را کوتاه می‌کنند. کار اصلی از اینجا به بعد، دقیق‌تر کردن تشخیص، گسترده‌تر کردن نظارت و تصمیم‌گیری درباره میزان احتیاطی است که جهان حاضر است بپذیرد، پیش از آنکه این قابلیت‌ها دوباره در اختیار کسانی قرار گیرد که ممکن است از آن‌ها سوءاستفاده کنند.
.avif)
نظر بگذارید
نظرات (3)
وای... این خیلی نزدیک به یه کابوسه، سرعت علمی بالاست ولی اخلاق عقب مونده، واقعن نگرانم، باید زودتر فکری بشه
تو پروژه‌ای که کار می‌کردم یه مدل اشتباه مسیر تحقیقو عوض کرد، دیدم؛ قوانین روشن‌تر باشن بهتره، وگرنه اینا خطرناکن...
چطور ممکنه سامانه‌ای که اینقدر خطر رو تشخیص میده، باز هم آدمو نترسونده؟ یعنی واقعا کنترلشون جواب میده یا فقط یه نمایش امنیتی؟