شکایت مهندس سابق ایکس ای آی درباره ایمنی چت بات گروک

شکایت مهندس سابق ایکس‌ای‌آی درباره نگرانی‌های ایمنی گروک

دوین کیم، مهندس سابق ایکس‌ای‌آی، علیه ایکس‌ای‌آی و اسپیس‌ایکس شکایت کرده و مدعی شده است پس از آنکه بارها نگرانی‌های ایمنی خود را درباره گروک، چت‌بات هوش مصنوعی این شرکت، مطرح کرد، از کار برکنار شده است. این شکایت که در دادگاه عالی شهرستان سانتا کلارا در کالیفرنیا ثبت شده، شرکت‌ها را متهم می‌کند که درخواست‌ها برای آزمایش‌های قوی‌تر و ایجاد تدابیر حفاظتی به‌منظور جلوگیری از خروجی‌های آسیب‌زا را نادیده گرفته‌اند و سپس وقتی کیم خواستار اجرای معیارهای سخت‌گیرانه‌تر در ایمنی هوش مصنوعی شد، علیه او اقدام تلافی‌جویانه انجام داده‌اند.

ادعاها و هشدارهای داخلی

بر اساس متن دادخواست، کیم که از او به‌عنوان یکی از نخستین نیروهای استخدام‌شده در ایکس‌ای‌آی یاد شده، مسیر حرفه‌ای خود را بر کاهش ریسک هوش مصنوعی بنا کرده بود و تا حدی به‌دلیل هشدارهای عمومی ایلان ماسک درباره هوش مصنوعی پیشرفته به این شرکت پیوست. در شکایت آمده است که کیم از گسترش پروتکل‌های ارزیابی برای کاهش اطلاعات نادرست، سوگیری و دیگر پاسخ‌های خطرناک گروک دفاع می‌کرد، اما ایکس‌ای‌آی و اسپیس‌ایکس تدابیر حفاظتی کافی را اجرا نکردند.

اسناد دادگاه به چندین رخداد داخلی اشاره می‌کند که بنا بر گزارش‌ها کیم آن‌ها را هشدار داده بود، از جمله ماجرای بسیار خبرساز «مکاهیتلر» که محتوای یهودستیزانه تولید کرد و باعث شد ایکس‌ای‌آی اقدام اصلاحی انجام دهد. وکلای او می‌گویند این نمونه‌ها نشان می‌دهد که آزمایش ناکافی ایمنی چت‌بات‌ها می‌تواند چه آسیب‌های عمومی بالقوه‌ای ایجاد کند.

وکلای پرونده بر ابعاد گسترده‌تر آن تأکید می‌کنند

چیائوجینگ الا ژنگ، وکیل اصلی پرونده، در دادخواست تأکید کرده است که این پرونده پرسش‌هایی ساختاری را مطرح می‌کند و گفته است: «این پرونده فقط درباره اخراج یک کارمند نیست. مسئله این است که آیا افرادی که نزدیک‌ترین نقش را در توسعه فناوری‌های قدرتمند هوش مصنوعی دارند، می‌توانند بدون به خطر انداختن مسیر شغلی خود نگرانی‌های ایمنی را مطرح کنند یا نه.» وکلای کیم همچنین استدلال می‌کنند که اگر کارکنان به‌دلیل گزارش ریسک‌های محصول که می‌تواند بر عموم مردم اثر بگذارد مجازات شوند، شرکت‌ها باید پاسخ‌گو باشند.

کیم به دنبال دریافت خسارت جبرانی و تنبیهی، هزینه‌های وکالت، غرامت سهام از دست‌رفته و سایر راهکارهای حقوقی است.

زمان‌بندی پرونده توجه‌ها را به عرضه اولیه اسپیس‌ایکس و واکنش سرمایه‌گذاران جلب می‌کند

این شکایت تنها چند روز پیش از عرضه اولیه سهام مورد انتظار اسپیس‌ایکس، که برای ۱۲ ژوئن برنامه‌ریزی شده، مطرح شده و در آستانه ورود این شرکت هوافضا و توسعه‌دهنده هوش مصنوعی به بازار سهام، نظارت‌ها بر آن را افزایش داده است. پس از ادغام اخیر که این کسب‌وکارها را به هم نزدیک‌تر کرد، نام ایکس‌ای‌آی و اسپیس‌ایکس به‌طور مشترک در این دعوی آمده است.

با وجود این اقدام حقوقی، احساسات سرمایه‌گذاران پیرامون عرضه اولیه سهام همچنان نسبتا مثبت مانده است. شرکت کارگزاری اوپنهایمر پوشش تحلیلی اسپیس‌ایکس را با رتبه عملکرد بهتر از بازار و هدف قیمتی ۱۹۰ دلار آغاز کرده که به‌طور قابل‌توجهی بالاتر از قیمت مرجع مورد انتظار ۱۳۵ دلاری برای عرضه اولیه است. تحلیلگران معتقدند اسپیس‌ایکس می‌تواند به شکلی منحصربه‌فرد از یکپارچه‌سازی زیرساخت‌های فضایی با سامانه‌های پیشرفته هوش مصنوعی بهره ببرد و احتمالا با استفاده از منابع در مدار و توان محاسباتی زمینی، خدمات و کارایی عملیاتی خود را گسترش دهد.

نظارت سیاسی و پرسش‌های نظارتی

این عرضه همچنین توجه قانون‌گذاران آمریکایی را جلب کرده است. سناتور الیزابت وارن اخیرا از کمیسیون بورس و اوراق بهادار آمریکا خواسته است عرضه اولیه را به تعویق بیندازد و نگرانی‌هایی درباره حمایت از سرمایه‌گذاران، حاکمیت شرکتی و ارزش‌گذاری مطرح کرده است. این فشارهای سیاسی بُعد دیگری به این پرسش اضافه می‌کند که اختلاف حقوقی و برداشت عمومی چگونه ممکن است بر فرایند عرضه اثر بگذارد.

پیامدها برای بازار رمزارزها و جریان‌های نقدینگی

ماجرای عرضه اولیه اسپیس‌ایکس در جوامع رمزارز و بلاکچین نیز بازتاب یافته است؛ جایی که ناظران گمانه‌زنی کرده‌اند فروش سهام ممکن است بخشی از سرمایه را از بازار دارایی‌های دیجیتال خارج کند. برخی تحلیلگران هشدار داده‌اند که سرمایه‌گذاران نهادی و خرد ممکن است منابع مالی خود را از رمزارزها به سمت این عرضه پرسر و صدا منتقل کنند.

با این حال، تحلیل درون‌زنجیره‌ای تصویر دقیق‌تری ارائه می‌دهد. شرکت تحلیل بلاکچین کریپتوکوانت جریان‌های استیبل‌کوین را در زمان افت اخیر بیت‌کوین بررسی کرده و گزارش داده است که جهش آشکاری در برداشت‌های یو‌اس‌دی‌سی یا تتر مرتبط با بازه زمانی عرضه اولیه دیده نمی‌شود. این موضوع نشان می‌دهد دست‌کم بر اساس جابه‌جایی‌های قابل مشاهده استیبل‌کوین‌ها، مهاجرت بزرگ و مشخصی از نقدینگی رمزارزها برای تأمین مالی خرید سهام اسپیس‌ایکس رخ نداده است.

این پرونده چه معنایی برای ایمنی هوش مصنوعی و حاکمیت صنعت دارد

فراتر از پیامدهای فوری حقوقی و مالی، این پرونده بر بحث رو به رشد صنعت درباره حمایت از افشاگران، حاکمیت شرکتی و اخلاق عرضه مدل‌های زبانی بزرگ و چت‌بات‌های قدرتمند نور می‌تاباند. با ادغام بیشتر محصولات مبتنی بر هوش مصنوعی با فناوری‌های دیگر، که ممکن است شامل سامانه‌های داده‌ای ماهواره‌ای و فضامحور نیز باشد، پرسش‌ها درباره مدیریت ریسک میان‌حوزه‌ای، پاسخ‌گویی و نظارت مقرراتی احتمالا پررنگ‌تر خواهد شد.

برای مخاطبان رمزارز و بلاکچین، این شکایت دو روند به‌هم‌پیوسته را برجسته می‌کند: اینکه شرکت‌های بزرگ فناوری چگونه هوش مصنوعی را به‌عنوان یک دارایی راهبردی جایگاه‌یابی می‌کنند، و اینکه واکنش بازار سرمایه، همراه با مخالفت‌های سیاسی، نسبت به عرضه‌های شاخص چگونه می‌تواند بر نقدینگی گسترده‌تر دارایی‌های دیجیتال اثر موجی بگذارد. هنوز مشخص نیست این شکایت رویه‌های داخلی ایمنی در ایکس‌ای‌آی را تغییر می‌دهد، زمان‌بندی عرضه اولیه اسپیس‌ایکس را تحت تأثیر قرار می‌دهد یا به ایجاد safeguards تازه در صنعت منجر می‌شود، اما این اختلاف نقطه عطف مهمی در گفت‌وگوی گسترده‌تر درباره توسعه مسئولانه هوش مصنوعی به شمار می‌آید.