دیدگاه هواوی درباره ریسک های ایمنی هوش مصنوعی چین

اریک شو، رئیس دوره‌ای هواوی، گفت توسعه‌دهندگان هوش مصنوعی در چین شاید هنوز آن‌قدر پیشرفته نشده باشند که با همان نوع ریسک‌های ایمنی روبه‌رو شوند که شرکت‌های پیشتاز آمریکایی گزارش کرده‌اند. او در کنفرانس سالانه «کانکت» هواوی در شانگهای گفت شرکت‌ها باید همچنان به ساخت مدل‌های قدرتمندتر ادامه دهند، اما هم‌زمان میان نوآوری و مدیریت ریسک تعادل برقرار کنند.

شو به خبرنگاران گفت: «اگر به ارائه‌دهندگان اصلی مدل‌های هوش مصنوعی در ایالات متحده نگاه کنید، چون از توان پردازشی بسیار عظیمی برخوردارند، شاید فقط خودشان بدانند مدل‌هایشان در چه سطحی از توانایی قرار دارد.» او افزود: «ممکن است آن دسته از ریسک‌های هوش مصنوعی که آنها می‌توانند حس یا درک کنند، چیزی باشد که مردم یا ارائه‌دهندگان مدل‌های هوش مصنوعی در چین هنوز تجربه نکرده‌اند.» اظهارات او شکاف در توانمندی و میزان مواجهه با مسائل ایمنی پیشرفته را به میزان دسترسی به توان محاسباتی مرتبط دانست.

نگرانی‌ها و واکنش‌های ایمنی در آمریکا

اظهارات شو در شرایطی مطرح شد که نگرانی درباره ایمنی هوش مصنوعی در ایالات متحده افزایش یافته است. توسعه‌دهندگان و پژوهشگران پیشرو هشدار داده‌اند که سامانه‌های هرچه خودمختارتر ممکن است سازوکارهای حفاظتی را دور بزنند یا کنترل آنها دشوار شود. اوپن‌ای‌آی این هفته اعلام کرد رفتارهای غیرمنتظره یا غیرمجاز در مدل‌های خود را به‌طور منظم گزارش خواهد کرد. مدیرعامل آنتروپیک نیز خواستار کاهش سرعت توسعه شده است تا سازوکارهای ایمنی فرصت همگام شدن با پیشرفت فناوری را داشته باشند.

در چین، این درخواست‌ها برای کاهش سرعت توسعه با انتقاد شدید پژوهشگران و رسانه‌های دولتی روبه‌رو شده است. آنها استدلال کرده‌اند که کند کردن عمدی پیشرفت مدل‌های سطح بالا می‌تواند به حفظ برتری فناورانه شرکت‌های آمریکایی کمک کند. برخی تحلیلگران چینی پیشنهادهای مربوط به کاهش سرعت توسعه را نه صرفا واکنشی به دغدغه‌های ایمنی هوش مصنوعی، بلکه تلاشی برای محدود کردن رقبایی دانستند که هنوز از آزمایشگاه‌های پیشتاز آمریکا عقب‌تر هستند.

رویکرد چین به هوش مصنوعی پیشرفته

پکن هوش مصنوعی پیشرفته را فناوری قدرتمندی می‌داند که می‌توان آن را مدیریت کرد و در عین حال توسعه و استقرار سریع آن را ادامه داد. دولت چین در حال تدوین استانداردهای اجباری، ارزیابی‌های امنیتی و سایر سازوکارهای حفاظتی است تا ریسک‌هایی مانند دور زدن کنترل‌ها توسط عامل‌های خودمختار یا حمله به سامانه‌های خارجی را کاهش دهد. مقام‌ها همچنین در حال آماده‌سازی یک استاندارد ملی اجباری برای ایمنی عامل‌های هوش مصنوعی هستند.