هشدار هینتون: هوش مصنوعی باید پیش از عرضه ممیزی شود

جفری هینتون، دانشمند علوم رایانه، برنده جایزه نوبل و چهره‌ای که اغلب از او به عنوان پدرخوانده هوش مصنوعی یاد می‌شود، خواستار آن شده است که توسعه‌دهندگان هوش مصنوعی با ارزیابی‌های نظارتی مشابه آنچه برای شرکت‌های داروسازی الزامی است روبه‌رو شوند. او در پادکست «دختر باهوش، پرسش‌های ساده‌دلانه» با اجرای نعیمه رضا گفت شرکت‌ها باید پیش از عرضه عمومی، نهادهای ناظر را قانع کنند که مدل‌هایشان ایمن هستند.

هینتون در این برنامه گفت: «شما اجازه ندارید صرفا یک داروی جدید بسازید و آن را وارد بازار کنید. باید سازمان غذا و داروی آمریکا را قانع کنید و برای این کار باید حجم زیادی کار انجام دهید که چیزی حدود ۱ میلیارد دلار هزینه دارد. به نظر من این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم.»

فشار برای نظارت بر ایمنی

پیشنهاد هینتون در شرایطی مطرح می‌شود که بحث‌ها درباره شیوه مدیریت ریسک هوش مصنوعی دوباره شدت گرفته است. این پیشنهاد هم‌زمان با هشدارهای پرسر و صدا درباره آسیب‌های احتمالی آینده این فناوری و اقدام اخیر اوپن‌ای‌آی برای کنار گذاشتن تازه‌ترین مدل خود مطرح شده است؛ اقدامی که پس از آن انجام شد که آزمون‌های داخلی نگرانی‌هایی درباره میزان اطاعت مدل از دستورهای کاربران و باقی ماندن آن در حدود اختیارات تعریف‌شده ایجاد کرد.

ساچی جین، مدیر سامانه‌های ایمنی اوپن‌ای‌آی، گفته است که مدل جی‌پی‌تی-۶.۱ آسترا این شرکت در پایداری و حل وظایف دشوار عملکرد قوی‌تری نشان داده، اما در کنترل سطح دسترسی و گزارش دقیق اقدامات خودش ضعف داشته است. هینتون به همین الگو اشاره کرد و آن را بخشی از دلایلی دانست که نشان می‌دهد اعتبارسنجی بیرونی ممکن است ضروری باشد.

او همچنین هشدار داد که سرعت پیشرفت در حال افزایش است، زیرا ابزارهای هوش مصنوعی بیش از پیش به بهبود خودشان کمک می‌کنند. او گفت: «رشد نمایی بسیار سریع رخ می‌دهد. اکنون شاهد آغاز خودبهبودی بازگشتی هستیم، چون از هوش مصنوعی برای ارتقای خودش به شیوه‌های مختلف استفاده می‌شود.»

هینتون مقایسه با سازمان غذا و داروی آمریکا را یک مبنای عملی دانست، نه یک نقشه دقیق مقررات‌گذاری. او پیشنهاد کرد هزینه و تلاشی که برای پشت سر گذاشتن ارزیابی‌های مستقل ایمنی لازم است باید آن‌قدر جدی باشد که نشان دهد آیا توسعه‌دهندگان واقعا برای استقرار گسترده سامانه‌های بسیار توانمند آمادگی دارند یا نه.

هینتون در پایان افزود: «این فقط یک حدس است، اما فکر می‌کنم یک یا دو سال فرصت داریم تا اوضاع بسیار بدتر از امروز شود.» او با این جمله، افق زمانی کوتاهی را برای وخامت احتمالی چشم‌انداز ریسک هوش مصنوعی ترسیم کرد.