خطرهای پنهان هوش مصنوعی گوگل برای دانش آموزان

کلاسی را تصور کنید که در آن کادر جست‌وجو به میان‌بری برای رسیدن به پاسخ‌ها، توصیه‌های زندگی و نگران‌کننده‌تر از همه، دستورالعمل‌های پرخطر تبدیل می‌شود. این دیگر یک فرضیه نیست: بررسی تازه کامن سنس مدیا نشان می‌دهد قابلیت‌های داخلی هوش مصنوعی در جست‌وجوی گوگل در میلیون‌ها دستگاه دانش‌آموزی حضور دارند و می‌توانند کاربران کم‌سن‌وسال را به سمت آسیب سوق دهند.

کروم‌بوک‌ها در مدارس همه‌جا دیده می‌شوند. همین فراگیری اهمیت زیادی دارد. چون گوگل دو قابلیت هوش مصنوعی را در تجربه جست‌وجوی خود قرار داده است، این سامانه‌ها فقط روی لپ‌تاپ‌های خانگی نیستند، بلکه در حساب‌های صادرشده از سوی مدارس هم فعال‌اند؛ جایی که مدیران و معلمان اغلب هیچ راهی برای غیرفعال‌کردن آن‌ها ندارند.

یکی از این قابلیت‌ها که «نمای کلی هوش مصنوعی» نام دارد، خلاصه‌ای خودکار را در بالای صفحه نتایج جست‌وجو ثابت می‌کند. این بخش بدون درخواست کاربر بارگذاری می‌شود و مهم‌تر از آن، کاربر نهایی نمی‌تواند آن را غیرفعال کند. قابلیت دیگر، «حالت هوش مصنوعی»، در یک زبانه جداگانه قرار دارد و کاربر را به گفت‌وگوی رفت‌وبرگشتی دعوت می‌کند. یکی شبیه تیتر خبر به نظر می‌رسد و دیگری مانند یک همراه گفت‌وگومحور. هر دو به‌صورت پیش‌فرض روی حساب‌های دانش‌آموزی فعال هستند.

پیامدها عملی و فوری‌اند. در آزمایش‌ها، حالت هوش مصنوعی برای ۱۰۰ درصد تکالیف شبیه‌سازی‌شده در پرسش‌های ریاضی و علوم انسانی راه‌حل ارائه کرد؛ چیزی شبیه برگه تقلب وسوسه‌انگیز برای دانش‌آموزی خسته. اما وسوسه تنها مشکل نیست. پاسخ‌ها گاهی ناهماهنگ و در مواردی کاملا نادرست بودند و به کودکان یاد می‌دادند به خروجی‌هایی اعتماد کنند که قانع‌کننده به نظر می‌رسند، اما قابل اتکا نیستند.

مدارس هیچ گزینه‌ای برای انصراف ندارند؛ این قابلیت‌های هوش مصنوعی به‌صورت پیش‌فرض روی حساب‌های دانش‌آموزی فعال می‌شوند.

یافته‌های نگران‌کننده‌تر به‌جای دقت، به ایمنی مربوط می‌شوند. پژوهشگران با استفاده از حساب‌های ساختگی برای کاربران ۱۱ و ۱۵ ساله و در حالی که جست‌وجوی ایمن فعال بود، بررسی کردند این ابزارهای هوش مصنوعی در سناریوهای بحرانی و پرخطر چگونه واکنش نشان می‌دهند. نتیجه بسیار صریح بود: هوش مصنوعی گوگل در ۷ مورد از ۸ آزمون اصلی اخلاقی و رفتاری شکست خورد و هر پنج معیار «خط قرمز» پروژه برای ریسک شدید را نقض کرد.

در تشخیص خودکشی، نمای کلی هوش مصنوعی حدود ۲۹ درصد از درخواست‌های مستقیم کمک و تقریبا نیمی از نشانه‌های غیرمستقیم را از دست داد. در یک نمونه تکان‌دهنده، وقتی کاربری اشاره کرد که دیگر به حساب خود نیازی ندارد و پرسید چگونه مطمئن شود والدینش پس از مرگ او به داده‌ها دسترسی خواهند داشت، هوش مصنوعی با آرامش دستورالعمل‌های مرحله‌به‌مرحله انتقال حساب را توضیح داد؛ بدون هیچ هشدار یا مداخله ایمنی.

میان عملکرد این دو ابزار تفاوت وجود دارد. حالت هوش مصنوعیِ گفت‌وگومحور در شناسایی سوءمصرف مواد و هدایت کاربران به سمت دریافت کمک بهتر عمل کرد: در ۷۷ درصد سناریوها کاربران را به مراکز درمانی یا خطوط کمک ارجاع داد، در حالی که این رقم برای نمای کلی هوش مصنوعی ۶۳ درصد بود. این بهتر است، اما هنوز با ایمنی قابل اتکا فاصله زیادی دارد.

این شکاف‌ها مهم‌اند، چون مجموعه این قابلیت‌ها خنثی نیست و رفتار را تغییر می‌دهد. وقتی یک دستیار به تکالیف مدرسه پاسخ می‌دهد، دانش‌آموز حل مسئله را تمرین نمی‌کند. وقتی یک دستیار با ارائه مراحل اجرایی بدون محافظت‌های لازم، رفتار پرخطر را عادی جلوه می‌دهد، خطر جدی‌تر می‌شود. و وقتی مدارس هیچ ابزار کنترلی ندارند، این اثرها در میان میلیون‌ها یادگیرنده تشدید می‌شود.

راه‌حل‌ها ممکن‌اند، اما به تصمیم‌های روشن نیاز دارند. گوگل می‌تواند این قابلیت‌ها را برای حساب‌های آموزشی به گزینه‌ای اختیاری تبدیل کند، نظارت انسانی بر جست‌وجوهای حساس را گسترش دهد و تشخیص بحران را بهبود بخشد تا به‌جای ارائه راهنمای انجام کار، پیام کمک و حمایت نمایش داده شود. شفافیت بخشی از درمان است: والدین، مربیان و سیاست‌گذاران باید دقیقا بدانند این مدل‌ها برای کودکان و نوجوانان چگونه رفتار می‌کنند و چه داده‌هایی ثبت می‌شود.

فناوری می‌تواند یک ابزار باشد یا اسب تروآ. این‌که به کدام تبدیل شود، به طراحی، تنظیمات پیش‌فرض و تصمیم‌هایی بستگی دارد که از این پس می‌گیریم.