ویدئوهای زباله هوش مصنوعی و تهدید پنهان ذهن کودکان

یک توت‌فرنگی خندان. یک آهنگ شاد. بعد یک اره. کودک همچنان تماشا می‌کند. کوتاه، تکرارشونده و به‌طرزی عجیب مسحورکننده؛ این‌ها دشمنان تازه تمرکز و دامنه توجه کودکان هستند.

پژوهشگران و تحلیلگران درباره موجی از ویدئوهای کم‌کیفیت تولیدشده با هوش مصنوعی هشدار می‌دهند که مستقیما کودکان را هدف گرفته‌اند. این محتواها که در اصطلاح رایج صنعت به «زباله هوش مصنوعی» معروف شده‌اند، کلیپ‌هایی ارزان، تکراری و انبوه هستند که برای جذب بازدید و درآمد تبلیغاتی ساخته می‌شوند. همه‌جا دیده می‌شوند: فیدهای بی‌پایان تیک‌تاک، پخش خودکار در یوتیوب و دیگر بخش‌های کودک‌محور وب. خطر آن‌ها همیشه در خشونت آشکار و خون‌ریزی صریح نیست؛ مشکل اصلی فرسایش مداوم توجه و عادی‌سازی تدریجی تصاویر خشونت‌آمیز است که پشت رنگ‌های شیرین و شخصیت‌های بامزه پنهان می‌شود.

بررسی‌های شبکه جهانی افراط‌گرایی و فناوری و همچنین پژوهش‌های مستقل، دو روند نگران‌کننده را برجسته کرده‌اند. نخست، حجم عظیم این کلیپ‌ها می‌تواند ظرف چند ساعت فید یک کودک را پر کند. یک تولیدکننده محتوا با چند ابزار ساده هوش مصنوعی می‌تواند صدها نسخه متفاوت منتشر کند؛ نسخه‌هایی که آن‌قدر تفاوت دارند که الگوریتم‌های پلتفرم‌ها را دور بزنند، اما آن‌قدر شبیه‌اند که همان قلاب‌های جذب توجه را مدام تکرار کنند. دوم، محتوای روایی این ویدئوها، که اغلب داستان‌هایی عجیب و به‌سرعت تشدیدشونده از عشق، خیانت یا دعواهای خانوادگی میان میوه‌های انسان‌نماست، برای مخاطبان خردسال بار عاطفی نامتناسب و سنگینی دارد.

یک سیب کارتونی چگونه بی‌رحمی را آموزش می‌دهد؟ از راه تکرار و زمینه‌سازی. وقتی تصاویر بازیگوشانه با پرخاشگری رو‌به‌افزایش همراه می‌شوند، مانند فریاد، تهدید و آسیب شبیه‌سازی‌شده، مغز در حال رشد کودک نشانه‌های عاطفی تازه‌ای را یاد می‌گیرد. جهش‌های دوپامین، ادامه اسکرول کردن را پاداش می‌دهند. اصطلاح «پوسیدگی مغز» وارد گفت‌وگوی عمومی شده تا کندی شناختی پس از مصرف بی‌پایان محتوای بسیار محرک را توصیف کند. این فقط یک استعاره نیست. تنظیم توجه، کنترل تکانه و همدلی همگی از آنچه کودکان می‌بینند و دفعاتی که آن را می‌بینند، شکل می‌گیرند.

بدتر از آن، زیر لایه کلیپ‌های ظاهرا قابل‌قبول‌تر، یک زیرژانر grotesque و آزاردهنده در حال گسترش است: خشونت و خون‌ریزی میوه‌ها و سبزیجات. شخصیت‌های رنگارنگ و کارتونی با تبر، اره و سلاح گرم نمایش داده می‌شوند. صحنه‌ها به قطع عضو، پاشیدن خون و شکنجه نمایشی می‌رسند، آن هم با زیبایی‌شناسی فریبنده‌ای که کودکانه به نظر می‌رسد. تضاد میان طراحی بامزه و رفتارهای بی‌رحمانه، واکنش عاطفی را تضعیف می‌کند. در طول زمان، مواجهه تکراری می‌تواند کودکان را نسبت به خشونت بی‌حس کند و مرز میان بازی و آسیب را کمرنگ سازد.

برخی از این ویدئوها از نشانه‌های بصری بازیگران خشونت‌گرای دنیای واقعی الهام می‌گیرند. تحلیلگران می‌گویند جذابیت بصری ویدئوهای اعدام کارتل‌ها و تبلیغات افراط‌گرایانه، تقلید و به نسخه‌ای پاک‌سازی‌شده در قالب انیمیشن‌های کوتاه تبدیل شده است؛ انیمیشن‌هایی که از فیلترهای محتوا عبور می‌کنند. پلتفرم‌ها محتوای خشونت‌آمیز صریح را ممنوع می‌کنند، اما ظاهر معصومانه این انیمیشن‌ها اغلب برای عبور از نظارت خودکار کافی است. نتیجه، مسیری پنهان است که از طریق آن تصاویر و الگوهای آسیب‌زا می‌توانند بدون آگاهی روشن والدین و مراقبان، به میلیون‌ها کودک برسند.

ابزارهای ارزان و در دسترس بخشی از مشکل‌اند. سرویس‌هایی مانند PixVerse، VeoE.ai، Media.io و Sora انیمیشن‌سازی، تولید صدا و تدوین سریع را در اختیار هر کسی می‌گذارند که یک متن ساده در دست دارد. چیزی که زمانی به استودیو و بودجه نیاز داشت، اکنون می‌تواند در مقیاس انبوه تولید شود. انگیزه اقتصادی کاملا روشن است: هزینه تولید پایین، تعامل بالا و درآمد تبلیغاتی قابل پیش‌بینی. برای تولیدکنندگان محتوا و همچنین کنشگران مخرب، این معادله وسوسه‌انگیز است.

والدین، آموزگاران و پلتفرم‌ها چه باید بکنند؟ راه‌حل واحدی وجود ندارد. مدل‌های بهتر نظارت بر محتوا کمک می‌کنند، اما باید با تغییرات طراحی همراه شوند؛ تغییراتی که حلقه‌های پخش خودکار و تقویت الگوریتمی محتوای کوتاه ویژه کودکان را محدود کنند. سواد رسانه‌ای خانواده‌ها حیاتی است: بدانید کودک شما از چه اپلیکیشن‌هایی استفاده می‌کند، چند ویدئو را با هم تماشا کنید و برای اسکرول بی‌پایان مرز بگذارید. سیاست‌گذاران نیز می‌توانند برای برچسب‌گذاری شفاف‌تر و اجرای جدی‌تر safeguards محتوای متناسب با سن فشار بیاورند.

آنچه در خطر است، فراتر از توجه زودگذر است: مسئله این است که ذهن‌های جوان چگونه احساس، داستان و اخلاق را از پیکسل‌هایی که مصرف می‌کنند یاد می‌گیرند. چه کسی برای مراقبت از زمین‌های بازی تخیل فردا قدم پیش می‌گذارد؟