تصاویر هوش مصنوعی چگونه در ذهن ما خاطرات جعلی می سازند

آیا تا به حال به عکسی نگاه کرده‌اید و مطمئن بوده‌اید که در آن لحظه حضور داشته‌اید، اما بعدا فهمیده‌اید که چنین نبوده است؟ همین حس اطمینان ناآرام‌کننده دقیقا همان چیزی است که پژوهشگران ام‌آی‌تی تصمیم گرفتند بررسی کنند، و نتایج نگران‌کننده است.

در آزمایشی که واشنگتن پست گزارش کرده است، ۲۰۰ داوطلب مجموعه‌ای از ۲۴ عکس معمولی را تماشا کردند: یک مراسم عروسی، خیابانی شلوغ، مسابقه‌ای ورزشی و صحنه‌هایی مشابه از زندگی روزمره. پس از یک وقفه کوتاه، به برخی از شرکت‌کنندگان دوباره همان عکس‌های اصلی نشان داده شد. اما گروهی دیگر نسخه‌های تغییریافته‌ای را دیدند که با هوش مصنوعی مولد ساخته شده بود. حالت چهره‌ها عوض شده بود. نیروهای نظامی در میدان‌های عمومی دیده می‌شدند. آسمان‌ها تیره‌تر یا صاف‌تر شده بودند.

نتیجه کاملا روشن بود. افرادی که تصاویر دستکاری‌شده با هوش مصنوعی را دیده بودند، به شکل معناداری بیشتر احتمال داشت خاطراتی از رویدادهایی گزارش کنند که هرگز رخ نداده بودند. نگران‌کننده‌تر اینکه آن‌ها معمولا به این یادآوری‌های نادرست اعتماد داشتند. شرکت‌کنندگانی که در معرض تصاویر تغییریافته با هوش مصنوعی قرار گرفته بودند، فقط خاطرات را اشتباه به یاد نمی‌آوردند، بلکه به همین یادآوری اشتباه هم اعتماد می‌کردند.

چرا این موضوع مهم است؟ حافظه یک فایل ویدئویی ساده نیست که دست‌نخورده در مغز ذخیره شده باشد. حافظه یک سازه ذهنی است: توجه، تلاش، نشانه‌های یادآوری و شبکه‌ای از ارتباطاتی که در ذهن می‌سازید، همگی تعیین می‌کنند چه چیزی را به خاطر می‌آورید. یک تصویر واضح می‌تواند قطعه‌ای گم‌شده را فراهم کند و ذهن نیز شکاف‌ها را پر می‌کند. هوش مصنوعی مولد، با تولید محتوای بصری و متنی قانع‌کننده، می‌تواند روند آهسته و شکاکانه‌ای را که مغز ما معمولا انجام می‌دهد دور بزند.

لایه دیگری هم در این مسئله وجود دارد. این مدل‌ها می‌توانند جزئیاتی بسازند که باورپذیر به نظر می‌رسند اما واقعیت ندارند، چیزی که دانشمندان علوم رایانه آن را توهم هوش مصنوعی می‌نامند. بیشتر مردم در تشخیص چنین جعل‌هایی مهارت چندانی ندارند. وقتی یک تصویر باورپذیر با اعتبار پنهان یک الگوریتم همراه می‌شود، می‌تواند تردید را کنار بزند. و زمانی که متخصصان نیز به همان نشانه‌ها تکیه می‌کنند، قضاوت‌های حرفه‌ای هم ممکن است زیر همین فشار تغییر مسیر بدهند.

اهمیت این یافته‌ها فراتر از شایعات و فریب‌های اینترنتی است. این مسئله با روزنامه‌نگاری، شواهد حقوقی، سوابق پزشکی و روابط شخصی ارتباط پیدا می‌کند. اگر یک تصویر دستکاری‌شده یا متنی plausible اما نادرست حافظه را کمی جابه‌جا کند، تصمیم‌هایی که بر پایه آن خاطرات گرفته می‌شوند خطایی نامرئی را با خود حمل خواهند کرد. نکته فریبنده اینجاست که آن خطا می‌تواند کاملا واقعی به نظر برسد.

راه‌حل‌هایی وجود دارد، اما هیچ‌کدام معجزه نمی‌کنند. سامانه‌های قدرتمند ردیابی منشأ محتوا، استفاده گسترده‌تر از ابزارهای راستی‌آزمایی و آموزش عمومی درباره محدودیت‌های حافظه و هوش مصنوعی، بخشی از راه اصلاح وضعیت هستند. با این حال، فناوری با سرعتی زیاد پیش می‌رود و عادت‌های شناختی ما به کندی سازگار می‌شوند.

زمانی عکس‌ها به عنوان سند و مدرک پذیرفته می‌شدند. امروز آن‌ها می‌توانند در بازنویسی گذشته نقش همدست را بازی کنند. به کدام نسخه از دیروز اعتماد خواهیم کرد؟