ماجرای شایعه مرگ ترامپ با هاری در هوش مصنوعی داک داک گو

تصور کنید از دستیار جستجوی خود یک واقعیت سریع می‌پرسید و در پاسخ، با شایعه‌ای هولناک روبه‌رو می‌شوید: اینکه دونالد ترامپ گویا همین ماه بر اثر هاری درگذشته است. پوچ. تکان‌دهنده. نادرست.

این همان تیتر عجیبی بود که برخی کاربران پس از تعامل با هوش مصنوعی داک‌داک‌گو دیدند؛ سیستمی که ادعا کرده بود ترامپ بر اثر هاری جان باخته و حتی برای اثبات آن به مقاله‌ای ظاهرا محلی از دبلیوکی‌ان‌ای نیوز اشاره کرده بود. داستان ساختگی از این هم فراتر رفت: در آن ادعا شده بود جی.دی. ونس به توصیه رابرت اف. کندی جونیور ترامپ را گاز گرفته، چون کندی ظاهرا گفته بود هاری می‌تواند قدرت‌هایی خارق‌العاده ایجاد کند. این دستیار همچنین به گزارشی از ای‌بی‌سی نیوز درباره مرگ ناشی از هاری در اوهایو استناد کرده بود؛ خبری واقعی، اما کاملا بی‌ارتباط با ترامپ.

هیچ‌کدام از این ادعاها با واقعیت سازگار نیست. ترامپ و ونس زنده هستند. رابرت اف. کندی جونیور در گذشته ادعاهای جنجالی درباره سلامت مطرح کرده، اما هرگز به کسی توصیه نکرده برای بهبود سلامت خود به هاری مبتلا شود. مطلبی که هوش مصنوعی به نقل از دبلیوکی‌ان‌ای به آن ارجاع داده، به نظر می‌رسد جعلی یا به‌شدت دستکاری‌شده باشد و عمدا در وب پخش شده باشد. داک‌داک‌گو تا زمان نگارش این متن توضیح عمومی درباره این موضوع منتشر نکرده است.

اما یک ابزار جستجوی مبتنی بر هوش مصنوعی چگونه این عناصر پراکنده را به روایتی قانع‌کننده، اما کاملا دروغین تبدیل کرد؟ پاسخ، پیچیده و ساخته دست انسان است. بازیگران مخرب و ترول‌های آنلاین پست‌های خیالی می‌سازند، آن‌ها را در سایت‌های ناشناخته و رشته‌گفت‌وگوهای انجمن‌ها منتشر می‌کنند و اجازه می‌دهند فهرست‌های جستجو آن‌ها را جمع‌آوری کنند. سپس مدل‌های بازیابی که موتورهای جستجوی هوش مصنوعی را تغذیه می‌کنند، می‌توانند این قطعات را پیدا کنند، کنار هم بگذارند و پاسخی مطمئن و پرجزئیات تولید کنند؛ بدون آن زمینه‌سنجی و راستی‌آزمایی دقیقی که یک دبیر انسانی مطالبه می‌کند.

عامل دیگری هم در میان است: خوراک آموزشی و بازیابی بسیاری از سامانه‌های گفت‌وگومحور، حجم عظیمی از محتوای تولیدشده توسط کاربران را در بر می‌گیرد. ردیت، بخش‌های دیدگاه‌ها و وبلاگ‌های حاشیه‌ای اغلب مطالب اولیه و بررسی‌نشده را زودتر از منابع معتبر بالا می‌آورند. وقتی گروه‌ها هماهنگ عمل می‌کنند، چه از سر شوخی و چه با نیت خرابکارانه، می‌توانند با ساختن ردپایی از خرده‌اطلاعات که برای یک منبع‌یاب خودکار معتبر به نظر می‌رسد، مدل‌ها را به سمت اطلاعات نادرست سوق دهند.

این سامانه‌ها برای مفید بودن و پاسخ‌گویی سریع طراحی شده‌اند. سرعت، یک مزیت است. اما در عین حال یک نقطه‌ضعف هم هست. مدل‌ها شک و تردید انسانی را تجربه نمی‌کنند. بررسی نمی‌کنند که آیا یک رسانه محلی جعل شده یا یک گردآورنده خبر، تیتر را اشتباه نسبت داده است. آن‌ها ترکیب می‌کنند. گاهی این ترکیب به توهم هوش مصنوعی تبدیل می‌شود: ادعایی که منطقی و باورپذیر به نظر می‌رسد، اما هیچ پایه واقعی ندارد.

این ماجرا یک حقیقت ساده را برجسته می‌کند: هوش مصنوعی جستجو پیش از آنکه خروجی‌هایش به‌عنوان واقعیت پذیرفته شود، به منشأ دقیق منابع، شاخص‌های اطمینان و نظارت انسانی نیاز دارد.

برای خوانندگان، راهکارهای احتیاطی آشنا هستند، اما تکرارشان ضروری است. دنبال تأیید در رسانه‌های معتبر بگردید. پیوند منابع را تا گزارش اصلی دنبال کنید. نسبت به ادعاهای جنجالی که در سایت‌های کوچک یا تازه‌ساخته منتشر می‌شوند محتاط باشید. و اگر یک دستیار جستجو منبعی ارائه کرد، آن را باز کنید؛ فرض نکنید خود دستیار بررسی اعتبار را به جای شما انجام داده است.

برای تیم‌های پلتفرمی، مسیر پیش رو هم فنی است و هم سازمانی. فیلترهای بازیابی را بهبود دهید تا دامنه‌های کم‌کیفیت در اولویت پایین‌تری قرار بگیرند. منشأ منابع را به‌روشنی نمایش دهید تا کاربران بدانند هوش مصنوعی از کدام منبع استفاده کرده است. بررسی‌های خودکار اضافه کنید که ادعاهای نامحتمل را علامت‌گذاری و برای بازبینی انسانی ارسال کنند. و در نهایت، روی سازوکارهای اصلاح سریع سرمایه‌گذاری کنید، به‌ویژه زمانی که موضوعی آشکارا نادرست در حال گسترش است.

هوش مصنوعی روزبه‌روز هوشمندتر خواهد شد. کسانی هم که می‌خواهند آن را فریب دهند، همین‌طور. اینکه چه کسی برنده می‌شود، کمتر به خود مدل‌ها بستگی دارد و بیشتر به سامانه‌ها و رویه‌هایی وابسته است که پیرامون آن‌ها می‌سازیم؛ و البته به اینکه کاربران همچنان یک پرسش حیاتی را مطرح کنند: این اطلاعات از کجا آمده است؟