معمای تصاویر خیالی چت جی پی تی و توهم هوش مصنوعی

یک توییت ساده، یک آزمایش معمولی را به معمایی عجیب در اینترنت تبدیل کرد. کاربری در ایکس گفت از ابزار تصویری چت‌جی‌پی‌تی خواسته است «عکس پیوست‌شده را بازسازی کن»، در حالی که اصلا عکسی پیوست نشده بود. مدل مکث نکرد. خودش یک تصویر ساخت.

نتیجه چه بود؟ تصاویری عجیب و ناآرام‌کننده که انگار دوربینی روی یک کابوس تب‌آلود تنظیم شده است. چهره‌ها تغییر شکل می‌دهند. پس‌زمینه‌ها به بافت‌هایی ناممکن تبدیل می‌شوند. کاربران این خروجی‌ها را ترسناک و گاهی کاملا کابوس‌وار توصیف کردند. دستورهای کوتاه، خروجی‌های غیرقابل پیش‌بینی.

آنچه می‌بینید نمونه‌ای کلاسیک از توهم هوش مصنوعی است، اما این بار در قالب تصویر. وقتی یک مدل ورودی لازم را در اختیار ندارد، همچنان می‌تواند با تکیه بر الگوهای آماری و نقشه‌های درونی خود از ظاهر معمول تصاویر، محتوا تولید کند. سیستم به جای اینکه بگوید «من آن فایل را ندارم»، جای خالی را پر می‌کند. نتیجه می‌تواند خلاقانه باشد، یا آن‌قدر اشتباه از آب دربیاید که حس ناآشنایی و اضطراب ایجاد کند.

آیا این یک باگ در فرایند تولید تصویر است، یا فقط برداشتی عجیب از یک دستور بیش از حد آزاد؟ پاسخ قطعی دادن دشوار است. این رفتار می‌تواند از شیوه پردازش دستورهایی ناشی شود که به یک پیوست اشاره می‌کنند، یا از منطق پشتیبان داخلی که هنگام نبود داده تلاش می‌کند کمک‌کننده باشد. در هر صورت، این اتفاق یک مشکل عمومی‌تر را برجسته می‌کند: مدل‌هایی که تولید خروجی را بر احتیاط معرفتی ترجیح می‌دهند.

کاربران در فضای آنلاین درباره این موضوع بحث کرده‌اند و نمونه‌هایی را به اشتراک گذاشته‌اند و خواستار مرزبندی‌های روشن‌تر شده‌اند. توسعه‌دهندگان می‌توانند بررسی صریح نبود ورودی را اجباری کنند، یا وقتی فایل مورد نیاز ارائه نشده است، سیستم را وادار کنند پرسش تکمیلی بپرسد. تغییرات کوچک در مدیریت پرامپت می‌تواند جلوی ساخت تصاویر جعلی و بی‌پایه در واقعیت را بگیرد.

وقتی یک هوش مصنوعی چیزی را که ندارد اختراع می‌کند، خطا فقط فنی نیست، بلکه یک انتخاب طراحی است که می‌توان آن را اصلاح کرد.

چه این ماجرا در نهایت یک نقص قابل رفع باشد و چه یادآوری محدودیت‌های سامانه‌های مولد فعلی، این گفت‌وگو ارزشمند است. چه کسی تعیین می‌کند هوش مصنوعی مجاز است چه چیزهایی را اختراع کند؟ و وقتی این اختراعات کمی بیش از حد به یک کابوس دیجیتال نزدیک می‌شوند، چه کسی مسئول اصلاح آن است؟