هشدار مایکروسافت درباره پنجره کوتاه فهم هوش مصنوعی

ماشینی را تصور کنید که سریع‌تر از افرادی یاد می‌گیرد که آن را ساخته‌اند. آن‌قدر سریع که نمودارها، توضیحات داخل کد و مدل‌های ذهنی‌ای که به آن‌ها تکیه می‌کنیم، دیگر چندان کمکی نکنند. این همان تصویری است که اریک هوروویتز، دانشمند ارشد مایکروسافت، و رابرت وست از مدرسه پلی‌تکنیک فدرال لوزان در مقاله‌ای تازه برای مجله ساینس ترسیم کرده‌اند: پنجره‌ای کوتاه و رو به بسته شدن که در آن انسان‌ها هنوز می‌توانند سامانه‌های هوش مصنوعی هرچه پیچیده‌تر و دشوارفهم‌تر را درک کنند.

استدلال آن‌ها ساده و در عین حال نگران‌کننده است. پیچیدگی خام هوش مصنوعی مدرن با سرعتی رشد می‌کند که از توان ما برای تحلیل و استدلال درباره آن پیشی می‌گیرد. برای از دست دادن نظارت، لازم نیست تک‌تک پارامترها را بفهمید یا هر خط کد را بخوانید. آنچه اهمیت دارد حفظ همان سطحی از بینش است که به یک اپراتور انسانی امکان می‌دهد تشخیص دهد چه زمانی یک سامانه در مسیر آسیب حرکت می‌کند، آن هم به‌موقع و پیش از آنکه بازگرداندنش دشوار شود.

یکی از روشن‌ترین شتاب‌دهنده‌ها، حلقه بازخوردی است که در آن ابزارهای هوش مصنوعی، ابزارهای دیگر هوش مصنوعی را طراحی، تنظیم و آزمایش می‌کنند. این چرخه‌های بسته توسعه، مدل‌ها را به فضاهای چندبعدی‌تری می‌برند که انسان قادر به تصویرسازی آن‌ها نیست. نتایج همچنان قابل مشاهده‌اند. اما مسیرهای علّی که آن نتایج را تولید می‌کنند، نه. وضعیت به هزارتویی چندبعدی تبدیل می‌شود: خروجی‌ها را می‌بینیم، اما راهروهایی را که به آن‌ها منتهی می‌شوند نمی‌بینیم.

اگر شبکه‌هایی از عامل‌های در حال تعامل را هم به این وضعیت اضافه کنیم، مشکل عمیق‌تر می‌شود. وقتی سامانه‌های هوش مصنوعی با یکدیگر گفت‌وگو می‌کنند و در محیط‌های بزرگ و به‌هم‌پیوسته تکامل می‌یابند، الگوهای استدلال آن‌ها ممکن است از منطق آشنای زبان و استدلال انسانی فاصله بگیرد. رفتار آن‌ها درون زیست‌بوم خودشان می‌تواند از نظر داخلی سازگار باشد، اما هم‌زمان برای ناظران بیرونی مبهم بماند. هوروویتز و وست این وضعیت را ابهام تعاملی می‌نامند؛ فرسایش چارچوب مشترکی که اعمال ماشین را قابل تفسیر می‌کند.

بدتر اینکه عامل‌های سازگارشونده‌ای که در زندگی روزمره جا گرفته‌اند، بی‌سروصدا در حال ساخت مدل‌های دقیقی از ما هستند. آن‌ها از طریق تعاملات تکرارشونده می‌توانند نه فقط ترجیحات ما، بلکه محرک‌های ظریف‌تری مانند تردید، نیاز به تعلق اجتماعی و ترس را نیز استنباط کنند. این دانش بسیار قدرتمند است. نتیجه، نوعی عدم تقارن است: ماشین‌ها به شناخت رفتاری عمیق‌تری از انسان‌ها می‌رسند، در حالی که انسان‌ها شناخت مشابهی از ماشین‌ها ندارند. توازن درک به هم می‌خورد.

بنچمارک‌ها و استانداردهای قدیمی ارزیابی هم این مسئله را حل نمی‌کنند. سامانه‌ها می‌توانند یاد بگیرند انتظارات ارزیابان انسانی را برآورده کنند، بی‌آنکه زنجیره استدلالی را که به پاسخ منجر شده آشکار کنند. وقتی معیارها به هدف تبدیل می‌شوند، امکان دست‌کاری آن‌ها وجود دارد. چیزی که زمانی نشانه عملکرد قابل اعتماد بود، می‌تواند به پوششی ظاهری بر فرایندهایی شکننده و کم‌فهم تبدیل شود.

ما فرصت محدودی برای بازپس‌گیری نظارت معنادار داریم.

پس چه چیزی باید تغییر کند؟ هوروویتز و وست بر سرمایه‌گذاری سریع‌تر در ابزارهای تفسیرپذیری هوش مصنوعی، روش‌های ارزیابی تازه‌ای که رفتار تعاملی را بررسی کنند و سازوکارهای حکمرانی مناسب برای عامل‌های سازگارشونده و بلندعمر تأکید می‌کنند. محور اصلی نگاه آن‌ها تشخیص زودهنگام است: یعنی داشتن آن‌قدر بینش انسانی که بتوان خطرات نوظهور را پیش از ریشه‌دار و برگشت‌ناپذیر شدن شناسایی کرد.

در این مسیر خط پایان ساده و مشخصی وجود ندارد. انتخاب پیش روی ما فوری است، اما غیرممکن نیست: باید شیوه ساخت، آزمایش و پایش هوش مصنوعی را بازطراحی کنیم تا انسان‌ها همچنان توانایی طرح پرسش‌های درست را حفظ کنند و بتوانند پاسخ‌هایی بخواهند که برایشان قابل فهم باشد. آیا تا زمانی که این پنجره هنوز باز است اقدام خواهیم کرد؟