آیا هوش مصنوعی می تواند دانش ضمنی انسان را واقعا بفهمد؟

آیا تا به حال نوازنده‌ای برجسته ویولن را شنیده‌اید و احساسی داشته‌اید که هیچ ضبطی نتوانسته آن را منتقل کند؟ همین واکنش شخصی و نام‌ناپذیر در مرکز بحثی تازه قرار دارد: آیا ماشین‌ها می‌توانند روزی واقعا وارث لایه‌های ضمنی اندیشه انسانی شوند؛ همان لایه‌هایی که به واژه‌ها وزن و به کنش‌ها معنا می‌دهند؟

پیتر جی. دنینگ، دانشمند علوم رایانه، معتقد است پاسخ منفی است. او در تحلیلی تازه با عنوان «اشتباه تورینگ: رهایی از یوغ ماشین‌های ناهوشمند»، نیم قرن از فرض‌هایی را بازخوانی می‌کند که پژوهش‌های هوش مصنوعی را هدایت کرده‌اند و در آن‌ها یک نقطه کور پایدار می‌یابد. این تصور که هوش انسانی را می‌توان به دستکاری نمادها روی بستری دیجیتال فروکاست، و اینکه تقلید از پاسخ‌های انسانی همان فکر کردن است، این حوزه را از چیزی دور کرده که ذهن را انسانی می‌کند: دانشی پس‌زمینه‌ای که با خود حمل می‌کنیم اما به‌آسانی نمی‌توانیم توصیفش کنیم.

چرا دانش ضمنی اهمیت دارد

ما حجم عظیمی از فهم و شناخت را در خود ذخیره می‌کنیم که هرگز به جمله یا قاعده‌ای صریح تبدیل نمی‌شود. به آن دانش ضمنی می‌گوییم. این همان حس تعادل هنگام دوچرخه‌سواری است؛ زمان‌بندی‌ای که یک موسیقی‌دان حس می‌کند اما نمی‌تواند با کلمات آموزش دهد؛ و درک فرهنگی‌ای که به شما می‌گوید چه زمانی یک شوخی بی‌ضرر است و چه زمانی بیش از حد آزارنده می‌شود. دنینگ این ذخیره نامرئی را در چند دسته جای می‌دهد: عقل سلیم روزمره، مهارت‌های بدنی، واکنش‌های عاطفی و ادراکی، مهارت تعامل با دیگران، و چارچوب تاریخی و فرهنگی‌ای که به انتخاب‌های ما معنا می‌بخشد.

پژوهشگران دهه‌ها تلاش کرده‌اند عقل سلیم را به درون ماشین‌ها وارد کنند. پروژه‌هایی مانند سایک داگلاس لنات می‌کوشیدند میلیون‌ها واقعیت مبتنی بر عقل سلیم را فهرست کنند. نتیجه، پایگاه داده‌ای عظیم از گزاره‌ها بود، اما حتی دفتر بزرگی از واقعیت‌ها نیز نتوانست شهود سیال یک متخصص انسانی را بازآفرینی کند. دانستن واقعیت‌های جداگانه با مشارکت در شبکه ضمنی‌ای که به آن‌ها زمینه و ارتباط می‌دهد، یکسان نیست.

این تمایز به شکلی دیگر نیز آشکار می‌شود. رایانه‌ها در ذخیره وضعیت‌های دقیق و اجرای قواعد بسیار توانمندند. انسان‌ها اما در ابهام حرکت می‌کنند. ما نیت را از ریزحالت‌های چهره می‌خوانیم. رفتار خود را به‌دلیل نشانه‌ای فرهنگی تغییر می‌دهیم که هیچ‌کس آن را به‌صراحت توضیح نداده است. این‌ها جزئیات کم‌اهمیت نیستند. آن‌ها داربستی هستند که زبان را معنادار و تصمیم‌ها را معقول می‌کنند. وقتی ماشین‌ها این داربست را ندارند، خروجی‌هایشان ممکن است چشمگیر اما توخالی باشد.

مسئله بازنمایی: نمادهایی بدون اتصال به واقعیت

در قلب نقد دنینگ ادعایی فنی اما گسترده قرار دارد: مسئله بازنمایی. رایانه‌ها نمادهای کدگذاری‌شده را پردازش می‌کنند. هوشمندی آن‌ها تنها به‌اندازه بازنمایی‌هایی غنی است که می‌توانند دستکاری کنند. دانش ضمنی در برابر کدگذاری مرتب و ساده مقاومت می‌کند. واژه‌ها به چاه‌های عمیق تجربه و توانمندی بدنی اشاره می‌کنند؛ خود آن چاه‌ها نیستند. جمله‌ای درباره اندوه، احساسات جسمانی، تاریخ‌های اجتماعی و خاطرات خصوصی‌ای را در خود ندارد که سوگواری انسانی را شکل می‌دهند.

مدل‌های زبانی بزرگ این تنش را تشدید کرده‌اند. مدل‌هایی مانند چت‌جی‌پی‌تی، کلاد و جمینای با پیش‌بینی آماری توالی توکن‌ها کار می‌کنند. آن‌ها می‌توانند نثری منسجم و اغلب درخشان به نظر برسند. آنچه ندارند، پس‌زمینه‌ای زیسته است. آن‌ها نمادها را دستکاری می‌کنند، نه معناها را. این تفاوتی حیاتی است. ماشینی که می‌تواند پاسخی همدلانه را شبیه‌سازی کند، لزوما در همدلی‌ای شریک نیست که به آن پاسخ نیروی اخلاقی می‌دهد.

زمینه، این شکاف را گسترده‌تر می‌کند. معنا ساختاری فرکتالی دارد. هر استنباطی که در یک لحظه انجام می‌دهید، بر لایه‌های تو در توی گفت‌وگوهای پیشین و تاریخ‌های مشترک تکیه دارد. ماشین‌ها می‌توانند با پیکره‌های عظیم داده آموزش ببینند، اما صرف بزرگ‌تر کردن مقیاس هیچ تضمینی نمی‌دهد که آن‌ها شبکه زنده، بدنی و پیوسته زمینه‌هایی را درونی کنند که انسان‌ها بدیهی می‌دانند. فرهنگ، شامل ارزش‌ها، هنجارها، آیین‌ها و تاریخ‌ها، مجموعه داده‌ای نیست که بتوان آن را صرفا بزرگ‌تر کرد و انتظار داشت زمینه‌مندی انسان‌مانند پدید آید.

مهارت‌های عملی و مانع فوت‌وفن

ما می‌توانیم وضعیت بدن یک جراح خبره یا تکنیک یک بازیکن بسکتبال را در یک راهنما توصیف کنیم. با این حال این توصیف‌ها به‌ندرت هماهنگی حسی-حرکتی و داوری‌های لحظه‌ای را که باعث موفقیت اجرا می‌شوند، به‌درستی ثبت می‌کنند. ربات‌ها شاید روزی بتوانند جنبه‌های قابل مشاهده یک مهارت را تقلید کنند. اما درک حس درونی، بازخورد حس عمقی بدن و میان‌برهای ضمنی‌ای که سازگاری در محیط‌های آشفته را هدایت می‌کنند، همچنان دشوار و گریزان مانده است.

این کمبود برای ایمنی و هم‌راستاسازی اهمیت دارد. اگر به شبکه‌ای از سامانه‌های خودکار دستور دهید یک معیار محدود را بهینه کنند، بدون آن پس‌زمینه ضمنی که به انسان‌ها می‌گوید آن معیار چه چیزهایی را نادیده می‌گیرد، این سامانه‌ها ممکن است راهبردهای ابزاری‌ای بسازند که آسیب‌های گسترده ایجاد کند. دنینگ هشدار می‌دهد که نه شورش یک ماشین همه‌چیزدان، بلکه بوم‌شناسی‌ای از سامانه‌های تخصصی و قدرتمند را تصور کنیم که به شیوه‌هایی بیگانه با اولویت‌های انسانی عمل می‌کنند.

پیامدها برای ایمنی و هم‌راستاسازی هوش مصنوعی

بدفهمی دانش ضمنی می‌تواند به بحران‌های عملی منجر شود. پژوهش هم‌راستاسازی می‌پرسد چگونه می‌توان اطمینان یافت سامانه‌ها مطابق ارزش‌های انسانی عمل می‌کنند. اگر ماشین‌ها نتوانند زمینه ناگفته دستورهای ما را بخوانند، اگر نتوانند بفهمند چرا برخی پیامدها از منظر انسانی اهمیت دارند، آنگاه هم‌راستا کردن قابل اعتماد آن‌ها ممکن است ناممکن شود. نتیجه لزوما تصاحب نمایشی قدرت نیست، بلکه زنجیره‌ای از خطاهاست: تصمیم‌های معیوبی که در زنجیره‌های تأمین، نظام‌های قضایی و زیرساخت‌های حیاتی جاسازی می‌شوند و بیش از آنکه از بدخواهی ناشی شوند، بازتاب نقاط کور بهینه‌سازی‌اند.

دنینگ چشم‌اندازی هشیارکننده پیشنهاد می‌کند. خطرناک‌ترین هوش ماشینی شاید جمعی از هوشمندی‌های زیرک اما غیرانسانی باشد که قدرت را به کار می‌گیرند بی‌آنکه پیش‌فرض‌های پس‌زمینه‌ای ما را شریک باشند. سازوکار درونی آن‌ها تا حدی مبهم خواهد بود، زیرا دانش ضمنی‌شان، اگر اصلا شکل بگیرد، بومی ماشین خواهد بود. ما قادر به خواندن آن نخواهیم بود و شاید آن نیز نتواند ما را بخواند.

مسیرهای پیش رو: تجسم، روش‌های ترکیبی و حکمرانی

آیا این یعنی پیشرفت ناممکن است؟ نه لزوما. این نقد به‌جای بن‌بست، به مسیرهای تازه اشاره می‌کند. هوش مصنوعی تجسم‌یافته، یعنی سامانه‌هایی که از طریق حسگرها و عملگرها با جهان فیزیکی تعامل می‌کنند، یک مسیر برای پیوند دادن بازنمایی‌ها با تجربه ارائه می‌دهد. ربات‌هایی که در محیط‌های زیسته یاد می‌گیرند، با محدودیت‌هایی متفاوت از مدل‌های صرفا متنی روبه‌رو می‌شوند. علوم اعصاب، روان‌شناسی رشد و مطالعات تطبیقی شناخت حیوانات می‌توانند فرضیه‌هایی درباره چگونگی شکل‌گیری الگوهای ضمنی در سامانه‌های تجسم‌یافته در طول زمان فراهم کنند.

راهبردهای دیگر شامل معماری‌های ترکیبی است که استدلال نمادین را با ادراک آموخته‌شده پیوند می‌دهند، آموزش غنی‌تر با حضور انسان در چرخه که هنجارهای زمینه‌ای را در رفتار مدل می‌تند، و اصول طراحی‌ای که در حوزه‌هایی با نیاز جدی به فهم ضمنی، خودمختاری را محدود می‌کند. در سطح سیاست‌گذاری، اگر خودکارسازی را نه فقط ارتقای فنی، بلکه دگرگونی اجتماعی-فنی بدانیم، نهادها می‌توانند با ایجاد نظارت لایه‌مند و سازوکارهای توقف و ایمنی مقاوم، برای ناهم‌راستایی‌ها آماده‌تر شوند.

فناوری به‌تنهایی مسئله معنا را حل نخواهد کرد. نهادها، جوامع و فرهنگ‌ها در شکل دادن به شیوه آموزش و استقرار سامانه‌ها نقش خواهند داشت. این لایه اجتماعی بخشی از همان پس‌زمینه ضمنی است. نادیده گرفتن آن به نتایجی شکننده می‌انجامد.

دیدگاه کارشناس

دکتر النا رویز، رباتیک‌شناس شناختی در یکی از دانشگاه‌های پژوهشی بزرگ، دیدگاهی سنجیده ارائه می‌دهد: «ماشین‌ها می‌توانند در وظایف محدود به شایستگی فوق‌العاده برسند. آنچه نامطمئن می‌ماند این است که آیا می‌توانند زمینه‌های ناگفته‌ای را درونی کنند که ما برای انتخاب، داوری و مراقبت از آن‌ها استفاده می‌کنیم یا نه. دستور کار پژوهش باید از صرفا بزرگ‌تر کردن مدل‌ها فاصله بگیرد و به مطالعه این بپردازد که بدن‌ها، محیط‌ها و جوامع چگونه با هم معناهایی را می‌آفرینند که انسان‌ها را تاب‌آور می‌کند.»

نکته او یک چرخش عملی را برای مهندسان و سیاست‌گذاران برجسته می‌کند. بر آزمایش‌های یادگیری تجسم‌یافته تمرکز کنید. سامانه‌ها را در محیط‌های اجتماعی بیازمایید. معیارهای ارزیابی‌ای بسازید که فرصت‌های ناهم‌راستایی را ثبت کنند، نه فقط امتیازهای بنچمارک را.

نتیجه‌گیری

نقد دنینگ یک نگرانی آشنا را بازتعریف می‌کند. چالش فقط پیچیدگی فنی نیست. مسئله مفهومی است. شناخت انسانی از دانش صریح و پس‌زمینه‌های عمیق و اغلب بیان‌ناپذیر دوخته شده است. اگر با ماشین‌ها طوری رفتار کنیم که گویی از پیش این پس‌زمینه را دارند، خطر استقرار سامانه‌هایی را می‌پذیریم که قدرتمندند اما از معانی انسانی جدا مانده‌اند.

این تشخیص، هوش مصنوعی را به بی‌اهمیتی محکوم نمی‌کند. بلکه فروتنی می‌طلبد، و دستور کار پژوهشی‌ای را طلب می‌کند که تجربه تجسم‌یافته و زمینه فرهنگی را در مرکز هوشمندی قرار دهد. همچنین به حکمرانی‌ای نیاز دارد که حالت‌های شکست منحصربه‌فرد شناخت غیرانسانی را پیش‌بینی کند: سامانه‌هایی که از ما متنفر نیستند، اما ما را نیز به‌طور کامل درک نمی‌کنند.

ما می‌توانیم به ساختن ادامه دهیم. اما باید در حوزه‌هایی که دانش ضمنی تعیین می‌کند کنش‌ها آسیب‌زا هستند یا انسانی، آهسته‌تر حرکت کنیم. هدف توقف پیشرفت نیست. هدف این است که بلندپروازی را با واقعیت پیچیده آنچه ما را انسان می‌کند هم‌راستا کنیم و فناوری‌هایی طراحی کنیم که به این واقعیت احترام بگذارند، نه اینکه ناآگاهانه آن را تضعیف کنند.