چگونه ربات های گفتگو رفتار و زبان ما را تغییر می دهند

ربات‌های پرحرف چگونه بی‌سروصدا رفتار و گفتار ما را شکل می‌دهند

تصور کنید یک مسئله پیچیده را برای کارشناس پشتیبانی مشتری توضیح می‌دهید و پس از ده‌ها گفت‌وگوی مشابه، متوجه می‌شوید پاسخ‌های خودتان کوتاه‌تر، آرام‌تر و به شکلی عجیب قابل پیش‌بینی‌تر شده‌اند. در ابتدا این تغییر را حس نمی‌کنید. بعد کسی آن را به شما یادآوری می‌کند. مکث می‌کنید. همین تلنگر، همان نوع تغییر آهسته‌ای است که یک پژوهش نظری تازه به آن توجه داده است.

چرا هوش مصنوعی پشتیبانی مشتری بر شیوه بیان ما اثر می‌گذارد

پژوهشگرانی که در نشریه هوش مصنوعی و جامعه نوشته‌اند، استدلال می‌کنند تعاملات مکرر با ربات‌های خدمات مشتری می‌تواند افراد را به سمت زبان و رفتاری سوق دهد که پردازش آن برای این سامانه‌ها آسان‌تر است. این گروه برای این اثر اصطلاحی ساخته است: «انسان‌وارگی ربات‌گونه». این مفهوم نشان می‌دهد همان‌طور که عامل‌های مصنوعی یاد می‌گیرند نشانه‌های گفت‌وگویی انسان را تقلید کنند، انسان‌ها نیز ممکن است در مقابل شروع به تقلید از این عامل‌ها کنند.

روی کاغذ، این موضوع ساده به نظر می‌رسد. ربات‌های اجتماعی و سامانه‌های چت برای تولید پاسخ‌های روشن و قابل پیش‌بینی بهینه شده‌اند. آن‌ها ادب را بازتاب می‌دهند، پاسخ‌ها را ساختارمند می‌کنند و پرسش‌های بعدی را شخصی‌سازی می‌کنند. این طراحی کارایی را افزایش می‌دهد. اما در عین حال یک چرخه بازخورد ایجاد می‌کند که در آن ماشین بهترین پاسخ را به نسخه‌ای از انسان می‌دهد که خودش کمتر خاص و متفاوت است.

اینچی تورال-منسون، پژوهشگر بازاریابی در دانشگاه بیرمنگام، می‌گوید: «ربات‌های اجتماعی در محیط‌های خدمات مشتری طوری طراحی شده‌اند که حرکت‌ها، گفتار و نشانه‌های احساسی را تقلید کنند تا واکنش‌های شناختی و عاطفی مشتریان را برانگیزند.» او ادامه می‌دهد: «پژوهش ما بررسی می‌کند که تعامل با این ربات‌های انسان‌انگاری‌شده چگونه می‌تواند نوعی اثرگذاری دوسویه ایجاد کند؛ جایی که ربات‌ها شبیه‌تر به انسان می‌شوند و انسان‌ها شبیه‌تر به ربات‌ها. ما این پدیده را انسان‌وارگی ربات‌گونه می‌نامیم.»

این سازوکار چگونه ممکن است عمل کند

این مطالعه بیش از آنکه آزمایشی باشد، نظری است؛ بنابراین به‌جای ارائه شواهد قطعی، یک چارچوب تحلیلی پیشنهاد می‌کند. با این حال، سازوکاری که نویسندگان توصیف می‌کنند چند مفهوم آشنا را به هم پیوند می‌دهد: هم‌آیینه‌سازی، تقویت و شخصی‌سازی الگوریتمی. انسان‌ها به‌طور طبیعی رفتار شرکای اجتماعی خود را بازتاب می‌دهند. ماشین‌ها نیز می‌توانند برخی الگوهای گفتاری را پاداش دهند؛ مثلا زمانی که درخواست‌ها با قالب مطلوب آن‌ها همخوان باشد، سریع‌تر، دقیق‌تر یا همدلانه‌تر پاسخ بدهند. نویسندگان پیشنهاد می‌کنند که در طول زمان، افراد ممکن است این قالب‌های ترجیحی را درونی کنند.

هم‌آیینه‌سازی و پاداش‌های الگوریتمی

وقتی فردی رفتار دیگری را بازتاب می‌دهد، نوعی ارتباط و صمیمیت ایجاد می‌کند. ماشین‌ها با به‌کارگیری رفتاری ثابت و خوانا از همین ویژگی بهره می‌برند. سپس سامانه‌های یادگیری ماشین با ورودی‌های کاربران سازگار می‌شوند و رفتارهایی را تقویت می‌کنند که نتایج مطلوبی مانند حل سریع‌تر مشکل ایجاد می‌کنند. هرچه گفت‌وگو قابل پیش‌بینی‌تر باشد، سامانه بهتر عمل می‌کند. همین پیش‌بینی‌پذیری می‌تواند افراد را تشویق کند ویژگی‌های خاص و نامتعارف را از ارتباطات خود حذف کنند.

سلجن اوزتورکجان، مهندس مدیریت در دانشگاه لینائوس، این چرخه را خلاصه بیان می‌کند. او می‌گوید: «مصرف‌کننده عمل می‌کند، ربات پاسخ می‌دهد و با مواجهه تکراری، در گذر زمان مصرف‌کننده این تبادل را درونی می‌کند.» او اضافه می‌کند: «یادگیری ماشین و هوش مصنوعی می‌توانند این فرایند را تقویت کنند؛ یعنی رفتار ربات را بر اساس ورودی کاربر تنظیم کنند و تقلید شخصی‌سازی‌شده‌تر و انسان‌مانندتری را از سوی ربات ممکن سازند.»

این موضوع برای هویت و گفت‌وگو چه معنایی دارد

دو نوع بازخورد را تصور کنید. یکی بازخورد انسانی نامرتب است: شگفت‌آور، متناقض و گاهی ناگهانی. دیگری بازخورد الگوریتمی است: ثابت، مبتنی بر آمار و جهت‌گیری‌شده به سمت نتیجه بهینه. گروه پژوهشی استدلال می‌کند که مواجهه تکراری با نوع دوم می‌تواند دامنه شیوه‌هایی را که افراد خود را از طریق آن‌ها بیان می‌کنند، محدود کند؛ زیرا الگوریتم‌ها برخی نشانه‌ها را پاداش می‌دهند و برخی دیگر را نادیده می‌گیرند.

نگرانی از همین‌جا آغاز می‌شود. مغز انسان هوش مصنوعی نیست. فردیت، غیرمستقیم‌گویی یا سرریز عاطفی بخشی از شیوه ارتباط، تفسیر و آفرینش انسان‌هاست. اگر تعاملات روزمره و گسترده هرچه بیشتر رفتارهای ساده‌سازی‌شده و سازگار با الگوریتم را ترجیح دهند، برخی شیوه‌های بیان ممکن است به‌تدریج از کاربرد معمول کنار بروند. نویسندگان هشدار می‌دهند که چنین اثری فقط سبک گفتار را تغییر نمی‌دهد، بلکه می‌تواند غنای اطلاعاتی گفت‌وگوها را نیز تحت تاثیر قرار دهد.

ژان-پل دو کروس پرونار، دانشمند توسعه کسب‌وکار در دانشگاه آرهوس، بر اهمیت عملی موضوع تاکید می‌کند: «ربات‌ها و هوش مصنوعی اکنون در خدمات مشتری به امری رایج تبدیل شده‌اند. بنابراین مهم است که بفهمیم مردم چگونه با آن‌ها تعامل می‌کنند تا کسب‌وکارها بتوانند از فناوری در دسترس خود به بهترین شکل استفاده کنند و در عین حال اخلاق‌مدار باقی بمانند.»

دیدگاه کارشناس

دکتر مایا کریم، دانشمند شناختی که زبان و فناوری را مطالعه می‌کند، این دیدگاه را مطرح می‌کند: «باید این مسئله را یک تغییر فرهنگی بدانیم، نه یک نقص فناورانه. ابزارها عادت‌ها را تغییر می‌دهند. پرسش این است که می‌خواهیم کدام عادت‌ها را تقویت کنیم. اگر راحتی همیشه پیروز شود، خطر آن وجود دارد که تنوع گفت‌وگویی محدودتر شود. طراحی سامانه‌هایی که پیش‌بینی‌ناپذیری را تحمل کنند و حتی به آن پاداش دهند، می‌تواند غنای گفتار انسانی را حفظ کند.»

این اظهارنظر فرضی است، اما بر الگوهای قابل مشاهده در حوزه‌های دیگری تکیه دارد که فناوری در آن‌ها رفتار را شکل می‌دهد؛ مانند موتورهای جست‌وجو که پرس‌وجوهای کوتاه و دقیق را در اولویت قرار می‌دهند یا شبکه‌های اجتماعی که محتوای کوتاه و قابل تکرار را برجسته‌تر می‌کنند.

پیامدها و گام‌های بعدی

نویسندگان تاکید می‌کنند که این ایده نیازمند آزمون است. آزمایش‌های طولی، مقایسه‌های میان‌فرهنگی و سنجه‌هایی که دامنه بیان را ثبت کنند، می‌توانند این مفهوم را از نظریه به شواهد نزدیک‌تر کنند. برای کسب‌وکارها و سیاست‌گذاران، یافته‌ها نشان می‌دهد که باید میان کارایی و تنوع تعادل برقرار شود. برای طراحان، پیام روشن است: باید بررسی کنند سامانه‌های هوش مصنوعی به کدام سبک‌های گفت‌وگویی پاداش می‌دهند و طراحی‌هایی را دنبال کنند که ظرافت انسانی را حفظ کند.

در عمل، این کار می‌تواند به معنای ساخت سامانه‌های چتی باشد که طیف گسترده‌تری از عبارت‌بندی را می‌پذیرند، آموزش مدل‌ها با نمونه‌های متنوع گفت‌وگویی یا ارائه حالت‌های تعاملی آگاهانه بازیگوشانه یا غیرمعمول برای ایجاد تعادل در برابر پاسخ‌های بیش از حد بهینه‌شده برای کارایی.

نتیجه‌گیری

ما همین حالا نیز در گفت‌وگوهای واسطه‌گری‌شده با هوش مصنوعی غوطه‌ور هستیم. این نظریه از ما می‌خواهد به اثرات کوچک و تجمعی توجه کنیم. ماشین‌ها با پاداش دادن به رفتار، آن را شکل می‌دهند. انتخاب ما این است که آیا این اثرگذاری را زود تشخیص می‌دهیم و سامانه‌ها و سیاست‌های خود را طوری طراحی می‌کنیم که از بخش‌های نامرتب، شگفت‌آور و خلاقانه ارتباط انسانی محافظت کنند یا نه.