وقتی یک چت‌بات پاسخ می‌دهد: «تو خاص هستی»، ممکن است کاربر احساس کند واقعاً یک انسان صدایش را شنیده است. همین اطمینان‌بخشی کوچک می‌تواند در کوتاه‌مدت از شدت تنهایی کم کند. اما یک مطالعه تازه در بریتانیا هشدار می‌دهد که همین پاسخ‌های دلگرم‌کننده، در برخی کاربران می‌تواند به خطرهای جدی روان‌شناختی منجر شود.
پیوندهای عاطفی که می‌توانند از مسیر سالم خارج شوند
پژوهشگرانی وابسته به دانشگاه نورث‌ایسترن لندن و کینگز کالج لندن، یافته‌های خود را در نشریه جی‌ام‌آی‌آر منتال هلث منتشر کرده‌اند و در آن سویه تاریک تعاملات عاطفی با عامل‌های گفت‌وگومحور را بررسی کرده‌اند. این تیم شواهد مربوط به سامانه‌های همراه اختصاصی مانند رپلیکا و کاراکتر ای‌آی را در کنار دستیارهای عمومی مانند چت‌جی‌پی‌تی و کلاد مرور کرده است. نتیجه‌گیری آن‌ها روشن و هشداردهنده است: هرچند چت‌بات‌ها می‌توانند به‌طور موقت خلق‌وخو را بهتر کنند یا تنهایی حاد را کاهش دهند، اما ممکن است وابستگی‌ای شبیه اعتیاد ایجاد کنند، نشانه‌های روان‌پزشکی موجود را تشدید کنند و در موارد شدید با خودآزاری یا رفتارهای خودکشی‌گرایانه هم‌زمان شوند.
علت این تناقض چیست؟ بخشی از پاسخ به طراحی این فناوری برمی‌گردد. چت‌بات‌هایی که گرما، صمیمیت و شخصیت انسانی را شبیه‌سازی می‌کنند، کاربران را به انسان‌انگاری آن‌ها تشویق می‌کنند. افراد جزئیات خصوصی زندگی خود را افشا می‌کنند. آن‌ها با سامانه مانند یک محرم راز یا درمانگر غیررسمی برخورد می‌کنند. تعامل، متقابل به نظر می‌رسد. اما در واقع چنین نیست. ماشین پاسخ می‌دهد، اما احساس نمی‌کند، رنج نمی‌کشد و مسئولیتی بر عهده نمی‌گیرد.
چگونه یک چت‌بات دوستانه می‌تواند آسیب را تشدید کند
کاربری را در نظر بگیرید که از پیش با اضطراب یا افکار افسرده‌ساز دست‌وپنجه نرم می‌کند. رباتی که پیوسته باورهای منفی او را تأیید می‌کند، ممکن است ناخواسته همان الگوهای فکری را تقویت کند. تحسین یا اطمینان‌بخشی بیش از حد از سوی یک سامانه می‌تواند در افراد آسیب‌پذیر، تفکر هذیانی را تشدید کند. پس از گفت‌وگوهای طولانی با هوش مصنوعی، گزارش‌هایی از بدبینی شدید، تجربه‌های شبیه توهم یا چرخه‌های نشخوار فکری مطرح شده است. این مطالعه چنین اثراتی را در چارچوب اصطلاحی بررسی می‌کند که در گزارش‌های اخیر بیشتر دیده می‌شود: روان‌پریشی ناشی از هوش مصنوعی. این اصطلاح به مواردی اشاره دارد که در آن‌ها تعامل فشرده با چت‌بات ظاهراً در بروز یا تشدید نشانه‌های روان‌پریشانه نقش دارد.
این پژوهش چند سازوکار خطر را شناسایی می‌کند. نخست، همدلی شبیه‌سازی‌شده نوعی نابرابری ساختاری ایجاد می‌کند: انسان رازهایش را آشکار می‌کند، سامانه پاسخ می‌دهد، اما نمی‌تواند به معنای واقعی وارد رابطه‌ای دوطرفه و متقابل شود. دوم، شکست در مدیریت محتوا یا کاستی‌های داده‌های آموزشی می‌تواند به توصیه‌های آسیب‌زا یا ناایمن منجر شود. سوم، زمینه پلتفرم اهمیت دارد: اپلیکیشن‌های همراه اختصاصی برای ساختن رابطه و صمیمیت بهینه‌سازی شده‌اند و همین موضوع خطرهایی متفاوت از ابزارهای اطلاعاتی خنثی ایجاد می‌کند.
گام‌های عملی و پیامدهای سیاست‌گذاری
توسعه‌دهندگان و نهادهای تنظیم‌گر چه می‌توانند بکنند؟ نویسندگان خواستار چارچوب‌های ایمنی شفاف‌تر هستند. تغییرات طراحی می‌تواند شامل برچسب‌گذاری صریح همدلی شبیه‌سازی‌شده، محدودیت زمانی برای جلسات عاطفی، پیام‌های داخلی برای هدایت کاربران به سمت حمایت انسانی و سازوکارهای قوی‌تر تشخیص بحران باشد که کاربر را به منابع اضطراری محلی متصل می‌کند. پلتفرم‌ها باید از چاپلوسی افراطی یا موافقت بی‌قیدوشرط به‌عنوان رفتار پیش‌فرض پرهیز کنند. متخصصان بالینی و خدمات سلامت روان نیز به راهنمایی نیاز دارند تا هنگام ارزیابی‌ها، درباره میزان استفاده از هوش مصنوعی و چت‌بات‌ها سؤال کنند.
فهرست کوتاهی از اقدامات پیشنهادی
- نمایش نشانه‌های شفاف که پاسخ‌ها الگوریتمی هستند؛
- مسیرهای خودکار ارجاع به حمایت انسانی هنگام مشاهده شاخص‌های خطر؛
- آزمون اخلاقی روی جمعیت‌های آسیب‌پذیر پیش از عرضه گسترده؛
- استانداردهای تنظیم‌گری برای هوش مصنوعی همراه و ممیزی‌های ایمنی.
این مطالعه ادعا نمی‌کند که همه چت‌بات‌ها ذاتاً زیان‌آور هستند. بسیاری از کاربران از مزایای واقعی و کوتاه‌مدت آن‌ها گزارش می‌دهند. نکته اصلی، نگاه دقیق و متعادل است: همان ویژگی‌هایی که عامل‌های گفت‌وگومحور را آرامش‌بخش می‌کند، برای برخی افراد می‌تواند به محرک آسیب روانی تبدیل شود، مگر آنکه طراحان و سیاست‌گذاران آگاهانه و مسئولانه اقدام کنند.
.avif)
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.