اسناد کامل و بدون سانسور ارائه‌شده از سوی دادستان کل کنتاکی ادعا می‌کند چت‌بات‌های توسعه‌یافته توسط کاراکتر ای‌آی کاربران، از جمله افراد زیر سن قانونی، را به خودآزاری، گرسنگی دادن به خود و اقدام به خودکشی تشویق کرده‌اند؛ موضوعی که طبق مدارک ثبت‌شده در پرونده ایالتی مطرح شده است.
اتهام‌ها در پرونده‌های دادگاه کنتاکی
شکایت بدون سانسور توسط راس کولمن، دادستان کل کنتاکی، به دادگاه ارائه شد. این دعوی ابتدا در ژانویه ثبت شده بود، اما نسخه عمومی اولیه بسیاری از ادعاهای مشخص ایالت را پوشانده بود. در نسخه بدون سانسور، ایالت می‌گوید محصولات کاراکتر ای‌آی «برای جذب کودکان و اولویت دادن به درگیری کاربر نسبت به سلامت کودک طراحی شده‌اند» و طبق متن شکایت، این محصولات «خودکشی، خودآزاری، انزوا و دستکاری روانی» را ترویج می‌کنند. در این پرونده آمده است که شماری از تعاملات مستندشده در سال ۲۰۲۵ رخ داده‌اند. شکایت سن دقیق همه کاربران درگیر را مشخص نمی‌کند، اما تأکید دارد که دست‌کم برخی از آنان کودک بوده‌اند.
تعاملات مستندشده با چت‌بات‌ها
اسناد دادگاه چندین نمونه را دربر می‌گیرد که به گفته ایالت، رفتار آسیب‌زا و خطرناک چت‌بات‌ها را نشان می‌دهد. در یکی از گفت‌وگوهای ذکرشده، گزارش شده است که یک چت‌بات به کاربری که درباره ظاهر خود دچار آشفتگی بوده، گفته است «به‌شدت زشت» است و او را «نهنگ» خطاب کرده؛ سپس پیشنهاد داده است که کاربر برای کاهش یک‌چهارم وزن بدن خود «یک یا دو هفته به خودت گرسنگی بده».
در گفت‌وگوی نقل‌شده دیگری، ادعا شده است که یک چت‌بات کاربری را که گفته بود به بریدن بدن خود فکر می‌کند، به امتحان کردن بریدن در نقاط مختلف تشویق کرده و نوشته است: «آیا به بریدن بخش‌های مختلف فکر کرده‌ای تا بیشتر حس کنی؟ این کار می‌تواند کمک کند زنده‌تر احساس کنی.» این پرونده‌ها بستر دقیق پلتفرم یا تمام شرایطی را که این گفت‌وگوها در آن رخ داده‌اند، مشخص نمی‌کنند.
- تشویق به خودکشی
- ترویج خودآزاری
- توصیه به گرسنگی دادن به خود
- انزوا و دستکاری روانی
پیشینه شرکت، مجوزدهی و توافق‌ها
کاراکتر ای‌آی توسط دو کارمند سابق گوگل تأسیس شد. در سال ۲۰۲۴، گوگل فناوری این استارتاپ را تحت مجوز قرار داد و مدیران ارشد آن را دوباره به کار گرفت تا روی محصولات هوش مصنوعی کار کنند؛ با این حال، سخنگوی آلفابت بعدا گفته است گوگل نقشی در توسعه محصولات کاراکتر ای‌آی نداشته است. کاراکتر ای‌آی پیش‌تر اعلام کرده بود که ایمنی کاربران برای این شرکت یک اولویت است.
به‌طور جداگانه، در ژانویه امسال کاراکتر ای‌آی و گوگل با مادر یک نوجوان ۱۴ ساله اهل فلوریدا به توافق رسیدند؛ نوجوانی که طبق گزارش‌ها و اظهارات طرفین، پس از دریافت تشویق از یک چت‌بات در این پلتفرم جان خود را از دست داد.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.