3 دقیقه
نوع تازهای از اعلان، بیسروصدا وارد صندوق ورودی والدین شده است: وقتی حساب چتجیپیتی یک نوجوان به دلیل تهدید یا رفتار خشونتآمیز تعلیق میشود، اکنون ممکن است والد یا سرپرست او از این موضوع مطلع شود. این تغییر نشان میدهد ایمنی هوش مصنوعی دیگر فقط یک تنظیم محصول نیست، بلکه بهعنوان نشانهای برای ایمنی عمومی نیز در نظر گرفته میشود.
این تغییر پس از انتقادهای شدید در پی تیراندازی جمعی سال ۲۰۲۵ در تامبلر ریج کانادا انجام شد؛ جایی که محققان دریافتند فرد متهم پیش از حمله از چتجیپیتی استفاده کرده بود. مقامهای کانادایی پرسیدند چرا اوپنایآی هنگام غیرفعال شدن آن حساب، کسی را مطلع نکرده است. سم آلتمن، مدیرعامل اوپنایآی، بابت این کوتاهی عذرخواهی کرد و شرکت بازنگری در شیوه شناسایی رفتارهای پرخطر را آغاز کرد.
اوپنایآی این سامانه اطلاعرسانی را با همکاری مونشات ساخته است؛ گروهی که بر آسیبهای آنلاین و مداخله زودهنگام تمرکز دارد. ویدیا رامالینگام، بنیانگذار مونشات، این قابلیت را نخستین گام عملی میداند: اینکه خانوادهها سریعتر از بروز یک نگرانی جدی باخبر شوند و به منابع و مراحل بعدی راهنمایی شوند. به گفته او، هشدار زودهنگام میتواند کمک زودهنگام را ممکن کند.
این قابلیت چگونه کار میکند؟ والدینی که به حساب یک نوجوان متصل هستند، پیامی با عنوان «تغییرات مهم در حساب فرزند شما» دریافت میکنند. با کلیک روی «بیشتر بدانید»، توضیح داده میشود که حساب به دلیل نقض سیاستهای مربوط به تهدید یا اقدامات خشونتآمیز غیرفعال شده است. این هشدار عمدا صریح طراحی شده تا ابهام را از بین ببرد و واکنش خانواده را سریعتر کند.
این بهروزرسانی به ابزارهای والدینی دیگری اضافه میشود که اوپنایآی پیشتر ارائه کرده است: محدودیت در ساعات استفاده، کاهش مواجهه با محتوای حساس و حالتهای آموزشی که دانشآموزان را پیش از نمایش پاسخ نهایی، مرحلهبهمرحله در حل مسئله راهنمایی میکند. چتجیپیتی همچنین به کاربران کمسنتر یادآوری میکند بهطور منظم استراحت کنند؛ یادآوری کوچکی برای شکلگیری عادتهای سالمتر در استفاده از صفحهنمایش.
البته این رویکرد بیهزینه نیست. برخی خواهند گفت که این کار به نظارت والدین نزدیک میشود. برخی دیگر آن را لایهای مسئولانه از کنترل و مراقبت میدانند که میتواند از تشدید بحران جلوگیری کند. آزمون واقعی این است که این هشدارها چگونه استفاده شوند؛ آیا به مداخله حمایتی منجر میشوند یا واکنشی تنبیهی و بیش از حد را رقم میزنند.
در نهایت، اوپنایآی روی این فرض حساب میکند که نشانههای شفاف، وقتی برای خانوادهها ارسال شوند و با منابع حمایتی همراه باشند، میتوانند رفتارهای خطرناک را زودتر شناسایی کنند؛ نه پس از وقوع فاجعه.
اینکه این رویکرد تا چه اندازه آسیبهای دنیای واقعی را کاهش میدهد، به هماهنگی میان پلتفرمها، خانوادهها و مقامهای محلی بستگی دارد. یک کلیک میتواند آغازگر یک گفتوگو باشد. آیا آن گفتوگو همان گفتوگوی درست خواهد بود؟
نظر بگذارید
نظرات (2)
حس میکنم قدم اوله، ولی مهم اینه که تبدیل به نظارت دائمی نشه. باید با آموزش و منابع همراه باشه، وگرنه فقط استرس میاره
واقعاً اطلاع دادن به والدین راهحلِ اصلیه؟ مثلا اگه خانواده واکنش تند نشون بدن چی، یا اطلاعات به جاهای اشتباه برسه؟ سوالام زیادن...