10 دقیقه
خلاصه
تصور کنید در خیابانی شلوغ راه میروید و عینک شما بهصورت نامحسوس نام کسی را زمزمه میکند. شاید شبیه داستانهای علمیتخیلی بهنظر برسد؛ یا شاید یادآور نظارت دائم باشد.
گزارش جدیدی از نیویورکتایمز میگوید متا (Meta) بهصورت پنهانی روی قابلیتی بهنام Name Tag کار میکند که به عینکهای هوشمند این شرکت اجازه میدهد با استفاده از یک دستیار هوش مصنوعیِ دروندستگاهی، افراد را شناسایی کند. این جزئیات از یک سند داخلی که روزنامه آن را بررسی کرده بهدست آمده است. طبق آن یادداشت، متا برنامه داشت این قابلیت را زمانی عرضه کند که قانونگذاران و گروههای حقوق مدنی بهدلیل چالشهای دیگر سرگرم باشند — انتخاب زمانی که مدافعان حریم خصوصی را نگران کرده است.
سند میگوید Name Tag قرار نیست یک اسکنر صورتِ بدون محدودیت باشد. در عوض، سیستم ابتدا بر افرادی تمرکز میکند که کاربر قبلاً در پلتفرمهای متا با آنها تعامل داشته یا کسانی که پروفایل عمومی در سرویسهایی مانند اینستاگرام دارند. به عبارت دیگر، بهنظر میرسد متا در حال آزمودن حد و مرزهایی است: شناسایی مخاطبان و حسابهای عمومی، نه هر چهرهای که در خیابان میبینید. با اینحال، محدودیتهای روی کاغذ خطرات عملی را از بین نمیبرد.
زمینه و برنامههای تجاری متا
متا پیش از این با برندهای شناختهشده عینک نظیر ریبن (Ray-Ban) و اوکلی (Oakley) در زمینه سختافزار واقعیت افزوده همکاری داشته است. طبق گزارشها، این شرکت قصد دارد Name Tag را در اواخر سال جاری به بازار بیاورد. در طرح اولیه حتی پیشنهاد شده بود که این قابلیت در یک کنفرانس برای افراد نابینا و دارای بینایی کم معرفی شود پیش از آنکه بهصورت گستردهتر در دسترس قرار گیرد — انتخابی که تضاد درونی محصول را نشان میدهد: چه کسانی سود میبرند و چه کسانی در معرض خطر قرار میگیرند؟
بیانیه رسمی و واکنش اولیه
ارین لوگان، سخنگوی متا، در واکنش ملایم به گزارشها به وبسایت The Verge گفته است متا محصولاتی میسازد تا به مردم کمک کند ارتباط برقرار کنند و زندگیشان را غنیتر کنند. او افزود که در حالی که علاقهای به قابلیتهایی مانند Name Tag وجود دارد و محصولاتی مشابه هم در بازار هستند، متا همچنان در حال بررسی گزینهها است و پیش از عرضه هر چیزی رویکردی سنجیده اتخاذ خواهد کرد.
تاریخچه حقوقی و حساسیتها
این زبان محتاطانه در ادامهٔ تاریخچهای از موانع حقوقی است. متا در سال ۲۰۱۷ پس از معرفی برچسبگذاری خودکار چهره در عکسهای فیسبوک دچار لغزشهایی شد و نهایتاً تحت فشار در سال ۲۰۲۱ از پروژه برچسبگذاری بیومتریک کوتاه آمد. با اینوجود بهنظر میرسد شرکت دوباره از طریق عینکهای هوشمند به سراغ سازوکارهای تشخیص چهره بازگشته است. نشتهایی از سال گذشته همچنین به مود موسوم به «فرا-حسگر» اشاره داشت — حالتی با دوربین همیشه روشن که میتواند محیط صارف را بهطور مداوم پایش کرده و نامها را اعلام کند.
قابلیتهای همزمان و نگرانیهای حقوقی
تغییرات در سیاستهای حریم خصوصی متا اشاره میکند که هوش مصنوعی روی عینک ممکن است تا زمانی فعال بماند که کاربر آن را صریحاً با فرمانی دستی مثل «هی متا» غیرفعال نکند. این موضوع نگرانیهای واضحی ایجاد میکند: حسگری دائمِ مرتبط با یک شبکه اجتماعی وسیع یا پایگاه دادههای حسابهای عمومی درها را به روی پیگیری ناخواسته، فاشسازی اطلاعات (doxxing) یا اشتباهدرشناسایی باز میکند. برای فناوریای که ممکن است بهعنوان کمکی برای افراد نابینا یا دارای ضعف بینایی تبلیغ شود، مخاطرات بسیار جدی است.
جزئیات فنی و سازوکار پیشنهادی
طبق توصیفات سند داخلی و تحلیلهای فنی، Name Tag به احتمال زیاد از ترکیبی از مدلهای یادگیری ماشینیِ تشخیص چهره، نمایههای اجتماعی و پردازش دروندستگاهی (on-device processing) استفاده خواهد کرد. پردازش در دستگاه میتواند برخی مزایای حریم خصوصی داشته باشد زیرا دادههای خام تصویری لازم نیست به سرورهای مرکزی منتقل شوند، اما حتی در این حالت هم نمایهسازی و همگامسازی با پایگاههای دادهٔ آنلاین میتواند اطلاعات هویتی را برای اهداف دیگر قابل دستیابی سازد.
پایگاههای داده و معیارهای مطابقت
سند اشاره میکند که سیستم قرار است ابتدا با افرادی کار کند که کاربر پیشتر در پلتفرمهای متا آنها را دیده یا با آنها مرتبط بوده است، یا کسانی که پروفایل عمومی در اینستاگرام دارند. این یعنی متا از نمایههای موجودِ شبکههای اجتماعی بهعنوان منبع حقایق هویتی استفاده خواهد کرد. اما چند سؤال فنی و عملی مهم مطرح میشود:
- معیار «مطابقت»: چه حد از شباهت برای اعلام شناسه لازم است؟
- مدیریت اشتباهات: در صورت اشتباهدرشناسایی، مکانیزم اصلاح یا حذف چگونه خواهد بود؟
- زمانبندی و وضعیت فعالسازی: آیا حسگری همیشه روشن خواهد بود یا فقط در پاسخ به فرمان لحظهای؟
- امنیت ذخیرهسازی: دادههای محلی چگونه رمزگذاری و محافظت میشوند؟
پاسخها به این سؤالات تعیینکننده سطح ریسک واقعی خواهند بود، چون حتی اگر پردازش اولیه محلی انجام شود، مطابقت با نمایههای آنلاین به نقشهای از روابط اجتماعی و حضور عمومی افراد منجر میشود که میتواند سوءاستفاده شود.
مخاطرات حریم خصوصی و پیامدهای اجتماعی
نگرانیهای حریم خصوصی در چند دسته کلیدی قابل بررسیاند:
پیگیری نامحسوس و تعقیب
اگر عینکها بتوانند بهطور مداوم افراد را شناسایی کنند، این فناوری میتواند به ابزار تعقیب تبدیل شود — چه از سوی افراد ناآگاه و چه با اهداف مخربتر مانند آزار، تجاوز به حریم خصوصی یا تعقیب سیاسی. حتی در مواردی که هدف دسترسی سریع و ساده به نام مخاطبان است، این امکان وجود دارد که افراد نسبت به حضور در فضاهای عمومی احساس ناامنی کنند.
خطرات ناشی از اشتباهدرشناسایی
سیستمهای تشخیص چهره شناختهشدهاند که در شناسایی افراد، بهخصوص گروههای اقلیت یا کسانی که در دادههای آموزشی کمتر حضور دارند، دچار خطا میشوند. اشتباهدرشناسایی میتواند پیامدهای جبرانناپذیری مثل بدنامی، دسترسی اشتباه به اطلاعات یا حتی تعقیب قانونی نادرست داشته باشد.
دسترسی و تبعیض
متا ممکن است Name Tag را بهعنوان کمکی برای افراد دارای ناتوانی بینایی تبلیغ کند، و مطمئناً چنین کاربردهای توانبخشی ارزشمندند. اما توزیع نابرابر فناوری، نگرانیهای تبعیضی و فقدان کنترل کاربر میتواند منجر به تضاد منافع شود: چه کسی واقعاً سود میبرد و چه کسی در معرض قرار میگیرد؟
الترناتیوها و سوابق موجود
همچنان که گزارش اشاره میکند، نمونههایی از طراحی که کنترل را در دست کاربر میگذارد وجود دارد. شرکتهایی مانند Envision که با Solos همکاری دارند، عینکهای کمکی ارائه میکنند که برای شناسایی، نیازمند عکسبرداری توسط کاربر و برچسبگذاری دستی در یک اپلیکیشن هستند؛ یعنی کاربر باید عمداً تصویری ثبت و تأیید کند تا شناسایی انجام شود. این طراحی رویکردی محافظهکارانهتر است که اختیار را به پوشنده میدهد نه به یک اسکنر خودکار دائمی.
مزایا و معایب رویکردهای مبتنی بر کاربر
- مزایا: افزایش شفافیت، کاهش احتمال پایش مستقل، امکان کنترلی برای حذف یا ویرایش برچسبها.
- معایب: کاهش سرعت در واکنشهای زمانواقعی که برای برخی کاربران کمتوان مزیتگر است، نیاز به تعامل دستی که ممکن است کارایی را پایین بیاورد.
چشمانداز قانونی و سیاستگذاری
محصولات تشخیص چهره و پردازش بیومتریک در چند سال اخیر تحت توجه قانونگذاران قرار گرفتهاند. برخی کشورها و ایالتها محدودیتهای شدیدی بر استفاده تجاری از تشخیص چهره گذاشتهاند، در حالی که در دیگر مناطق قوانین هنوز در حال توسعهاند. در بسیاری از موارد، شکایات حقوق مدنی، فشار رسانهای و حساسیتهای عمومی باعث عقبنشینی شرکتها شدهاند.
پیشنهادات سیاستی ممکن
برای کاهش خطرات، سیاستگذاران و شرکتها میتوانند ترکیبی از اقدامات زیر را در نظر گیرند:
- شفافیت کامل درباره منابع داده و معیارهای مطابقت.
- مکانیزمهای حذف و اصلاح پروفایل برای افرادی که نمیخواهند شناسایی شوند.
- محدودیتهای فنی مثل خاموشسازی حسگر همیشه روشن و الزام به تعامل فعال کاربر برای فعالسازی.
- بازبینی و آزمون مستقل مدلها برای کاهش خطاهای تبعیضآمیز.
- مقررات سختتر برای استفاده از دادههای عمومی شبکههای اجتماعی در شناسایی چهره.
پرسشهای اخلاقی و گفتگوهای عمومی
در نهایت، سرنوشت Name Tag و محصولات مشابه کمتر به پیشرفت تکنولوژی بستگی دارد و بیشتر به میزان تحمل عمومی، فشار قانونی و گفتگوهای اجتماعی درباره آنچه میخواهیم عینکهایمان انجام دهند مربوط است. برخی از سوالات بنیادی که باید پاسخ داده شوند عبارتاند از:
- در چه شرایطی شناسایی خودکار دیگران اخلاقی یا قابلقبول است؟
- چه تضمینی وجود دارد که اطلاعات جمعآوریشده برای اهداف تبلیغاتی یا نظارتی سوءاستفاده نشود؟
- چگونه میتوان توازنی میان دسترسیپذیری (برای افراد دارای معلولیت) و حفاظت از حریم خصوصی عموم برقرار کرد؟
نتیجهگیری و توصیهها
متا از تجربههای گذشته درسهایی آموخته است، اما بازگشت به حوزه تشخیص چهره از طریق عینکهای هوشمند، مجموعهای از ریسکهای جدید و قدیمی را مطرح میکند. اگرچه وعدههایی مثل افزایش استقلال برای کاربران با ضعف بینایی یا سهولت در شناخت مخاطبان میتواند مثبت باشد، اما هزینههای بالقوه برای حریم خصوصی و ایمنی عمومی باید جدی گرفته شوند.
توصیه میشود هرگونه عرضهٔ تجاری چنین قابلیتی همراه با شفافیت کامل، ارزیابیهای مستقل حریم خصوصی، گزینههای کنترلی قوی در اختیار کاربران و چارچوبهای قانونی روشن باشد. در غیاب این ساختارها، حتی محدودیتهای طراحی روی کاغذ نیز ممکن است نتوانند از سوءاستفادهها و پیامدهای ناخواسته جلوگیری کنند.
در نهایت، بحث درباره آنچه عینکهای هوشمند باید بتوانند انجام دهند، بیش از آنکه صرفاً تکنیکی باشد، یک گفتگوی اجتماعی و قانونی است. این گفتگو باید شامل کاربران نهایی، مدافعان حریم خصوصی، متخصصان فناوری و قانونگذاران باشد تا محصول نهایی تابعی از منافع عمومی و حقوق فردی باشد، نه صرفاً الگویی دیگر برای جمعآوری دادهها.
منبع: smarti
ارسال نظر