شهادت مهندس سابق متا درباره امنیت نوجوانان آنلاین در دادگاه

در دادگاهی در اوکلند، یکی از مهندسان سابق متا تصویری روشن و نگران‌کننده از شیوه تصمیم‌گیری در این غول شبکه‌های اجتماعی ترسیم کرد: نه در آزمایشگاه‌ها یا کمیته‌ها، بلکه در بالاترین سطح شرکت. آرتورو بخار به هیئت منصفه گفت اولویت‌های مارک زاکربرگ انتخاب‌های محصولی را در سراسر فیسبوک و اینستاگرام شکل می‌داد و امنیت کاربران نوجوان اغلب در برابر تعامل کاربر و رشد پلتفرم عقب می‌ماند.

قدرت، طراحی محصول و فرهنگی که از آن پیروی می‌کند

بخار که از سال ۲۰۰۹ تا ۲۰۱۵ در متا کار کرده بود و سپس بین سال‌های ۲۰۱۹ تا ۲۰۲۱ به عنوان پیمانکار برای بررسی رفاه نوجوانان در اینستاگرام بازگشت، شاهد اصلی ایالت‌ها در یک دادگاه پرمخاطره بود؛ دادگاهی که می‌تواند تغییرات بزرگی را در این پلتفرم‌ها تحمیل کند. وکلای ایالتی می‌گویند متا اپلیکیشن‌های خود را طوری طراحی کرده که کاربران کم‌سن‌وسال را درگیر نگه دارد و همین موضوع به افزایش اضطراب، افسردگی و حتی خودکشی دامن زده، در حالی که شرکت آنچه را درباره این آسیب‌ها می‌دانسته پنهان کرده است.

او از سبک مدیریتی بالا به پایین سخن گفت؛ سبکی که در آن تمرکز یک مدیر ارشد می‌توانست موجی در تیم‌های مهندسی ایجاد کند: وقتی زاکربرگ روی یک شاخص تمرکز می‌کرد، کار محصول سرعت می‌گرفت و تغییرات طراحی به‌سرعت دنبال می‌شد. بخار شهادت داد: «اگر مارک چیزی را در اولویت می‌گذاشت، کوه‌ها در چند ماه جابه‌جا می‌شدند.» جمله‌ای ساده، با پیامدی بسیار بزرگ.

این شهادت مستقیما اطمینان‌بخشی‌های عمومی زاکربرگ را به چالش کشید؛ اطمینان‌بخشی‌هایی مبنی بر اینکه شرکت پیوسته از پژوهش برای ایمن‌تر کردن محصولات استفاده می‌کند. بخار گفت بارها نگرانی‌های خود درباره ایمنی کودکان را در ایمیل‌هایی به مدیران ارشد مطرح کرده و به هیئت منصفه صریحا گفت اعتماد به زاکربرگ در مسائل مربوط به کودکان نابجا بوده است.

این دادگاه این هفته آغاز شد و انتظار می‌رود حدود شش هفته ادامه داشته باشد. هیئت منصفه نظر مشورتی خود را ارائه خواهد کرد، اما در نهایت این قاضی ایوان گونزالس راجرز است که درباره مسئولیت حقوقی متا و در صورت لزوم، جریمه‌های مدنی و تغییرات اجباری در محصول تصمیم خواهد گرفت.

همه شواهد انتزاعی نبودند. بخار روایت کرد که چگونه به دختر نوجوانش کمک کرده بود حساب اینستاگرام بسازد. او آن زمان ۱۶ سال داشت. بخار در جریان بازجویی متقابل پذیرفت که همه آسیب‌هایی را که ممکن بود دخترش با آن روبه‌رو شود، پیش‌بینی نکرده بود. دخترش وارد اینستاگرام شده بود تا فضایی برای گفت‌وگوی زنان درباره خودرو و رانندگی ایجاد کند، اما با نظرهای زن‌ستیزانه و تعاملات سمی روبه‌رو شد. بخار گفت: «او دنبال‌کننده به دست آورد، اما بهایش آسیب بود.» این جمله در فضای دادگاه اثرگذار بود.

او همچنین تأیید کرد که متا صدها نفر را در نقش‌های مرتبط با ایمنی به کار گرفته و برخی از آن‌ها بسیار متخصص هستند. با این حال، بخار گفت دوره دوم همکاری‌اش به عنوان پیمانکار بیرونی دسترسی او را به منابع داخلی و خود زاکربرگ محدود کرده بود و همین موضوع فشار آوردن برای تغییرات طراحی را از بیرون دشوارتر می‌کرد.

یکی از نقاط اختلاف، ابزارهای موسوم به استراحت در متا بود؛ ابزارهایی که شرکت از آن‌ها به عنوان شاهدی بر کمک به کاربران برای مدیریت زمان استفاده خود یاد می‌کند. بخار استدلال کرد این قابلیت‌ها از ابتدا طوری تنظیم شده‌اند که شکست بخورند. آن‌ها به طور پیش‌فرض فعال نیستند و اعلان‌هایشان به‌راحتی نادیده گرفته می‌شود. از نگاه او، این ابزارها بیشتر شبیه وصله‌های روابط عمومی هستند تا راه‌حل‌های ساختاری.

او همچنین شهادت داد که متا فناوری لازم برای شناسایی میلیون‌ها کاربر احتمالا زیر ۱۳ سال را داشته، اما رویکرد «نپرس، نگو» را انتخاب کرده است، زیرا اجرای سخت‌گیرانه‌تر محدودیت سنی می‌توانست تعامل بلندمدت و درآمد را کاهش دهد. به بیان ساده: شرکت اقدامات احتمالی برای ایمنی را با مزایای اقتصادی ناشی از گروه‌های گسترده‌تر کاربران معاوضه کرده است.

شهادت ضبط‌شده النا دیویس، پژوهشگر متا، که پس از پایان صحبت‌های بخار برای هیئت منصفه پخش شد، بحث داخلی را پررنگ‌تر کرد. دیویس بخشی از پژوهشی را خواند که نشان می‌داد فیسبوک می‌تواند به گونه‌ای بازطراحی شود که سازوکارهای عادت‌ساز را کاهش دهد و به کاربران کمک کند الگوهای ناخواسته مصرف را کنار بگذارند. این پژوهش نقشه راه محصولی بسیار متفاوت از مسیری ترسیم می‌کرد که منتقدان می‌گویند شرکت در نهایت دنبال کرده است.

متا با هزاران شکایت مرتبط در سراسر کشور روبه‌رو است. بخار در چهار دادگاه جداگانه علیه این شرکت شاهد بوده و یکی از پرونده‌های پیشین که از سوی نیومکزیکو مطرح شده بود، به حکمی انجامید که شرکت را ملزم به ایجاد تغییرات کرد و خسارت‌ها و هزینه‌هایی معادل حدود ۸۷۶ میلیون یورو در پی داشت.

پس مسئله اصلی چیست؟ اصلاحات واقعی در نحوه ساخت پلتفرم‌ها. یا در مقابل، اصلاحات تدریجی بیشتری که سازوکارهای اصلی افزایش تعامل را دست‌نخورده باقی می‌گذارد. نظر مشورتی هیئت منصفه و رأی نهایی قاضی گونزالس راجرز نه فقط برای متا، بلکه برای شیوه نگاه نهادهای ناظر و دادگاه‌ها به مسئولیت شرکتی در اقتصاد توجه اهمیت خواهد داشت.

اگر رهبری شرکت تعامل را بالاتر از ایمنی اولویت دهد، طراحی محصول هم همان مسیر را دنبال خواهد کرد؛ آگاهانه یا ناآگاهانه.