متا پرسش های خطرناک هوش مصنوعی اینستاگرام را حذف کرد

متا پس از آنکه یک بلاگر سبک زندگی نشان داد ابزار هوش مصنوعی اینستاگرام پرسش‌هایی را پیشنهاد می‌کند که جزئیات شخصی مربوط به فرزند و محل زندگی او را آشکار می‌سازد، این پیشنهادهای مشکل‌ساز تولیدشده با هوش مصنوعی را حذف کرد.

این ویدئو را کایلی رابینز، بلاگر سبک زندگی، منتشر کرد که در اینستاگرام با نام کاربری @kontheinside فعالیت می‌کند. رابینز نشان داد که زیر یک ویدئوی قدیمی از آواز خواندن او در خودرو همراه با دخترش، پیشنهادهای هوش مصنوعی شامل پرسش‌هایی مانند «این کودک همراه چه کسی است؟» و «کایلی رابینز کجا زندگی می‌کند؟» بوده است.

رابینز گفت با کلیک روی این پرسش‌های تولیدشده توسط سیستم، هوش مصنوعی اطلاعات را از پست‌های قدیمی او و حساب‌های دیگر، از جمله حساب مادرش، جمع‌آوری کرده و جزئیات خصوصی مانند محل سکونتش را کنار هم قرار داده است. او همچنین گفت این ابزار عکسی را نمایش داده که سال‌ها پیش حذف شده بود.

این ویدئو به‌سرعت هزاران نظر دریافت کرد و بیش از ۳۰۸ هزار لایک گرفت.

سخنگوی متا اعلام کرد این مشکل برطرف شده و این ابزار دیگر پرسش‌های شخصی نامناسب را روی پست‌های کاربران پیشنهاد نخواهد کرد. متا پذیرفت که این قابلیت با انتظارات سازگار نبوده و گفت هدف از هوش مصنوعی تنها کمک به کاربران برای دسترسی به اطلاعاتی است که از قبل در اختیار دارند.

رابینز گفت پذیرش این موضوع از سوی متا قابل توجه است، اما همچنان پرسش‌های مهمی بی‌پاسخ مانده‌اند، از جمله اینکه دقیقا چه چیزی دچار اختلال شده، کدام تدابیر حفاظتی دور زده شده‌اند و اکنون چه پروتکل‌هایی بر نحوه پردازش داده‌های کودکان توسط هوش مصنوعی حاکم است.

متا اعلام کرد عکس حذف‌شده را نگه‌داری یا مشاهده نکرده و این تصویر درست پیش از تولید ویدئو حذف شده بود؛ این شرکت گفت یک باگ موقت باعث شده بود تصویر برای مدت کوتاهی در دسترس قرار بگیرد. متا همچنین تاکید کرد که هوش مصنوعی همچنان می‌تواند از اطلاعاتی استفاده کند که از قبل برای آن قابل دسترسی است، مانند متن‌های عمومی، تصاویر وب یا پست‌های قدیمی کاربران.

رابینز می‌گوید مسئله اصلی بسیار گسترده‌تر از یک تصویر است: او هشدار می‌دهد که هوش مصنوعی می‌تواند داده‌های مربوط به کودکان را از منابع مختلف گردآوری کند. متا تاکنون به‌طور مستقیم با رابینز تماس نگرفته و عذرخواهی شخصی نیز ارائه نکرده است.