2 دقیقه
با چتبات مثل محرم راز رفتار نکنید. جملهای کوتاه. واقعیتی بیپرده.
مردیث ویتاکر، مدیر اپلیکیشن پیامرسان امن سیگنال، در گفتوگو با بلومبرگ با صراحت گفت ابزارهایی مانند چتجیپیتی و کلاد، همراهانی آگاه و دارای شعور نیستند. آنها گفتوگو را شبیهسازی میکنند. احساس ندارند. شما را آنطور که یک انسان دیگر میفهمد، درک نمیکنند. این تفاوت امروز بیش از هر زمان دیگری اهمیت دارد، چون مرز میان دستیار مفید و حضوری نفوذگر، ماه به ماه باریکتر میشود.
ویتاکر میپذیرد که گاهی برای کارهای معمولی از هوش مصنوعی استفاده میکند، مثلا برای مرتبکردن ساختار یک سند، اما از پرسیدن سؤالهایی که مسیر فکرش را شکل میدهند خودداری میکند. او از کار خلاقانه و فکریای که از ذهن انسان سرچشمه میگیرد، محافظت میکند. چرا باید به سیستمی که آنچه را پیشتر وجود داشته جمعآوری و میانگینگیری میکند، قدرت بدهیم تا شیوه فکرکردن یا نوشتن ما را هدایت کند؟
این هشدار زمانی جدیتر شد که او به پیشبینی اخیر مصطفی سلیمان، رئیس بخش هوش مصنوعی مایکروسافت، واکنش نشان داد. سلیمان گفته بود دستیارهایی مانند کوپایلوت میتوانند خریدهای کریسمس امسال کاربران را انجام دهند. در ظاهر، این ایده بسیار راحت به نظر میرسد. اما برای انجام چنین کاری، دستیار هوش مصنوعی باید دیدی بسیار نزدیک و شخصی از زندگی شما داشته باشد: گفتوگوهای گروهی خانوادگی، تاریخچه مرور وب، کارتهای اعتباری، نشانیها، تقویمها و حتی توانایی پیامدادن به بستگان از طرف شما. آیا همه اینها را به یک سرویس واحد میسپارید؟
ویتاکر این سطح از دسترسی را همان چیزی مینامد که هست: دری پنهان به حریم خصوصی افراد. در چارچوب یک پیامرسان امن، چنین دسترسی فراگیری همان تضمینهایی را تضعیف میکند که کاربران بهخاطرشان به آن سرویس اعتماد کردهاند. سیگنال به سیستمهای هوش مصنوعی مجوزهای گسترده، تهاجمی و فراگیر درون اپلیکیشن خود نخواهد داد.
این بحث دیگر فقط نظری نیست. با نفوذ تدریجی قابلیتهای هوش مصنوعی به پلتفرمهای بیشتر، هر امکان تازه یک بدهبستان به همراه دارد: سرعت در برابر کنترل، کارایی در برابر صمیمیت و دسترسی شخصی. اینکه شما مرز را کجا میکشید، فقط صندوق ورودی پیامهایتان را تعیین نمیکند، بلکه مشخص میکند چه کسی حق شکلدادن به توجه، انتخابها و حریم خصوصی دیجیتال شما را دارد.
نظر بگذارید
نظرات (2)
من تو تیم محصول دیدم یه AI پیشنهادهای خرید مشتریارو مرتب میکرد، اول خوب بود اما کم کم احساس کردم داره جهت میده به انتخابها. برای کارهای ساده اوکیه، اما خلاقیت رو نباید تسلیمش کرد.
واقعا میخوایم به یه ربات بگیم چی براش بخریم؟ یعنی همهی زندگیمون رو به یه سرویس میسپاریم ؟ سیگنال حق داره یا دارن بزرگنمایی میکنن؟