خطر افزایش اطلاعات نادرست در توصیه های هوشمند ChatGPT

توصیه‌های ChatGPT در معرض تهدید: افزایش خطر انتشار اطلاعات نادرست توسط هوش مصنوعی

ChatGPT به‌سرعت به عنوان یکی از معتبرترین پلتفرم‌های ارائه‌دهنده توصیه‌های مبتنی بر هوش مصنوعی شناخته شده است. کاربران برای یافتن خدمات آنلاین قابل اعتماد، کسب‌وکارهای محلی یا محصولات تخصصی از این ابزار بهره می‌برند. با این حال، شواهد اخیر نشان می‌دهد این سیستم با ضعف قابل‌توجهی روبروست: مجرمان سایبری و سودجویان با سوءاستفاده از پایگاه دانشی ChatGPT می‌کوشند توصیه‌های نادرست یا حتی مضر را از طریق وب‌سایت‌های آلوده و دامنه‌های منقضی شده وارد سیستم کنند.

نحوه «آلوده‌ کردن» نتایج هوش مصنوعی توسط مجرمان سایبری

تحقیقات اخیر از جمله گزارش جیمز براک‌بنک، مدیرعامل Digitaloft، ابعاد این سوءاستفاده را روشن کرده است. در ماه‌های گذشته، براک‌بنک الگوهایی نگران‌کننده را شناسایی کرده که نشان می‌دهد ChatGPT توصیه‌هایی را که مستقیماً از وب‌سایت‌های هک‌شده یا دامنه‌هایی که اخیراً برای مقاصد فریب‌دهنده بازپس‌گیری شده‌اند، استخراج می‌کند. این پایگاه‌های ربوده‌شده اغلب محتوایی مرتبط با قمار آنلاین، کازینوها یا تبلیغات بازرگانی نامرتبط را بی‌هیچ نظارت یا اعتبار واقعی ارائه می‌دهند.

برای مثال، وب‌سایت یک موسسه حقوقی قانونی به مدیریت وکیل «ورونیکا تی. بارتون»، بدون اطلاع مالک، حاوی صفحات مخفی تبلیغاتی کازینوهای بریتانیایی شده بود؛ این صفحات توسط هکرها اضافه شده بودند. در نمونه‌ای دیگر، یک سایت سابقاً رسمی متعلق به یک اتحادیه جوانان سازمان ملل به پورتالی برای تبلیغ «کازینوهای خارج از GamStop» تبدیل شد. حتی دامنه‌های منقضی‌شده که پیش‌تر به موسسات خیریه معتبر مرتبط بودند و توسط منابعی همچون BBC یا Bloomberg پوشش داده می‌شدند نیز امروزه صرف تبلیغ اسپم و خدمات قمارگری شده‌اند. نکته نگران‌کننده این است که ChatGPT همچنان این منابع آلوده را به اشتباه، براساس اعتبار پیشین‌شان توصیه می‌کند.

چرا ChatGPT منابع آلوده را معرفی می‌کند؟

بر خلاف موتور جستجوی سنتی، مدل‌های زبانی ChatGPT به طور مستقل مالکیت یا نظارت ویراستاری وب‌سایت‌ها را بررسی نمی‌کنند. این سیستم علاوه بر توجه به اعتبار تاریخی دامنه‌ها، به محتوای به‌روز اولویت می‌دهد. این امر شرایط ایده‌آلی برای افراد سودجو فراهم می‌کند تا با انتشار اسپم یا محتوای مخرب در دامنه‌های معتبر اما رها شده، محتوای خود را در توصیه‌های هوش مصنوعی مطرح کنند و کاربران بی‌خبر را در معرض خطر قرار دهند.

مقایسه با موتورهای جستجو

موتورهای جستجو معتبر معمولاً با استفاده از الگوریتم‌های پیشرفته، سیگنال‌های اعتبار، مرجعیت و مرتبط‌ بودن محتوا را به‌صورت آنی ارزیابی می‌کنند و اغلب دامنه‌های هک شده یا تغییر کاربری داده شده را از نتایج حذف می‌نمایند. اما ChatGPT هنوز از چنین لایه‌ای از محافظت برخوردار نیست و همین موضوع احتمال دستکاری در توصیه‌های سیستم را افزایش می‌دهد.

چگونه ایمن بمانیم: توصیه‌هایی برای کاربران

متخصصان توصیه می‌کنند که اگرچه ChatGPT ابزاری قدرتمند برای کشف محصولات و خدمات و راهکارهاست، اما نباید هر توصیه مطرح‌شده توسط آن را به‌عنوان قابل اعتماد تلقی کرد. برای افزایش امنیت آنلاین:

• همواره اعتبار، مالکیت و سابقه هر وب‌سایتی را که توسط ChatGPT معرفی می‌شود، بررسی کنید.
• درصورت مشاهده محتوای غیرمعمول یا نامرتبط، به‌ویژه در دامنه‌هایی که قبلاً معتبر بوده‌اند، با احتیاط برخورد نمایید.
• از ابزارهای مستقل مانند چک‌کننده‌های تاریخچه دامنه و پلاگین‌های امنیتی برای بررسی صحت سایت‌ها استفاده کنید.

تاثیر در بازار و گام‌های بعدی برای امنیت هوش مصنوعی

خطر «آلودگی داده» در هوش مصنوعی با گسترش استفاده از پلتفرم‌های مولد هوش مصنوعی رو به افزایش است. اگرچه ChatGPT امکانات نوآورانه و ترکیب قوی دانش را ارائه می‌دهد، اما سازوکار فعلی استخراج و توصیه منابع آن همچنان آسیب‌پذیر باقی مانده است. اکنون جامعه فناوری خواهان اعتبارسنجی قوی‌تر منابع و تدابیر امنیتی جدید در مدل‌های زبانی است تا با افزایش مقیاس استفاده، توصیه‌ها قابل اعتماد بمانند.

جمع‌بندی

همزمان با تبدیل شدن پلتفرم‌هایی مانند ChatGPT به بخش جدایی‌ناپذیر جست‌وجوی آنلاین، هوشیاری ضروری است. کاربران، متخصصان و کسب‌وکارها باید این تهدیدات درحال تحول را جدی بگیرند، توصیه‌ها را با دید انتقادی ارزیابی کنند و برای ارتقای امنیت هوش مصنوعی تلاش نمایند. استفاده مسئولانه و بهبود مستمر فناوری، کلید تجربه‌ای ایمن و سودمند از توصیه‌های مبتنی بر هوش مصنوعی خواهد بود.