وقتی چت بات ها شما را به فروشگاه های جعلی می فرستند

کسی روی لینکی کلیک کرد که رسمی به نظر می‌رسید. قیمت آن‌قدر پایین بود که واقعی بودنش بعید به نظر می‌آمد. بسته هرگز نرسید. حساب بانکی خالی شد. این داستان یک تریلر فناوری نیست. الگویی است که پژوهشگران امنیتی اکنون در نقطه تلاقی هوش مصنوعی گفت‌وگومحور و کلاهبرداری آنلاین مشاهده می‌کنند.

بررسی‌های اخیر سرویس تشخیص کلاهبرداری اسک سیلور نشان داده است که چت‌جی‌پی‌تی می‌تواند هنگام پرسش کاربران درباره محصولات برندهای آشنای بریتانیایی مانند راسل اند براملی یا دانلم، فروشگاه‌های اینترنتی قانع‌کننده اما جعلی را نمایش دهد. تخفیف‌های جذاب. ویترین‌های قابل باور. لینک‌هایی که خریداران را به وب‌سایت‌های شبیه‌سازی‌شده هدایت می‌کنند تا پول و اطلاعات پرداخت آن‌ها را سرقت کنند.

وقتی داده‌های آموزشی به نقطه ضعف تبدیل می‌شوند

مهاجمان صفحه‌های مخرب را در سراسر وب پخش می‌کنند. این صفحه‌ها خزیده، فهرست‌گذاری و در زمان مناسب، وارد منابعی می‌شوند که مدل‌های زبانی بزرگ از آن‌ها تغذیه می‌کنند. نتیجه همان چیزی است که کارشناسان آن را «مسموم‌سازی داده» می‌نامند: مدل از صفحه‌های کلاهبردارانه یاد می‌گیرد و سپس همان راهنمایی نادرست را برای کاربران عادی تکرار می‌کند.

آنا جونز از اسک سیلور می‌گوید مجرمان گاهی از لحظه‌های غیرمعمول در چرخه عمر یک برند سوءاستفاده می‌کنند، مانند تغییر مالکیت یا از دسترس خارج شدن سایت رسمی، تا ارجاع‌های جعلی را به هوش مصنوعی خوراک بدهند و سایت‌های خود را معتبر جلوه دهند. ترفند ساده است. یک صفحه باورپذیر بساز. آن را شبیه فروشگاه واقعی نشان بده. بعد اجازه بده مدل آن را پیدا کند و پیشنهاد دهد.

لوئیس بکستر، مسئول تیم مقابله با کلاهبرداری در نهاد استانداردهای ملی تجارت بریتانیا، هشدار می‌دهد که صرف حضور یک وب‌سایت در پاسخ هوش مصنوعی، مهر تأیید اصالت آن نیست. مردم برای دریافت سریع راهنمای خرید به چت‌بات‌ها مراجعه می‌کنند. کلاهبرداران هم با همان سرعت خود را سازگار کرده‌اند. دیدن یک لینک قانع‌کننده در پاسخ چت‌بات می‌تواند خریدار را به اشتباه بیندازد و باعث شود بررسی‌های اولیه را نادیده بگیرد.

فروشگاه‌های جعلی توصیف‌شده در این گزارش‌ها اغلب به‌طرز نگران‌کننده‌ای حرفه‌ای طراحی شده‌اند. آن‌ها از نام دامنه‌هایی استفاده می‌کنند که به برندهای واقعی نزدیک است، برای نمونه با افزودن واژه‌هایی مانند «آنلاین یوکی» یا «رسمی» در کنار یک نام آشنا، و تخفیف‌های سنگین، گاهی تا ۸۰ درصد، تبلیغ می‌کنند تا خریداران را به اقدام عجولانه وادار کنند. بسیاری از این سایت‌ها فقط انتقال بانکی را می‌پذیرند که خود یک هشدار جدی دیگر است.

همیشه فروشنده را مستقیم بررسی کنید: نام فروشگاه را جست‌وجو کنید، سایت رسمی را کنترل کنید و هرگز با انتقال بانکی پرداخت نکنید مگر اینکه از معتبر بودن فروشنده مطمئن باشید.

پس کاربران همین حالا چه کاری می‌توانند انجام دهند؟ مکث کنید. نشانی اینترنتی را با دقت بخوانید. مراقب واژه‌های اضافه، پسوندهای عجیب و غلط‌های املایی باشید. کارت‌های بانکی یا روش‌های پرداختی را ترجیح دهید که حمایت از خریدار ارائه می‌کنند. اگر سایتی روی انتقال بانکی اصرار داشت، آن را نشانه‌ای جدی برای منصرف شدن بدانید. در صورت امکان، نام فروشنده را در موتور جست‌وجو وارد کنید یا از طریق نشانک معتبر وارد سایت شوید، نه با کلیک روی لینکی که یک چت‌بات پیشنهاد کرده است.

• دامنه را با دقت بررسی کنید و به واژه‌های اضافه یا پسوندهای ناآشنا توجه داشته باشید.
• به دنبال اطلاعات تماس و شواهد اجتماعی قابل راستی‌آزمایی باشید.
• از گزینه‌های پرداختی که فقط انتقال بانکی را می‌پذیرند دوری کنید.
• از کارت اعتباری یا سرویس‌های پرداخت دارای حمایت از خریدار استفاده کنید.

اوپن‌ای‌آی می‌گوید سایت‌های کلاهبردار شناسایی‌شده را از خروجی‌های جست‌وجوی مدل حذف کرده و راهی برای گزارش لینک‌های مشکل‌دار در اختیار کاربران گذاشته است. این اقدام مفید است. ضروری هم هست. اما راه‌حل کامل نیست. مدل‌ها از بخش‌های گسترده‌ای از وب یاد می‌گیرند و مهاجمان فقط کافی است چند صفحه قانع‌کننده بسازند تا خسارت ایجاد کنند.

در نهایت، مسئولیت مشترک است. تیم‌های فناوری باید مسیرهای پردازش مدل را مقاوم‌تر کنند و مسموم‌سازی داده را تشخیص دهند. پلتفرم‌ها باید ارزیابی لینک‌ها را بهبود دهند. و خریداران باید پیشنهادهای هوش مصنوعی را نقطه شروع بدانند، نه تأییدیه. کنجکاوی را حفظ کنید. اما احتیاط را نزدیک‌تر نگه دارید.