کلاهبرداری‌های چت‌بات هوش مصنوعی: وقتی ربات‌ها خودشان را پشتیبان مشتری جا می‌زنند

مشکلی با حساب بانکی‌تان دارید. آنلاین پشتیبانی مشتری بانکتان را جستجو می‌کنید و روی چیزی که به نظر صفحه کمک آن‌ها می‌آید کلیک می‌کنید. یک پنجره چت دوستانه باز می‌شود. مشکلتان را توضیح می‌دهید و ربات سریع، حرفه‌ای و با به ظاهر دانش رویه‌های بانکی پاسخ می‌دهد. از شما می‌خواهد با ارائه شماره حساب، تاریخ تولد و چهار رقم آخر شماره تأمین اجتماعی‌تان هویتتان را تأیید کنید. موافقت می‌کنید, بالاخره این سیستم پشتیبانی بانکتان است. اما نیست. اطلاعات شخصی‌تان را به یک کلاهبردار که یک چت‌بات جعلی طراحی کرده که دقیقاً شبیه پشتیبانی رسمی بانکتان است داده‌اید.

کلاهبرداری‌های چت‌بات نمایانگر یکی از پلیدترین کاربردهای هوش مصنوعی در کلاهبرداری است. آن‌ها از این واقعیت بهره می‌برند که مردم به طور فزاینده‌ای به تعامل با سیستم‌های خودکار برای پشتیبانی مشتری، بانکداری و تجارت عادت کرده‌اند. مرز بین یک چت‌بات مشروع و یک چت‌بات جعلی تقریباً نامرئی شده و پیامدهای تعامل با نوع اشتباه می‌تواند جدی باشد.

ظهور کلاهبرداری‌های چت‌بات

گسترش چت‌بات‌های مشروع شرایط ایده‌آلی برای کلاهبرداری با چت‌بات ایجاد کرده است. تخمین زده می‌شود ۸۵ درصد از تعاملات خدمات مشتری اکنون شامل نوعی چت‌بات خودکار است که از ۵۰ درصد در ۲۰۲۳ افزایش یافته. مصرف‌کنندگان برای تعامل با ربات‌ها، اشتراک‌گذاری اطلاعات شخصی با آن‌ها و اعتماد به آن‌ها به عنوان امتداد برندهایی که نمایندگی می‌کنند آموزش دیده‌اند. این اعتماد دقیقاً همان چیزی است که کلاهبرداران از آن سوءاستفاده می‌کنند.

فناوری لازم برای ساخت یک چت‌بات جعلی قانع‌کننده به راحتی در دسترس شده است. مدل‌های زبانی متن‌باز، میزبانی ابری ارزان و فریم‌ورک‌های ویجت چت آسان‌الاستفاده به این معنا است که یک کلاهبردار می‌تواند یک چت‌بات پشتیبانی با ظاهر حرفه‌ای را برای کمتر از ۵۰ دلار و یک بعدازظهر کار راه‌اندازی کند. چت‌بات می‌تواند با برندینگ یک شرکت سفارشی‌سازی شود، روی اطلاعات محصول عمومی موجود آموزش داده شود و در عرض چند ساعت روی یک وب‌سایت جعلی قانع‌کننده مستقر شود.

تأثیر مالی به سرعت در حال رشد است. گزارش‌های مصرف‌کنندگان از کلاهبرداری مرتبط با چت‌بات بین ۲۰۲۴ و ۲۰۲۵ بیش از ۱۵۰ درصد افزایش یافت. میانگین خسارات قابل‌توجه است زیرا قربانیان اغلب اطلاعات جامع شخصی و مالی به اشتراک می‌گذارند که سرقت هویت و تصاحب حساب را علاوه بر خسارت مالی مستقیم ممکن می‌کند.

کلاهبرداری‌های چت‌بات چگونه کار می‌کنند

حمله معمولاً با هدایت قربانی به یک کانال پشتیبانی جعلی آغاز می‌شود. این می‌تواند از طریق چندین مسیر اتفاق بیفتد: تبلیغات موتور جستجو که بالای نتایج ارگانیک برای «پشتیبانی Bank of America» ظاهر می‌شوند، حساب‌های رسانه اجتماعی که پروفایل‌های رسمی شرکت را جعل می‌کنند، ایمیل‌های فیشینگ که به صفحات کمک جعلی لینک می‌دهند، یا پیامک‌هایی که شامل لینک به پورتال‌های چت جعلی هستند.

وقتی قربانی به رابط چت جعلی می‌رسد، تجربه برای تقلید از یک تعامل پشتیبانی مشروع تا حد ممکن طراحی شده است. چت‌بات از لوگو، طرح رنگ و سبک ارتباطی شرکت استفاده می‌کند. کاربر را به طور حرفه‌ای سلام می‌دهد، درباره مشکلشان می‌پرسد و پاسخ‌های منطقی که دانش محصول نشان می‌دهند ارائه می‌دهد.

برداشت داده به طور طبیعی در جریان پشتیبانی بافته شده است. «برای دسترسی به حسابتان نیاز دارم هویتتان را تأیید کنم», درخواستی که در یک زمینه پشتیبانی مشروع کاملاً معقول به نظر می‌رسد. چت‌بات اطلاعات حساس‌تری را به تدریج جمع می‌کند: شماره حساب، رمز عبور، شماره تأمین اجتماعی، پاسخ‌های سؤال امنیتی. هر درخواست به عنوان یک مرحله ضروری در فرآیند پشتیبانی قاب‌بندی می‌شود.

کلاهبرداری‌های چت‌بات پیچیده‌تر فراتر از برداشت داده می‌روند. برخی قربانیان را به صفحات پرداخت جعلی برای پرداخت «هزینه‌ها» برای بازیابی حساب، ارتقاء امنیت یا بازیابی خدمات هدایت می‌کنند. برخی دیگر با هدایت قربانی برای دانلود یک «ابزار امنیتی» یا «اپ تأیید» بدافزار نصب می‌کنند. برخی حتی تصاحب حساب بلادرنگ را آغاز می‌کنند، با استفاده از اطلاعاتی که قربانی ارائه می‌دهد وارد حساب واقعی‌شان می‌شوند و پول را منتقل می‌کنند در حالی که چت‌بات قربانی را با یک پیام «در حال پردازش» جعلی مشغول نگه می‌دارد.

مطمئن نیستید آیا یک وب‌سایت مشروع است؟ قبل از اشتراک‌گذاری اطلاعات شخصی آن را اسکن کنید.

انواع رایج کلاهبرداری‌های چت‌بات

کلاهبرداری‌های پشتیبانی بانکی و مالی آسیب‌رسان‌ترین دسته از نظر مالی هستند. چت‌بات‌های جعلی بانک‌ها، شرکت‌های کارت اعتباری و پلتفرم‌های پرداخت را جعل می‌کنند. آن‌ها افرادی را هدف قرار می‌دهند که برای کمک با مشکلات حساب، تراکنش‌های مورد مناقشه یا هشدارهای امنیتی جستجو می‌کنند. اطلاعات جمع‌شده, اعتبارنامه‌های ورود، شماره‌های حساب، سؤالات امنیتی, سرقت مستقیم حساب را ممکن می‌کند.

کلاهبرداری‌های چت‌بات پشتیبانی فنی شرکت‌هایی مانند مایکروسافت، اپل یا ارائه‌دهندگان آنتی‌ویروس را جعل می‌کنند. چت‌بات ادعا می‌کند یک مشکل امنیتی شناسایی کرده و قربانی را به اعطای دسترسی از راه دور به رایانه‌شان یا دانلود نرم‌افزار تشخیصی که واقعاً بدافزار است هدایت می‌کند. وقتی دسترسی از راه دور برقرار شد، کلاهبردار می‌تواند فایل‌ها را بدزدد، کی‌لاگر نصب کند و به حساب‌های مالی دسترسی پیدا کند. این کلاهبرداری‌ها با کلاهبرداری‌های پشتیبانی فنی مبتنی بر تماس ربات که قبلاً پوشش داده‌ایم همپوشانی قابل‌توجهی دارند.

کلاهبرداری‌های پشتیبانی تجارت الکترونیک خریداران را با چت‌بات‌های پشتیبانی جعلی آمازون، ای‌بی یا فروشگاه‌ها هدف قرار می‌دهند. قربانیانی که برای کمک با سفارش‌ها، برگشت‌ها یا استرداد وجه به دنبال کمک هستند به ارائه اطلاعات پرداخت برای «پردازش استرداد» یا پرداخت هزینه‌های ارسال برای برگشت هدایت می‌شوند. برخی کلاهبرداری‌ها چت‌بات‌های ردیابی سفارش جعلی می‌سازند که اطلاعات شخصی را تحت پوشش ارائه به‌روزرسانی‌های تحویل جمع می‌کنند.

چت‌بات‌های خدمات دولتی سازمان‌هایی مانند IRS، اداره تأمین اجتماعی یا خدمات مهاجرتی را جعل می‌کنند. اطلاعات شخصی حساس را تحت بهانه پردازش درخواست‌ها، تأیید شایستگی یا حل مسائل انطباق جمع می‌کنند. این کلاهبرداری‌ها به ویژه مؤثر هستند زیرا مردم انتظار دارند تعاملات دولتی نیازمند اطلاعات شخصی گسترده باشد.

چت‌بات‌های لغو اشتراک افرادی را که در تلاشند خدمات را لغو کنند هدف قرار می‌دهند. چت‌بات‌های جعلی ادعا می‌کنند نماینده خدمات پخش، عضویت‌های باشگاه ورزشی یا اشتراک‌های نرم‌افزار هستند و برای پردازش لغو نیاز به پرداخت‌های «تأیید» یا اطلاعات شخصی دارند. قربانی که از قبل درباره اشتراک ناخواسته ناامید است از نظر روانشناختی آماده است با درخواست‌ها موافقت کند تا فرآیند تمام شود.

کلاهبرداری‌های پشتیبانی رسانه اجتماعی

یک نوع به‌خصوص مؤثر در پلتفرم‌های رسانه اجتماعی عمل می‌کند. وقتی کاربران شکایت‌هایی درباره یک شرکت ارسال می‌کنند, یک تحویل ناموفق، یک خطای صورتحساب، یک مشکل حساب, حساب‌های کلاهبردار که آن پست‌ها را رصد می‌کنند فوراً پاسخ می‌دهند و خودشان را به جای تیم پشتیبانی رسمی شرکت جا می‌زنند. پاسخ شامل لینک به یک چت پشتیبانی جعلی یا دعوتی برای پیام مستقیم است.

این حملات از یک لحظه ناامیدی سوءاستفاده می‌کنند. قربانی از قبل ناراحت است، به دنبال کمک می‌گردد و وقتی کسی دسترسی پیدا می‌کند سپاسگزار است. حساب پشتیبانی جعلی اغلب قانع‌کننده به نظر می‌رسد, همان عکس پروفایل، دسته مشابه (با یک تفاوت ظریف مانند یک زیرخط اضافه یا حروف مختلف) و زبان حرفه‌ای. قربانی که راحت‌شده که کسی کمک می‌کند، بدون دقتی که در لحظه‌ای آرام‌تر اعمال می‌کرد دستورالعمل‌های کلاهبردار را دنبال می‌کند.

برخی عملیات‌ها هشتگ‌های پشتیبانی و اشاره‌های برند را در زمان واقعی رصد می‌کنند و در عرض چند دقیقه به شکایات پاسخ می‌دهند, اغلب سریع‌تر از تیم پشتیبانی واقعی شرکت. این مزیت سرعت به این معنا است که قربانیان اغلب قبل از اینکه شرکت مشروع بتواند پاسخ دهد با حساب کلاهبردار تعامل می‌کنند، و تا آن زمان ممکن است آسیب از قبل وارد شده باشد.

تشخیص چت‌بات‌های جعلی

اول URL را تأیید کنید. قبل از هر گونه تعامل با چت‌بات، آدرس وب‌سایت را با دقت بررسی کنید. به دنبال غلط‌نویسی‌های ظریف، کلمات اضافه یا پسوندهای دامنه غیرمعمول باشید. تفاوت بین bankofamerica.com و bankofamerica-support.com می‌تواند تفاوت بین امنیت و کلاهبرداری باشد. وب‌سایت واقعی بانکتان را بوک‌مارک کنید و همیشه مستقیماً به آنجا بروید نه از طریق نتایج جستجو یا لینک‌ها.

نشانگرهای امنیتی را بررسی کنید. وب‌سایت‌های شرکت‌های مشروع از HTTPS با گواهینامه‌های امنیتی معتبر استفاده می‌کنند. در حالی که سایت‌های کلاهبردار هم از HTTPS استفاده می‌کنند، کلیک کردن روی آیکون قفل در مرورگر و بررسی گواهینامه می‌تواند نشان دهد آیا برای یک نهاد مشکوک صادر شده است.

ارزیابی کنید چه چیزی درخواست می‌شود. چت‌بات‌های پشتیبانی مشروع معمولاً هویت را از طریق اطلاعات محدود تأیید می‌کنند, یک شماره پرونده، یک آدرس ایمیل یا چهار رقم آخر یک شماره حساب. درخواست رمزهای عبور کامل، شماره‌های کامل تأمین اجتماعی یا کدهای تأیید یک‌بارمصرف علائم هشداردهنده هستند. هیچ شرکت مشروعی رمز عبور کامل شما را از هیچ کانالی از جمله چت نمی‌خواهد.

مرزهای چت‌بات را آزمایش کنید. سؤالات خارج از موضوع بپرسید یا درخواست‌های غیرمعمول کنید. چت‌بات‌های سازمانی مشروع قابلیت‌های خاصی دارند و برای مسائل خارج از حوزه‌شان به طور شفاف به عوامل انسانی ارجاع می‌دهند. چت‌بات‌های کلاهبردار ممکن است سعی کنند به هر چیزی پاسخ دهند تا قربانی را درگیر نگه دارند، یا ممکن است صرف‌نظر از آنچه پرسیده می‌شود به شدت به سمت جریان جمع‌آوری داده هدایت کنند.

برای تأیید محتوای دیجیتال مشکوک از هر نوعی، ابزارهای اسکن Truvizy می‌توانند به شما کمک کنند لینک‌ها و وب‌سایت‌ها را قبل از اشتراک‌گذاری اطلاعات شخصی تحلیل کنید.

محافظت از خود

همیشه از طریق کانال‌های رسمی پشتیبانی را آغاز کنید. به دنبال شماره‌های پشتیبانی یا لینک‌های چت نگردید, مستقیماً به وب‌سایت یا اپ رسمی شرکت بروید. از بوک‌مارک برای سایت‌های بانکی و مالی استفاده کنید. بخش پشتیبانی را در داخل ناحیه احراز هویت‌شده حسابتان پیدا کنید نه از وب‌سایت عمومی.

هرگز اعتبارنامه‌های حساس را از طریق چت به اشتراک نگذارید. آن را یک سیاست شخصی قرار دهید: رمزهای عبور کامل، شماره‌های تأمین اجتماعی و شماره‌های کامل حساب مالی هرگز در یک پنجره چت وارد نمی‌شوند، صرف‌نظر از اینکه چه کسی می‌خواهد. اگر پشتیبانی واقعاً نیاز دارد هویتتان را تأیید کند، می‌تواند این کار را از طریق اطلاعات محدود یا از طریق فرآیند ورود امن پلتفرم رسمی‌شان انجام دهد.

به تماس ناخواسته مشکوک باشید. شرکت‌های واقعی به ندرت از طریق پیام مستقیم رسانه اجتماعی یا پیام‌های ناخواسته پشتیبانی آغاز می‌کنند. اگر کسی ادعا می‌کند از تیم پشتیبانی یک شرکت است، با تماس مستقل با شرکت از طریق وب‌سایت رسمی‌شان تأیید کنید.

در همه جا از احراز هویت دو مرحله‌ای استفاده کنید. حتی اگر یک چت‌بات کلاهبردار اعتبارنامه‌های ورودی‌تان را بگیرد، احراز هویت دو مرحله‌ای می‌تواند از دسترسی به حساب جلوگیری کند. از یک اپ احراز هویت به جای تأیید مبتنی بر SMS استفاده کنید، زیرا کدهای SMS هم می‌توانند از طریق تعاملات چت مهندسی اجتماعی شوند.

با ابزارهای تشخیص پیشرفته از خود در برابر کلاهبرداری پیچیده هوش مصنوعی محافظت کنید.

همان‌طور که در تحلیل ما از نحوه خطرناک‌تر شدن کلاهبرداری‌ها توسط هوش مصنوعی پوشش داده شده، شکاف کیفیتی بین تعاملات هوش مصنوعی مشروع و جعلی به سرعت در حال کم شدن است.

تصویر بزرگ‌تر

کلاهبرداری‌های چت‌بات نمادی از یک چالش گسترده‌تر هستند: همان‌طور که هوش مصنوعی تعاملات خودکار را طبیعی‌تر و فراگیرتر می‌کند، تمایز بین سیستم‌های خودکار معتمد و غیرمعتمد حفظ آن سخت‌تر می‌شود. ما داریم وارد دنیایی می‌شویم که در آن راحتی خدمات مبتنی بر هوش مصنوعی سطوح حمله جدیدی ایجاد می‌کند که قبلاً وجود نداشت.

راه‌حل اجتناب از چت‌بات‌ها نیست, آن‌ها وقتی توسط سازمان‌های مشروع مستقر می‌شوند ارزش واقعی ارائه می‌دهند. راه‌حل توسعه عادات و ابزارهایی است که به شما اجازه می‌دهد قبل از اشتراک‌گذاری اطلاعات حساس تأیید کنید واقعاً با چه کسی صحبت می‌کنید. این به معنای همیشه بروش مستقیم به وب‌سایت‌های رسمی، احتیاط در مورد هر درخواستی برای داده‌های حساس صرف‌نظر از حرفه‌ای بودن تعامل، و استفاده از ابزارهای تأیید مبتنی بر هوش مصنوعی برای تشخیص کلاهبرداری وقتی قضاوت خودتان نامطمئن است.

طرح‌های حفاظتی Truvizy دقیقاً برای این نوع تهدید طراحی شده‌اند, از تحلیل پیشرفته هوش مصنوعی برای کمک به شما در تشخیص اینکه آیا تعاملات، محتوا و ارتباطات دیجیتال قبل از اشتراک‌گذاری اطلاعات شخصی مشروع هستند استفاده می‌کنند. در دنیایی که ربات‌ها شرکت‌هایی که به آن‌ها اعتماد دارید را جعل می‌کنند، داشتن هوش مصنوعی‌ای که برای شما کار می‌کند نه علیه شما دیگر یک راحتی نیست, یک لایه حیاتی از امنیت شخصی است. همان‌طور که راهنمای ما درباره کلاهبرداری‌های پیامک فیشینگ نیز تأکید می‌کند، نخ مشترک در تمام کلاهبرداری‌های مدرن این است که تأیید از طریق کانال‌های مستقل قابل‌اعتمادترین دفاع شماست.

چگونه یک ویدیوی دیپ‌فیک را تشخیص دهیم — نشانه‌های بصری و روش‌های تشخیص برای محتوای ویدیویی مصنوعی

چگونه بگویید آیا محتوا توسط هوش مصنوعی ساخته شده — راهنمای عملی شناسایی متن، تصویر و ویدیوی ساخته‌شده توسط هوش مصنوعی

Truvizy چطور کلاهبرداری‌ها را تشخیص می‌دهد — فناوری چندلایه هوش مصنوعی پشت تشخیص کلاهبرداری