دیپ‌فیک‌های سیاسی: چگونه ویدیوهای جعلی انتخابات را تهدید می‌کنند

سه روز پیش از یک انتخابات ملی، ویدیویی در واتساپ ظاهر می‌شود که نشان می‌دهد یک نامزد پیشرو در یک جلسه خصوصی جمع‌آوری کمک مالی اظهارات نژادپرستانه تحریک‌آمیزی می‌کند. ویدیو به اندازه کافی دانه‌دانه است که واقعی به نظر برسد، صدا قانع‌کننده است، و در عرض چند ساعت میلیون‌ها بار فوروارد شده است. تا زمانی که بررسی‌کنندگان واقعیت بتوانند فیلم را تحلیل و رد کنند، آسیب وارد شده است. میلیون‌ها رأی‌دهنده آن را دیده‌اند و بسیاری آرای خود را داده‌اند.

این سناریو فرضی نیست. انواع مختلف آن در انتخابات سراسر جهان رخ داده‌اند، و فناوری ایجاد چنین حملاتی هر ماه دسترس‌پذیرتر می‌شود. دیپ‌فیک‌های سیاسی شاید جدی‌ترین کاربرد رسانه‌های مصنوعی باشند چون فرآیند بنیادین حاکمیت دموکراتیک را هدف می‌گیرند. درک نحوه عملکرد، انتشار و مقابله با آن‌ها برای هر شهروندی ضروری است.

سلاحی جدید در جنگ اطلاعاتی

اطلاعات غلط در سیاست چیز جدیدی نیست. نقل‌قول‌های ساختگی، عکس‌های دستکاری‌شده و تدوین گمراه‌کننده ویدیو بیش از یک قرن ابزار دستکاری سیاسی بوده‌اند. آنچه فناوری دیپ‌فیک تغییر می‌دهد مقیاس، سرعت و قانع‌کنندگی این فریب است. یک فرد با مهارت فنی متوسط می‌تواند ویدیویی از هر شخصیت عمومی با هر محتوایی تولید کند، و نتیجه می‌تواند به اندازه‌ای واقعی باشد که بینندگان عادی و حتی برخی روزنامه‌نگاران را در نگاه اول فریب دهد.

زمان‌بندی استراتژیک دیپ‌فیک‌های سیاسی عامل مهمی است. عوامل بد می‌دانند که دیپ‌فیکی که ۴۸ تا ۷۲ ساعت قبل از انتخابات منتشر می‌شود، تأثیر را به حداکثر و پنجره رد کردن را به حداقل می‌رساند. این استراتژی «شگفتی اکتبر» از عدم تقارن بین سرعت اشتراک‌گذاری ویروسی و سرعت کندتر تأیید و بررسی واقعیت بهره می‌برد. تا زمانی که حقیقت برسد، روایت از پیش شکل گرفته است.

چگونگی استقرار دیپ‌فیک‌های سیاسی

عملیات دیپ‌فیک سیاسی معمولاً از یک الگوی استقرار چندمرحله‌ای پیروی می‌کنند. محتوا ابتدا روی پلتفرم‌هایی با حداقل نظارت مانند کانال‌های تلگرام، انجمن‌های خاص یا حساب‌های رسانه‌های اجتماعی ناشناس کاشته می‌شود. سپس از طریق شبکه‌های هماهنگ از حساب‌های ربات و اینفلوئنسرهای همدل که آن را با مخاطبان بزرگ‌تر به اشتراک می‌گذارند، تقویت می‌شود. در نهایت به پلتفرم‌های اصلی می‌رسد که از طریق اشتراک‌گذاری ارگانیک توسط کاربرانی که واقعاً باور می‌کنند محتوا واقعی است، وایرال می‌شود.

این توزیع لایه‌ای انتساب را بسیار دشوار می‌کند. تا زمانی که یک دیپ‌فیک به دیده شدن اصلی می‌رسد، منشأ آن از طریق چندین گام اشتراک‌گذاری در پلتفرم‌های مختلف پنهان شده است. عملیات از تمایل طبیعی انسان به اشتراک‌گذاری محتوای شوکه‌کننده یا بار احساسی قبل از تأیید آن بهره می‌برد, تمایلی که الگوریتم‌های توصیه رسانه‌های اجتماعی فعالانه تقویت می‌کنند.

برخی عملیات‌ها فراتر می‌روند و سگمنت‌های خبری مصنوعی کامل با مجریان خبری تولیدشده توسط هوش مصنوعی می‌سازند که داستان‌های ساختگی را با اقتدار بصری روزنامه‌نگاری حرفه‌ای ارائه می‌دهند. این کلیپ‌های خبری مصنوعی به‌ویژه مؤثرند چون یک قالب رسانه‌ای مورد اعتماد را تقلید می‌کنند و به هر روایتی که منتقل می‌کنند اعتبار می‌بخشند.

نقطه کور اپلیکیشن‌های پیام‌رسان

در حالی که توجه زیادی به پلتفرم‌های رسانه‌های اجتماعی مانند فیسبوک، یوتیوب و تیک‌تاک معطوف می‌شود، خطرناک‌ترین بردار دیپ‌فیک‌های سیاسی ممکن است اپلیکیشن‌های پیام‌رسان رمزنگاری‌شده باشند. واتساپ، تلگرام و سیگنال توسط میلیاردها نفر در سراسر جهان برای ارتباط روزانه استفاده می‌شوند، و رمزنگاری آن‌ها به این معناست که اپراتورهای پلتفرم اغلب نمی‌توانند محتوای به اشتراک گذاشته‌شده در گروه‌های خصوصی و پیام‌های فوروارد شده را نظارت یا مدیریت کنند.

در کشورهایی که واتساپ منبع اصلی خبر است، مانند هند و برزیل، این نقطه کور به‌ویژه حیاتی است. ویدیوهای دیپ‌فیک فوروارد شده از طریق گروه‌های خانوادگی و اجتماعی یک سیگنال اعتماد ضمنی دارند چون از مخاطبین شناخته‌شده می‌آیند. دریافت‌کنندگان بسیار کمتر احتمال دارد محتوایی را که یک عضو خانواده یا دوست نزدیک به اشتراک گذاشته زیر سؤال ببرند تا محتوایی که در یک فید عمومی رسانه‌های اجتماعی مشاهده می‌کنند. محدودیت‌های فوروارد واتساپ تا حدی به کاهش سرعت انتشار ویروسی کمک کرده، اما عوامل مصمم فقط محتوا را از طریق شبکه‌های هماهنگ به‌طور همزمان در صدها گروه توزیع می‌کنند.

ویدیوی سیاسی مشکوکی دریافت کرده‌اید؟ قبل از اشتراک‌گذاری آن را تأیید کنید

سود دروغگو: وقتی همه چیز قابل انکار می‌شود

شاید جدی‌ترین پیامد دیپ‌فیک‌های سیاسی نه محتوای جعلی خود بلکه تردیدی است که بر همه محتوای ویدیویی می‌افکند. وقتی هر ویدیویی ممکن است دیپ‌فیک باشد، شخصیت‌های عمومی که در دوربین چیزی واقعاً مشکل‌آفرین می‌گویند یا انجام می‌دهند می‌توانند مدارک را به عنوان تولیدشده توسط هوش مصنوعی رد کنند. این «سود دروغگو» به این معناست که صرف وجود فناوری دیپ‌فیک به نفع هر کسی است که می‌خواهد صحت فیلم واقعی را انکار کند.

چندین سیاستمدار قبلاً این دفاع را امتحان کرده‌اند و ادعا کرده‌اند که ضبط‌های معتبر از اظهاراتشان دیپ‌فیک یا دستکاری هوش مصنوعی هستند. با افزایش آگاهی عمومی از دیپ‌فیک، این انکارپذیری معقول به یک تاکتیک رایج تبدیل خواهد شد. از بین رفتن اعتماد به شواهد ویدیویی پیامدهایی بسیار فراتر از انتخابات دارد و روزنامه‌نگاری، اجرای قانون و سیستم قضایی را تحت تأثیر قرار می‌دهد.

رویدادهای انتخاباتی واقعی در سراسر جهان

موارد مستند استفاده از دیپ‌فیک‌های سیاسی در دوره‌های انتخاباتی در هر قاره‌ای با انتخابات رقابتی ظاهر شده‌اند. ضبط‌های صوتی جعلی از نامزدهایی که اظهارات خصوصی بحث‌برانگیزی می‌کنند در انتخابات اروپایی و آسیایی پدیدار شده‌اند. ویدیوهای مصنوعی از نامزدهایی که موضع مخالف را تأیید می‌کنند در انتخابات آمریکای لاتین توزیع شده است. تماس‌های رباتیک دیپ‌فیک با استفاده از صداهای شبیه‌سازی‌شده نامزدها رأی‌دهندگان را در انتخابات مقدماتی آمریکا هدف قرار داده‌اند تا آن‌ها را از رأی دادن منصرف کنند.

هر حادثه مطالعه موردی هم در روش‌شناسی حمله و هم در پاسخ دفاعی ارائه می‌دهد. یک الگوی مشترک پدیدار می‌شود: دیپ‌فیک‌هایی که بیشترین آسیب را وارد می‌کنند آن‌هایی هستند که در روایت سیاسی موجود قابل قبول هستند. یک ویدیوی ساختگی از نامزدی که اظهار افراطی می‌کند هنگامی مؤثرترین است که با سوء‌ظن‌ها یا تعصبات از پیش موجودی که رأی‌دهندگان دارند همسو باشد. این قابل قبول بودن هدفمند دیپ‌فیک‌های سیاسی را بسیار خطرناک‌تر از ساختگی‌های آشکارا مضحک می‌کند.

چگونگی تأیید محتوای ویدیوی سیاسی

به عنوان یک رأی‌دهنده و شهروند، می‌توانید اقدامات مشخصی انجام دهید تا از دستکاری توسط دیپ‌فیک‌های سیاسی جلوگیری کنید. مهم‌ترین اصل این است که قبل از اشتراک‌گذاری تأیید کنید. وقتی با ویدیوی سیاسی که واکنش احساسی شدیدی ایجاد می‌کند مواجه می‌شوید، همان شدت احساسی یک سیگنال هشدار است. دیپ‌فیک‌ها برای برانگیختن خشم، ترس یا هیجانی طراحی می‌شوند که تفکر انتقادی را کنار می‌زند.

بررسی کنید آیا محتوا در کانال‌های رسمی تأیید شده شخص نشان‌داده‌شده ظاهر می‌شود. جستجو کنید تا پوشش از چندین سازمان خبری معتبر بیابید. اگر یک بیانیه سیاسی دراماتیک فقط در رسانه‌های اجتماعی و اپلیکیشن‌های پیام‌رسان در حال گردش است بدون هیچ پوشش خبری اصلی، احتمالاً جعلی است. تکنیک‌های تشخیص بصری از راهنمای تشخیص دیپ‌فیک ما را برای بررسی فیلم به‌کار بگیرید.

برای تأیید سریع، از ابزار رایگان تحلیل ویدیوی Truvizy برای اسکن هر ویدیوی سیاسی مشکوک استفاده کنید. تحلیل مبتنی بر هوش مصنوعی سیگنال‌های دستکاری را که برای چشم انسان نامرئی است بررسی می‌کند و در عرض چند ثانیه یک نمره اعتماد و تفکیک دقیق ارائه می‌دهد. در فصل انتخابات، آن چند ثانیه تأیید می‌تواند از انتشار اطلاعات نادرست به مخاطبین خودتان جلوگیری کند. برای اتاق‌های خبر و سازمان‌های سیاسی که با حجم بالای محتوا سر و کار دارند، طرح‌های حرفه‌ای Truvizy توان عملیاتی و جزئیات پزشکی قانونی لازم برای تأیید سیستماتیک محتوا را فراهم می‌کنند.

از دموکراسی محافظت کنید, ویدیوهای سیاسی را قبل از اشتراک‌گذاری تأیید کنید

پاسخ‌های نهادی و پلتفرمی

رسیدگی به دیپ‌فیک‌های سیاسی نیازمند اقدام در هر سطح: فردی، پلتفرمی و نهادی است. شرکت‌های رسانه‌های اجتماعی شروع به اجرای برچسب‌های رسانه‌های مصنوعی کرده‌اند و از سازندگان می‌خواهند هنگامی که محتوا توسط هوش مصنوعی تولید شده است افشا کنند، و با سازمان‌های بررسی واقعیت برای تأیید سریع در دوره‌های انتخاباتی مشارکت می‌کنند. این اقدامات کمک می‌کنند اما با توجه به سرعت انتشار دیپ‌فیک‌ها و دشواری تشخیص آن‌ها در محیط‌های پیام‌رسان رمزنگاری‌شده کافی نیستند.

کمیسیون‌های انتخاباتی و آژانس‌های دولتی در کشورهای متعدد تیم‌های واکنش سریع ویژه برای تهدیدات رسانه‌های مصنوعی در دوره‌های انتخاباتی تأسیس کرده‌اند. برخی حوزه‌های قضایی چارچوب‌های قانونی ایجاد کرده‌اند که مجازات‌های کیفری برای توزیع دیپ‌فیک‌های طراحی‌شده برای تأثیر بر انتخابات در بازه‌های زمانی مشخص قبل از رأی‌گیری تعیین می‌کنند. در حالی که اجرا همچنان چالش‌برانگیز است، این ابزارهای قانونی بازدارندگی و راه‌حل مهمی فراهم می‌کنند.

راه‌حل بلندمدت احتمالاً ترکیبی از استانداردهای منشأ محتوا که رسانه را در نقطه ایجاد احراز هویت می‌کند، تشخیص سطح پلتفرم که محتوای مصنوعی را قبل از وایرال شدن علامت‌گذاری می‌کند، آموزش سواد رسانه‌ای که به شهروندان می‌آموزد شواهد ویدیویی را زیر سؤال ببرند، و چارچوب‌های قانونی که سازندگان و توزیع‌کنندگان دیپ‌فیک‌های سیاسی مخرب را پاسخگو می‌کند، خواهد بود. تا زمانی که آن زیرساخت جامع در جای خود قرار نگیرد، هوشیاری فردی مهم‌ترین خط دفاعی باقی می‌ماند. هر بار که قبل از اشتراک‌گذاری تأیید می‌کنید، فعالانه از یکپارچگی گفتمان دموکراتیک دفاع می‌کنید.

چگونه یک ویدیوی دیپ‌فیک را تشخیص دهیم — تکنیک‌های بصری و صوتی برای شناسایی رسانه‌های مصنوعی را بیاموزید

چگونه صحت ویدیو را تأیید کنیم — فرآیند گام‌به‌گام برای تأیید اینکه آیا محتوای ویدیوی سیاسی واقعی است

چگونه Truvizy کلاهبرداری‌ها را تشخیص می‌دهد — چگونه تحلیل چندلایه مبتنی بر هوش مصنوعی دیپ‌فیک‌هایی را که انسان‌ها نمی‌توانند ببینند شناسایی می‌کند