Ведущие новостей, созданные искусственным интеллектом: новое лицо дезинформации

В вашей ленте социальных сетей появится изысканный новостной сегмент. Профессионально выглядящий ведущий сидит за студийным столом, украшенный графикой нижней трети, логотипом в стиле сети и визуальным языком тележурналистики, который вы видели всю свою жизнь. Ведущий сообщает последние новости о крупном корпоративном скандале, геополитическом кризисе или предупреждении общественного здравоохранения. Сегмент выглядит вполне законным. Но якоря не существует. Студия не существует. И история выдумана от первого слова до последнего.

Ведущие новостей, генерируемые искусственным интеллектом, представляют собой одну из самых изощренных форм дезинформации, появившихся в последние годы. Воспроизводя проверенный формат телевизионных новостей, эти синтетические передачи используют десятилетия обусловленного доверия к визуальному языку журналистики. Понимание того, как они работают, кто их создает и как их идентифицировать, имеет решающее значение для всех, кто потребляет новости по цифровым каналам.

Расцвет синтетических новостей

Концепция презентаторов, созданных искусственным интеллектом, возникла в законных контекстах. Несколько азиатских информационных агентств начали экспериментировать с раскрываемыми якорями ИИ для рутинного контента, такого как сводки погоды и финансовые сводки, еще в 2023 году. Эти приложения прозрачно говорили о синтетической природе ведущего и служили практическим целям, таким как круглосуточная генерация контента без усталости человека.

Вредоносная адаптация была предсказуемой. Если вы можете создать убедительного ведущего новостей, передающего достоверные сводки погоды, та же технология может создать убедительного ведущего, передающего полностью сфабрикованные истории. Преступные организации и спонсируемые государством операции по оказанию влияния быстро осознали потенциал. К 2025 году исследователи выявили десятки каналов фейковых новостей, полностью работающих с ведущими, созданными искусственным интеллек��ом, производящими контент на нескольких языках и распространяющими его по платформам социальных сетей по всему миру.

Что делает это особенно опасным, так это масштабируемость. Традиционная операция по дезинформации с участием реальных людей является дорогостоящей, рискованной и ограничена наличием желающих участвовать. Синтетический отдел новостей может круглосуточно генерировать неограниченное количество контента на любом языке с незначительными предельными затратами. Экономика дезинформации фундаментально изменилась.

Как создаются фейковые новости

Создание убедительной трансляции фейковых новостей включает в себя несколько многоуровневых технологий. Лицо и тело ведущего создаются с использованием того же типа систем искусственного интеллекта, которые используются в исследованиях по созданию лиц, создавая фотореалистичного человека, которого никогда не существовало. Голос синтезируется с использованием моделей преобразования текста в речь, обученных имитировать ритм, тон и стиль речи реальных ведущих новостей. Технология синхронизации губ сопоставляет генерируемые движения рта с синтезированной речью.

Производственная упаковка не менее важна. Операторы создают студийные фоны, графику нижней трети, прокрутку бегущей строки и сетевые логотипы, которые имитируют визуальные условности реальных новостей вещания. Некоторые операции даже создают целые вымышленные новостные сети с веб-сайтами, профилями в социальных сетях и архивами контента, чтобы обеспечить видимую легитимность. Презентация разработана таким образом, чтобы у человека, встретившего один-единственный клип в социальных сетях, не было непосредственной причины сомневаться в его происхождении.

Заметили подозрительный новостной ролик в социальных сетях? Мгновенно просканируйте его на наличие манипуляций с ИИ.

Масштабная дезинформация, спонсируемая государством

Исследовательские группы в крупных университетах и ​​аналитических центрах документировали спонсируемые государством операции, используя генерируемые искусственным интеллектом ведущие новостей для продвижения геополитических повествований. Эти операции создают контент, ориентированный на иностранную аудиторию, на их родных языках, распространяя повествования, соответствующие стратегическим интересам государства-спонсора. Содержание варьируется от тонкого оформления реальных событий до откровенной фабрикации пр��исшествий, которых никогда не было.

Сложность этих операций выходит за рамки самого видеоконтента. Их поддерживают сети фейковых аккаунтов в социальных сетях, которые делятся и распространяют контент, оптимизированные для SEO веб-сайты, на которых размещаются клипы вместе с другими, казалось бы, законными статьями, а также скоординированное время, которое согласовывает выпуск контента с реальными событиями, чтобы максимизировать правдоподобие. Это создает экосистему, в которой синтетический новостной ролик встречается в контексте, созданном для того, чтобы он выглядел заслуживающим доверия.

Особое беспокойство вызывает пересечение с политическими дипфейковыми операциями . Синтетическая новостная трансляция может использоваться для «репортажа» о фейковом видео политика, создавая многоуровневый обман, когда сегмент фейковых новостей придает достоверность фейковым политическим кадрам и наоборот. Такой многоуровневый подход значительно усложняет разоблачение дезинформации, поскольку каждый сфабрикованный элемент, похоже, подтверждается независимо.

Как распознать дипфейковое видео — Методы визуального и звукового обнаружения, которые вы можете использовать прямо сейчас

Распространение через социальные сети

Трансляции фейковых новостей специально созданы для распространения в социальных сетях. Продолжительность клипов сокращается до 30-90 секунд, что является оптимальной продолжительностью для взаимодействия на таких платформах, как TikTok, Instagram Reels и YouTube Shorts. Они включают в себя привлекающие внимание заголовки, наложенные на видео, и загружаются с описаниями, насыщенными ключевыми словами, предназначенными для отображения в алгоритмах поиска и рекомендаций платформы.

Стратегия распространения часто нацелена на конкретные демографические группы и группы по интересам с помощью инструментов рекламы на платформе или скоординированного обмена информацией в соответствующих группах сообщества. Фальшивый сегмент новостей о здоровье может распространяться через оздоровительные группы на Facebook. Сфабрикованный ролик финансовых новостей может появиться в инвестиционных сообществах на Reddit. Таргетинг гарантирует, что контент достигнет аудитор��и, которая предрасположена интересоваться его повествованием и находится под его влиянием, во многом аналогично целевому подходу, используемому в мошенничестве с фейковыми инвестициями знаменитостей .

Визуальные подсказки о якорях, созданных ИИ

Несмотря на свою изощренность, ведущие новостей, созданные ИИ, по-прежнему демонстрируют характерные признаки, отличающие их от реальных людей. Наиболее последовательным признаком является ограниченный диапазон выражения. Настоящие ведущие новостей демонстрируют тонкую микромимику: слегка приподнимают брови для выразительности, едва заметные хмурые взгляды во время серьезных сюжетов, естественные изменения в позе. Якоря, созданные ИИ, имеют тенденцию иметь более е��инообразное, контролируемое выражение, в котором отсутствуют эти вариации на микроуровне.

Модели движения являются еще одним индикатором. Реальные люди меняют места, меняют позу, естественно жестикулируют и иногда отводят взгляд от камеры. Синтетические якоря обычно сохраняют неестественно постоянную позу, а движения головы кажутся слегка механическими и повторяющимися. Руки часто спрятаны или оставлены неподвижными, потому что естественные жесты рук по-прежнему трудно убедительно воспроизводить моделям поколения.

Голос дает дополнительные подсказки. Хотя синтез голоса ИИ значительно улучшился, обратите внимание на слегка плоское качество тона, которому не хватает естественных просодических вариаций человеческой речи. Настоящие ведущие корректируют свой тон, темп и акцент в зависимости от эмоционального контекста. Голоса ИИ часто сохраняют более единообразную передачу, особенно во время переходов между различными эмоциональными регистрами, например, при переходе от трагической истории к более легкому сегменту чело��еческих интересов. Подробные методы визуального обнаружения см. в нашем подробном руководстве по обнаружению дипфейков .

Законные презентаторы с искусственным интеллектом против вредоносных фейков

Не все презентаторы, созданные ИИ, являются вредоносными. Ключевым различием является раскрытие информации и намерение. Законное использование четко обозначает ведущего как созданного искусственным интеллектом, работает в соответствии с редакционными стандартами признанных новостных организаций и служит практическим целям, таким как продление часов освещения или создание доступного контента на нескольких языках. Злонамеренное использование не раскрывается, действу��т вне каких-либо редакционных рамок и предназначено для того, чтобы обмануть зрителей, заставив их поверить, что они смотрят реальную журналистику, освещающую реальные события.

При оценке новостного ролика проверьте, существует ли вещательная организация как признанная новостная организация. Найдите название сети, имя ведущего и конкретную историю, о которой сообщается. Если клип существует только в социальных сетях и не имеет соответствующего освещения в каком-либо известном новостном издании, к нему следует относиться с крайним подозрением, независимо от того, насколько профессионально он выглядит.

Методы обнаружения контента AI — Инструменты и методы для идентификации медиа, созданных ИИ

Защитите себя от синтетических новостей

Самая эффективная защита от синтетического новостного контента, это проверка по нескольким источникам. Прежде чем поверить или поделиться каким-либо новостным роликом, обнаруженным в социальных сетях, проверьте, сообщается ли об одной и той же истории в нескольких авторитетных независимых новостных организациях. Если предположительно важная история появляется только в одном ролике в социальных сетях, она почти наверняка сфабрикована.

Используйте бесплатный инструмент анализа видео от Truvizy для сканирования подозрительных новостных роликов. Система обнаружения на базе искусственного интеллекта анализирует видео на наличие артефактов генерации, согласованности лиц, аудиовизуальной синхронизации и других сигналов, которые отличают синтетический контент от отснятого на камеру материала. Несколько секунд анализа могут помешать вам поделиться дезинформацией со всей вашей социальной сетью.

Вашей организации необходим систематический мониторинг синтетических СМИ?

Для средств массовой информации, групп по проверке фактов и исследователей, регулярно сталкивающихся с синтетическим новостным контентом, профессиональные планы Truvizy предлагают возможности объема, детализации и документирования, необходимые для систематического мониторинга синтетических СМИ. В эпоху, когда целые редакции новостей можно создавать одним нажатием кнопки, возможность быстро и надежно проверять подлинность СМИ не является роскошью. Это необходимость для любой организации, которая ценит истину.

Опасности синтетических носителей — Как контент, созданный искусственным интеллектом, меняет доверие к цифровым медиа