Технология дипфейков переместилась из исследовательских лабораторий в потребительские приложения. В «Докладе о глобальных рисках» Всемирного экономического форума за 2024 год дезинформация, созданная ИИ, была отнесена к числу главных краткосрочных рисков — отмечалась скорость, с которой стали доступны как видео-, так и голосовые клоны. Хорошая новость: обнаружение тоже улучшилось, а очевидные признаки — хотя их становится всё меньше — по-прежнему выдают большинство небрежных подделок.
Это руководство рассказывает, на что смотреть в изображении, что слушать в звуке и какие бесплатные инструменты заслуживают вашего времени.
Видеодипфейк — визуальные признаки
Рассинхрон губ
Форма рта, которая не вполне соответствует согласным — особенно звукам «п», «б», «м», при которых на настоящем видео губы заметно смыкаются.
Неестественное моргание
Либо слишком редкое моргание (у старых моделей замены лица), либо идеально метрономичное. Настоящее моргание нерегулярно.
Несовпадающее освещение
Лицо освещено под другим углом, чем комната за ним. Частый артефакт конвейеров замены лица, которые не пересвечивают вставленное лицо.
Края вдоль линии волос и челюсти
Лёгкое размытие, сдвиг цвета или искажение там, где синтетическое лицо соединяется с исходной головой — заметно, если поставить на паузу и приблизить.
Отражения в зубах и глазах
Зубы, которые выглядят как единый сросшийся ряд; глаза, отражения в которых не соответствуют реальной обстановке освещения.
Голосовой дипфейк — звуковые признаки
Плоская интонация
Клоны голоса часто упускают микропаузы, вдохи и вариации высоты тона настоящей речи, из-за чего звучат неестественно гладко.
Несовпадение фоновой акустики
Голос звучит «сухо» (студийно чисто), тогда как на видео показана улица или гулкое помещение.
Непоследовательное дыхание
Настоящие говорящие делают вдохи между фразами. Многие клоны голоса опускают или неправильно размещают звуки дыхания.
Инструменты обнаружения, которые стоит попробовать
Intel FakeCatcher
Обнаруживает в пикселях сигналы кровотока (PPG), которые присутствуют в настоящем видео и обычно не воспроизводятся в дипфейках.
Sensity AI
Коммерческий мониторинг дипфейков, используемый медиаорганизациями и платформами. Доступна бесплатная демоверсия для отдельных проверок.
Microsoft Video Authenticator
Выпущен к выборам в США 2020 года, ориентирован на обнаружение едва заметного затухания и артефактов в оттенках серого в видео с заменой лица.
Deepware Scanner
Бесплатный, удобный для мобильных устройств инструмент, который сканирует загружаемые видео или URL-адреса на наличие признаков дипфейка.
AI or Not (аудио)
Ориентирован на обнаружение клонов голоса. Полезен для коротких подозрительных аудиоклипов, циркулирующих в мессенджерах.
Что делать, если вы подозреваете дипфейк
Сначала сообщите об этом платформе, которая его размещает, — у каждой крупной платформы (YouTube, TikTok, X, Meta, WhatsApp) есть политика в отношении синтетического контента и форма для жалоб. В случае интимных дипфейков без согласия пилотный проект StopNCII.org принимает заявки и работает с платформами над удалением контента. В случае политических или связанных с выборами дипфейков правильный следующий шаг — фактчекеры в вашей стране, подписавшие кодекс IFCN.
И ещё: не делайте репост, чтобы опровергнуть. Повторная загрузка дипфейка, чтобы показать, что он фальшивый, только усиливает его распространение. Опишите его, дайте ссылку на фактчекинг и дайте оригиналу потерять охват.
Посмотрите на дипфейки, которые уже в обороте
Лента ИИ-подделок FAXTR каталогизирует подтверждённые видео- и голосовые дезинформации, созданные ИИ и отслеживаемые фактчекерами по всему миру.