«Знакомое лицо и голос — не подтверждение личности»: мошенники научились обманывать новгородцев с помощью искусственного интеллекта

Искусственный интеллект позволяет подменять лица и голоса, изменять содержание реальных видеозаписей и создавать видимость событий, которых никогда не было. Такие дипфейки используют для финансового мошенничества, распространения дезинформации и репутационных атак. Как устроены технологии подделки видео, по каким признакам можно заподозрить фальсификацию и как проверить подлинность записи, рассказал Артём Аникеев, основатель компании «РТ Системс».

От подмены лица до вымышленного события: какие бывают дипфейки

Дипфейками называют синтетические или измененные с помощью искусственного интеллекта изображения, аудио- и видеоматериалы, которые позволяют имитировать внешность, голос или действия реального человека. Степень вмешательства в исходную запись может быть разной: от изменения нескольких деталей до создания целой сцены с нуля.

Один из самых распространенных видов дипфейков — замена лица. В настоящем видео лицо одного человека заменяют лицом другого, например политика, предпринимателя или руководителя компании. При этом тело, обстановка и большая часть изображения остаются подлинными. Именно сочетание реальной съемки и искусственно измененного фрагмента делает такую подделку убедительной. Сейчас уже технологии позволяют моделировать подмену лица в реалтайме: например, во время звонка в Zoom.

Другой вариант — изменение мимики и движений губ. Лицо человека на оригинальной записи может остаться прежним, но искусственный интеллект меняет артикуляцию так, чтобы казалось, будто он произносит другие слова. Если добавить синтетическую звуковую дорожку, настоящее интервью или обращение превращается в высказывание, которого в действительности не было.

Отдельную категорию составляют аудиодипфейки — подделки голоса. Нейросети способны воспроизводить характерные особенности речи: тембр, произношение и интонации. Получившийся голос можно использовать в телефонном разговоре, голосовом сообщении или видеоролике. Поэтому знакомый голос в мессенджере больше не гарантирует, что сообщение действительно отправил близкий человек или коллега.

Еще одна технология — «оживление» фотографий и создание цифровых двойников. Статичный портрет превращают в видео, добавляя движения головы, мимику и речь. Более сложные системы позволяют создавать новые сцены с цифровым образом человека, включая речь и звуковое сопровождение.

Наконец, существуют полностью синтетические и гибридные видео. В первом случае нейросеть генерирует сцену целиком: людей, окружающую обстановку, движения камеры, а иногда и диалоги. Так можно изобразить несуществующее выступление, встречу или происшествие. Гибридная подделка, напротив, сочетает настоящие и искусственные элементы: реальные кадры дополняют сгенерированными, меняют лицо, корректируют движения губ или добавляют клонированный голос.

Качество современных подделок сильно различается. Лучшие образцы могут выглядеть убедительно при обычном просмотре, особенно если ролик короткий, демонстрируется на экране смартфона и содержит знакомое лицо в правдоподобной обстановке. Однако утверждать, что любой дипфейк невозможно отличить от настоящей записи, было бы преувеличением.

По словам Артёма Аникеева, важно понимать, что не всякое ложное видео является дипфейком. Иногда настоящую запись просто обрезают, снабжают неверной подписью или выдают за другое событие. Для проверки таких материалов нужны разные подходы.

Как дипфейки используют мошенники

Главная опасность дипфейков в том, что они позволяют присвоить чужое доверие. Знакомое лицо или голос могут стать решающим аргументом в ситуации, когда человек торопится, испытывает страх или не ожидает обмана.

Один из наиболее опасных сценариев — подмена руководителя или представителя государственных органов. Сотруднику присылают видео или голосовое сообщение якобы от начальника с требованием срочно перевести деньги, передать документы или выполнить поручение в обход обычных процедур. Дипфейк дополняет классические приемы социальной инженерии: авторитет собеседника, давление временем и требование сохранять секретность.

Второй сценарий — массовые финансовые ловушки. Мошенники используют поддельные обращения знаменитостей, предпринимателей или представителей банков, чтобы рекламировать несуществующие инвестиционные проекты, выплаты и услуги по возврату денег. Ролик привлекает внимание, после чего потенциальную жертву переводят на фальшивый сайт или связывают с «менеджером», который убеждает внести средства.

Третий сценарий — дезинформация и манипуляции с новостями. В видео публичному человеку приписывают заявление, которого он не делал, или показывают несуществующее событие. В подобных случаях ложное сообщение получает дополнительный вес за счет узнаваемого лица и официального контекста.

Наконец, дипфейки применяют для репутационных атак и шантажа. Человека могут изобразить произносящим оскорбления, признающимся в нарушениях или участвующим в компрометирующей сцене. Особую угрозу представляют поддельные интимные материалы. Даже после опровержения публикация может нанести ущерб репутации и отношениям с окружающими.

«Дипфейк часто становится самым убедительным звеном многоходового обмана. Сначала человека готовят перепиской, звонками и правдоподобной легендой, а затем показывают знакомое лицо или дают услышать знакомый голос — и тем самым снимают последние сомнения», — объясняет Артём Аникеев.

Как распознать подделку: на что обращать внимание

Универсального визуального признака, который безошибочно выдавал бы дипфейк, не существует. Тем не менее некоторые детали могут стать поводом для более тщательной проверки.

Начать стоит с лица и его поведения в движении: подозрение могут вызвать внезапные изменения контуров лица, зубов, очков или украшений при повороте головы. Иногда заметны неестественные переходы между лицом и шеей, странное поведение теней или отражений. Стоит также проверить, не меняется ли форма предметов на заднем плане и не возникают ли визуальные искажения, когда человек проводит рукой перед лицом.

Еще один ориентир — согласованность мимики и речи. Например, губы могут двигаться не вполне синхронно со звуком, а выражение лица — плохо соответствовать произносимым словам. В аудиодорожке иногда встречаются неестественные паузы, необычные ударения, резкие изменения тембра или интонации, не соответствующие смыслу фразы.

Но такие особенности не всегда доказывают использование ИИ. Рассинхронизация звука и изображения может возникнуть при передаче видео, а артефакты на лице — появиться из-за сжатия файла или обработки изображения. И наоборот: качественная подделка может не иметь заметных дефектов.

Главное правило: отсутствие визуальных искажений не подтверждает подлинность видео. Если запись содержит важное заявление, просьбу о деньгах или информацию, способную повлиять на решения людей, проверять нужно не только изображение, но и происхождение материала.

Краткий алгоритм проверки видео:

Найти первоисточник. Кто первым опубликовал запись? Есть ли полная версия на официальном ресурсе человека или организации? Можно ли связаться с автором через независимо найденные контакты?

Проверить событие. Подтверждаются ли место, время и содержание другими независимыми источниками? Несколько каналов, перепечатавших один ролик, не являются несколькими подтверждениями.

Найти более ранние публикации. Обратный поиск по отдельным кадрам может показать, что видео старое, обрезанное или снабжено ложной подписью.

Получить исходный файл. Он даёт больше возможностей для технической экспертизы, чем запись экрана или многократно пересланная копия.

Использовать технические инструменты с учётом их назначения. Проверка происхождения файла, анализ голоса, обнаружение замены лица и выявление полностью сгенерированного видео решают разные задачи.

Как защититься от дипфейков: правила для бизнеса и обычных пользователей

Для компаний важнее всего не пытаться распознать каждую подделку на глаз, а выстроить процедуры, которые не позволят мошенникам воспользоваться доверием к руководству.

Перевод денег, изменение реквизитов контрагента, передача конфиденциальных документов и предоставление доступа должны подтверждаться через независимый канал связи. Например, сотрудник может самостоятельно перезвонить руководителю по заранее сохраненному номеру, а крупный платеж — дополнительно согласовать со вторым уполномоченным лицом.

При этом важно разрешить сотрудникам приостанавливать сомнительные поручения, даже если они якобы поступили от высшего руководства. Требования срочно перевести деньги, никому не сообщать о разговоре или обойти стандартное согласование должны, наоборот, запускать дополнительную проверку.

Обычным пользователям стоит придерживаться простого правила: знакомое лицо и узнаваемый голос — больше не достаточное подтверждение личности. Если близкий человек неожиданно просит денег, сообщает о чрезвычайной ситуации или требует срочно передать код, прервите разговор и самостоятельно свяжитесь с ним по известному номеру. Подозрительное заявление публичного лица сначала проверьте в его официальных каналах и надежных СМИ.

«Развитие генеративного ИИ делает подделки доступнее, но не отменяет базовых принципов цифровой безопасности. Чем убедительнее выглядит сообщение и чем сильнее оно подталкивает к немедленным действиям, тем важнее остановиться и перепроверить информацию», — напоминает Артём Аникеев.

Защита от дипфейков начинается не с попытки угадать, где ошиблась нейросеть, а с привычки не принимать важные решения на основании одного видео или голосового сообщения.