Что такое дипфейк?

В данном материале разберёмся, что такое дипфейки, зачем они нужны, как они могут использоваться со злым умыслом и как могут при этом навредить, как производятся дипфейки и насколько это сейчас легко при использовании нейросетей.

Дипфейки — что это такое?

Дипфейки (от англ. «deepfakes») — это аудио- или видеоматериалы, сгенерированные при помощи технологий искусственного интеллекта и машинного обучения, в которых исходные образы, голоса или мимика людей подделываются настолько реалистично, что нередко их практически невозможно отличить от настоящих. Термин «deepfake» образован сочетанием понятий «deep learning» (глубинное обучение) и «fake» (подделка), что отражает суть технологии: создание реалистичных фальсификаций с применением алгоритмов глубокого обучения.

Первоначально исследования в области дипфейков были направлены на задачи компьютерного зрения, включающие распознавание лиц, морфинг изображений и замену одних лиц другими. Развитие нейронных сетей, особенно генеративно-состязательных сетей (GAN), позволило «учить» модель на большом количестве изображений или видеороликов конкретного человека, чтобы затем «перенести» его лицо, мимику и жесты на совершенно иной видеоряд. Аналогично работают и технологии синтеза речи: на основе записей голоса обученная модель может генерировать аудиоролики, в которых голос человека произносит фразы, которых тот никогда не говорил.

Дипфейк. Иллюстрация из открытых источников

Использование технологии Deepfake.

Применения у подобных технологий могут быть достаточно широкими и не всегда несут в себе злой умысел. Например:

• Кинопроизводство и индустрия развлечений. При создании визуальных эффектов, омоложении или «воскрешении» актёров, компьютерных дублёров для сложных сцен.
• Аудиовизуальное искусство и креативные проекты. Художники и дизайнеры используют дипфейки для нетривиальных художественных экспериментов.
• Обучение и образование. Возможность создать реалистичные исторические реконструкции, в которых известные личности прошлого «говорят» с аудиторией.

Deepfake. Замена лица

Использование со злым умыслом и потенциальный вред.

Несмотря на наличие положительных примеров, главная проблема дипфейков заключается в возможности их применения в криминальных, политических и иных деструктивных целях. К наиболее опасным относятся:

• Политические манипуляции и дезинформация. Злоумышленники могут создать видеозапись, в которой известный политик произносит скандальные или провокационные заявления. Такие материалы способны дестабилизировать общество, влиять на исход выборов и запугивать граждан.
• Кибербуллинг и репутационный ущерб. Использование дипфейков для порочащих роликов о публичных или частных личностях может нанести непоправимый вред репутации человека, заставить его испытывать моральный дискомфорт или даже привести к профессиональным и личным потерям.
• Мошенничество и вымогательство. Применение технологий синтеза голоса для «звонков» от имени руководителей компаний с целью перевести средства мошенникам, либо создание фейковых видеообращений начальников к сотрудникам, склоняющих их к нежелательным действиям.
• Порнографические дипфейки. Подделки интимного характера с реальными лицами без их согласия могут стать инструментом шантажа или причинить существенный психологический ущерб жертвам.

Как делаются дипфейки?

Основой создания дипфейков являются алгоритмы машинного обучения, в частности генеративно-состязательные сети (GAN). Процесс обычно включает несколько этапов:

1. Сбор данных. Необходим обширный набор изображений или видеоматериалов с лицом или голосом нужного человека. Чем больше данных, тем реалистичнее итоговая подделка.
2. Обучение модели. На этом этапе нейросеть анализирует особенности внешности (форму лица, мимику, повороты головы, игру света и тени) или звучание голоса (тембр, ритм, интонация).
3. Генерация подделки. Уже обученная модель «накладывает» образ целевой персоны на другую запись (видео, аудио), пытаясь добиться максимально реалистичного результата.
4. Постобработка. Добавляются дополнительные фильтры, корректируются цвета, свет и звук, чтобы итоговый материал стал ещё более правдоподобным.

Существуют уже готовые инструменты для создания дипфейк-видео, аудио и даже онлайн-трансляций.

Deepfake. Замена лица

Насколько это легко сейчас, с учётом развития нейросетей?

Ранее создание дипфейков было сложным технологическим процессом, требовавшим дорогостоящего оборудования, больших объёмов данных и знаний в области машинного обучения. Сегодня же ситуация изменилась. Появились удобные и доступные для широкой публики инструменты, позволяющие создавать подделки без особых технических навыков. Программное обеспечение стало более дружелюбным, существуют онлайн-сервисы, готовые генерировать фейковые видео и аудио за считаные минуты. Эффект масштаба и развитие «облачных» технологий дают возможность запускать тяжёлые вычислительные задачи на удалённых серверах, не покупая дорогую аппаратуру.

Для профессионалов доступность инструментов ведёт к совершенствованию качества, а для злоумышленников — к упрощению процесса создания убедительных подделок. С каждым годом растёт количество разработок, способных обнаруживать дипфейки, распознавать артефакты, несоответствия мимики или микровыражения, а также изучать особенности «цифровых отпечатков» поддельных материалов. Однако гонка между создателями дипфейков и их детекторами продолжается, а простота и относительная дешевизна создания подделок заставляют общество и экспертов всё серьёзнее относиться к этому вопросу.

Краткие итоги.

Дипфейки — это мощный технологический инструмент, имеющий широкий спектр применения, от искусства и киноиндустрии до образования и развлечений. Однако в руках злоумышленников они становятся средством дезинформации, манипуляции общественным мнением и нанесения репутационного ущерба. С развитием технологий машинного обучения создавать дипфейки становится всё проще, что усложняет борьбу с этим явлением. Необходим комплексный подход, сочетающий правовое регулирование, технологические инструменты обнаружения и просвещения граждан, чтобы минимизировать негативные последствия этой быстроразвивающейся технологии.