В этой статье · 4 разделов
Простыми словами
Дипфейк - это цифровая маска, которую нейросеть надевает на чужое лицо или голос. Слово собрано из английских deep learning («глубокое обучение») и fake («подделка»).
Самая близкая бытовая аналогия - пародист с идеальным гримом. Только пародисту нужны годы тренировок, а нейросети хватает пары десятков фотографий или минуты записи голоса. На выходе получается видео, где человек говорит то, чего никогда не говорил, или голосовое сообщение, неотличимое от настоящего.
Технически это частный случай генеративного ИИ: та же логика, которая рисует картинки по промпту, здесь учится повторять конкретного человека.
Где это встречается на практике
Чаще всего дипфейки всплывают совсем не в нейросетях для работы, а в мошенничестве. Типичная схема: приходит голосовое в мессенджере от «сына» или «директора», который срочно просит перевести деньги. Голос похож, интонации похожи, и человек в панике не задумывается.
Второй частый сценарий - фальшивые ролики со знаменитостями, которые «рекламируют» инвестиционную платформу или раздачу денег. Их крутят в соцсетях и рекламе.
Есть и легальное применение. Кино омолаживает актёров, блогеры озвучивают ролики на другом языке своим голосом, приложения для смены лица в шутку вставляют вас в сцену из фильма. Граница проходит не по технологии, а по согласию человека и по тому, выдают ли результат за правду.
В обычных сервисах тема всплывает в правилах использования. ChatGPT, Gemini, Midjourney и другие генераторы картинок и видео запрещают выдавать сгенерированный контент с реальными людьми за настоящий, а часть запросов с известными политиками или публичными людьми просто отклоняют. Если модель отказалась рисовать узнаваемого человека, дело обычно в этом фильтре, а не в «тупости» нейросети.
Ещё одна практическая деталь: метки происхождения. OpenAI добавляет в картинки метаданные стандарта C2PA, Google встраивает невидимый водяной знак SynthID. Это помогает проверить файл, но после скриншота или пересохранения в мессенджере метаданные часто пропадают.
Типичная путаница и мифы
Миф первый: любая картинка из нейросети - дипфейк. Нет. Если вы нарисовали в Midjourney несуществующую девушку в стиле 80-х, это просто генерация. Дипфейк появляется, когда подделывают конкретного живого человека.
Миф второй: подделку всегда видно. Пару лет назад дипфейки выдавали шесть пальцев, плывущие зубы и странное моргание. Современные диффузионные модели такие ошибки делают всё реже, а с голосом всё ещё сложнее: в коротком голосовом сообщении зацепиться не за что. На наш взгляд, искать артефакты глазами сегодня почти бесполезно. Надёжнее проверять не картинку, а ситуацию.
Миф третий: есть сервис, который точно определит фейк. Детекторы существуют, но ошибаются в обе стороны: могут пропустить подделку и пометить настоящее фото как сгенерированное. Использовать их можно как одну из подсказок, не как приговор.
Что запомнить
- Дипфейк - подделка реального человека: лица, голоса или слов, а не любая ИИ-картинка.
- Главная опасность в быту - звонки и голосовые «от близких» с просьбой о деньгах. Положите трубку и перезвоните сами на знакомый номер.
- Договоритесь с родными о кодовом слове на экстренный случай. Звучит параноидально, но честно говоря, это самая дешёвая защита.
- Ролик со знаменитостью, которая обещает доход, почти наверняка фейк. Ищите новость в официальных источниках.
- Крупные нейросети запрещают выдавать сгенерированных реальных людей за настоящих. Если модель отказала, не пытайтесь её обойти: можно потерять аккаунт.
Если хотите проверить подозрительную картинку, начните с простого: где она впервые появилась, кто её опубликовал и пишут ли о том же событии другие источники. Это работает лучше любого детектора.