Урок 6 из 8 · 15 мин · обновлено

Дипфейки и мошенники с нейросетями

Как мошенники используют нейросети: подделка голоса родственника, видеосообщения «от начальника», поддельные видео знаменитостей. Как распознать подделку и почему семье нужно кодовое слово.

Что умеют нейросети

Современные нейросети могут:

  • подделать голос человека по нескольким секундам записи — например, из видео в соцсетях или голосового сообщения;
  • подделать лицо на видео — так, что человек на экране двигает губами и говорит то, чего никогда не говорил;
  • написать сообщение в стиле конкретного человека, если есть его переписка.

Такие подделки называют дипфейками. Раньше это требовало специалистов, теперь — доступно мошенникам. Как работают нейросети в целом — в курсе «Нейросети для работы».

Главный вывод: знакомый голос или лицо больше не доказательство, что с вами говорит именно этот человек.

Схемы с дипфейками

«Родственник в беде» с поддельным голосом. Звонит «сын» или «внучка» — голос очень похож, говорит сбивчиво, плачет: «попал в аварию», «задержали», «нужны деньги срочно». Иногда потом трубку берёт «следователь» или «адвокат».

«Фейковый начальник». Мошенники взламывают или подделывают аккаунт руководителя в мессенджере и пишут сотрудникам. Иногда присылают видеосообщение с лицом и голосом начальника: «С тобой свяжется сотрудник ФСБ, помоги ему, это конфиденциально». Дальше — классическая схема с «безопасным счётом».

Видео знаменитостей. Известный человек «рекламирует» инвестиции, розыгрыш или «государственную выплату». Это подделка: ссылка ведёт на мошеннический сайт.

Как распознать

Подделки становятся всё лучше, поэтому полагаться на «я бы заметил» нельзя. Иногда выдают:

  • странные паузы, неестественная интонация, повторы;
  • размытые губы, странное моргание, «плавающее» лицо на видео;
  • плохая связь «как назло» — так маскируют огрехи подделки.

Но главные признаки те же, что у любого мошенничества: срочность, секретность и деньги. Если они есть — проверяйте, как бы убедительно ни выглядел собеседник.

Защита: кодовое слово и обратный звонок

Обратный звонок. Прервите разговор и свяжитесь с человеком сами — по номеру, который у вас записан. Начальнику — по рабочему телефону, родственнику — по его обычному номеру или через тех, кто рядом с ним.

Кодовое слово. Договоритесь в семье о слове или вопросе, ответ на который знают только свои и которого нет в соцсетях и переписке. Например: «Как звали собаку у бабушки в деревне?» — с ответом, который никто не знает. Если «родственник» просит деньги, спросите кодовое слово. Мошенник с поддельным голосом его не знает.

Меньше голоса в открытом доступе. Подумайте, нужны ли в открытых соцсетях видео, где много вашего голоса, — особенно у детей и пожилых родственников.

Попробуйте сами. Договоритесь с семьёй о кодовом слове или вопросе. Расскажите пожилым родственникам о подделке голоса — простыми словами, с примером.

Как объяснить простыми словами

«Сейчас есть программы, которые могут говорить чужим голосом — моим или внука. Мошенники звонят таким голосом и просят срочно деньги. Голос будет похож, может плакать. Если кто-то звонит и просит деньги — даже моим голосом — положи трубку и перезвони мне на мой номер. Или спроси наше кодовое слово. Если не ответит — это обман».

Кодовое слово:

  • не дата рождения и не кличка нынешнего питомца — их легко узнать;
  • не пишите его в общем семейном чате;
  • можно записать на бумаге и хранить дома.

Мини-тест: проверьте себя

Закрепите урок: несколько вопросов, разбор ответов — в конце.

  1. Звонит голос, очень похожий на голос дочери: «Мам, я в беде, срочно переведи деньги». Как поступить?

  2. Начальник присылает в мессенджере видеосообщение: «Скоро позвонят из ФСБ, помоги им». Что это может быть?

  3. Зачем семье кодовое слово?