Было время, когда мы могли верить всему, что видели и слышали. К сожалению, те дни, вероятно, давно прошли. Генеративный ИИ (GenAI) сделал создание аудио- и видео-дипфейков доступным для всех, до такой степени, что сгенерировать поддельный клип так же просто, как нажать одну-две кнопки. Это плохая новость для всех, включая компании.
Дипфейки помогают мошенникам обходить проверки «Знай своего клиента» и аутентификацию учетных записей. Они даже позволяют злонамеренным государственным субъектам выдавать себя за соискателей на работу. Но, пожалуй, самая большая угроза, которую они представляют, — это мошенничество с финансовыми/банковскими переводами и взлом учетных записей руководителей.
Организации недооценивают угрозу дипфейков на свой страх и риск. Британское правительство утверждает, что в прошлом году было распространено до восьми миллионов синтетических клипов, по сравнению с всего 500 000 в 2023 году. Реальная цифра может быть гораздо выше.
Как работают атаки
Как показал эксперимент Джейка Мура, глобального консультанта по безопасности ESET, провести аудиоатаку с использованием дипфейков на вашу компанию стало проще простого. Для этого нужен лишь короткий клип с изображением жертвы, за которую собираются выдать себя. Остальное сделает GenAI. Вот как может проходить такая атака:
- Злоумышленник выбирает человека, за которого собирается выдать себя. Это может быть генеральный директор, финансовый директор или даже поставщик.
- Он находит аудиозапись в Интернете — что довольно легко для высокопоставленных руководителей, которые регулярно выступают публично. Она может быть взята из аккаунта в социальных сетях, отчета о финансовых результатах, видео- или телеинтервью или любого другого источника. Достаточно нескольких секунд записи.
- Затем выбирается человек, которому предстоит позвонить. Для этого может потребоваться некоторое исследование — обычно поиск сотрудников службы IT-поддержки или членов финансовой команды в LinkedIn.
- Они могут позвонить человеку напрямую или заранее отправить электронное письмо — например, генеральный директор с просьбой о срочном денежном переводе, запросом на сброс пароля или многофакторной аутентификации (MFA), или поставщик с требованием оплаты просроченного счета.
- Они звонят заранее выбранной цели, используя аудио-дипфейк, сгенерированный GenAI, чтобы выдать себя за генерального директора/поставщика. В зависимости от инструмента они могут придерживаться заранее написанного сценария или использовать более сложный метод «речь-в-речь», при котором голос злоумышленника переводится практически в реальном времени на голос жертвы.
Услышать — значит поверить
Этот тип атак становится дешевле, проще и убедительнее. Некоторые инструменты даже способны вставлять фоновый шум, паузы и заминки, чтобы поддельный голос звучал более правдоподобно. Они становятся гораздо лучше в имитации ритмов, интонации и вербальных тиков, уникальных для каждого говорящего. А когда атака осуществляется по телефону, слушателю может быть сложнее уловить сбои, связанные с ИИ.
Злоумышленники также могут использовать тактики социальной инженерии, например, оказывая давление на слушателя, чтобы тот срочно отреагировал на их запрос, с целью достижения своих целей. Еще один классический прием — убеждать слушателя сохранить запрос в тайне. Добавьте к этому тот факт, что они часто выдают себя за высшее руководство, и легко понять, почему некоторые жертвы попадаются на эту уловку. Кто же захочет попасть в немилость генерального директора?
Тем не менее, есть способы распознать мошенника. В зависимости от того, насколько сложна используемая ими GenAI, можно различить:
- Неестественный ритм речи говорящего
- Неестественно ровный эмоциональный тон голоса говорящего
- Неестественное дыхание или даже предложения, произносимые на одном дыхании
- Необычно роботизированный звук (когда используются менее продвинутые инструменты)
- Фоновый шум, который либо странно отсутствует, либо слишком однообразен
Время дать отпор
Причина, по которой злоумышленники уделяют все больше времени подобным мошенничествам, проста: потенциальная выгода. Предостерегающие истории неуклонно накапливаются. Один из самых крупных промахов произошел еще в 2020 году, когда сотрудника компании в ОАЭ обманом заставили поверить, что его директор позвонил, чтобы запросить перевод средств в размере 35 млн долларов для сделки по слиянию и поглощению.
Учитывая, что за прошедшие шесть лет технология дипфейков значительно усовершенствовалась, стоит еще раз рассмотреть некоторые ключевые меры, которые можно принять, чтобы свести к минимуму вероятность реализации наихудшего сценария.
Начать следует с обучения и информирования сотрудников. Эти программы должны быть обновлены с включением аудиосимуляций с использованием технологии deepfake, чтобы сотрудники знали, чего ожидать, что поставлено на карту и как действовать. Их следует научить распознавать характерные признаки социальной инженерии и типичные сценарии с использованием технологии deepfake, такие как описанные выше. Необходимо проводить учения с участием «красной команды», чтобы проверить, насколько хорошо сотрудники усваивают эту информацию.
Далее следует процесс. Рассмотрите следующее:
- Внеканальная проверка любых запросов по телефону — т. е. использование корпоративных учетных записей для обмена сообщениями, чтобы независимо проверить информацию у отправителя
- Подписание любых крупных финансовых переводов или изменений банковских реквизитов поставщика двумя лицами
- Заранее согласованные пароли или контрольные вопросы, на которые руководители должны ответить, чтобы подтвердить по телефону свою личность
Технологии также могут помочь. Существуют инструменты обнаружения, позволяющие проверять различные параметры на наличие синтетического голоса. Более сложным, но возможным вариантом действий было бы ограничить возможности злоумышленников получить аудиозаписи, сократив публичные выступления руководителей.
Люди, процессы и технологии
Однако суть в том, что дипфейки просты в создании и обходятся недорого. Учитывая потенциально огромные суммы, которые могут получить мошенники, вряд ли мы увидим конец мошенничеству с клонированием голоса в ближайшее время. Поэтому трехсторонний подход, основанный на людях, процессах и технологиях, является лучшим вариантом для вашей организации по снижению риска.
После утверждения плана не забывайте регулярно пересматривать его, чтобы он оставался актуальным, даже несмотря на развитие инноваций в области искусственного интеллекта. Новая ситуация с кибермошенничеством требует постоянного внимания.