Искусственный интеллект (ИИ) творит чудеса для многих компаний. Он помогает автоматизировать рутинные задачи, повышая эффективность и снижая затрахи. Он ускоряет обслуживание клиентов и написание кода. И он помогает находить инсайты для принятия более взвешенных бизнес-решений. Еще в октябре 2023 года Gartner оценил, что 55% организаций находились на стадии пилотирования или внедрения генеративного ИИ (GenAI). Сегодня эта цифра, несомненно, выше.
Однако преступные организации также внедряют инновации с помощью этой технологии, и это плохие новости для IT-специалистов и руководителей бизнеса во всем мире. Чтобы справиться с этой растущей угрозой мошенничества, вам нужен многоуровневый подход, ориентированный на людей, процессы и технологии.
Последние угрозы ИИ и дипфейков
Киберпреступники используют возможности ИИ и дипфейков несколькими способами. Среди них:
- Фальшивые сотрудники: Сотни компаний, по сообщениям, были взломаны северокорейцами, выдававшими себя за удаленных IT-фрилансеров. Они используют инструменты ИИ для составления фальшивых резюме и поддельных документов, включая изображения, обработанные ИИ, чтобы пройти проверку биографии. Конечная цель — заработать деньги для передачи северокорейскому режиму, а также кража данных, шпионаж и даже ransomware.
- Новый вид BEC-мошенничества: Аудио- и видеоклипы с дипфейками используются для усиления мошенничества типа business email compromise (BEC), когда финансовых работников обманом заставляют переводить корпоративные средства на счета, контролируемые мошенником. В одном недавнем печально известном случае финансового работника убедили перевести $25 миллионов мошенникам, которые использовали дипфейки, чтобы выдавать себя за финансового директора компании и других сотрудников во время видеоконференции. Впрочем, это не новость — еще в 2019 году руководитель британской энергетической компании был обманут и перевел £200 000 мошенникам после разговора с дипфейк-версией своего начальника по телефону.
- Обход аутентификации: Дипфейки также используются для того, чтобы мошенники могли выдавать себя за легитимных клиентов, создавать новые личности и обходить проверки аутентификации при создании учетных записей и входе в систему. Одна особенно изощренная программа, GoldPickaxe, предназначена для сбора данных распознавания лиц, которые затем используются для создания дипфейк-видео. Согласно одному отчету, 13,5% всех глобальных открытий цифровых счетов за прошлый год были подозрительны на предмет мошеннической деятельности.
- Мошенничество с дипфейками: Киберпреступники также могут использовать дипфейки менее целенаправленно, например, выдавая себя за генеральных директоров компаний и других известных личностей в социальных сетях, для продвижения инвестиционных и других мошеннических схем. Как продемонстрировал Джейк Мур из ESET, теоретически любой руководитель компании может стать жертвой подобным образом. Аналогично, как описано в последнем отчете ESET о угрозах, киберпреступники используют дипфейки и сообщения в социальных сетях с брендингом компаний, чтобы заманить жертв в рамках нового типа инвестиционного мошенничества под названием Nomani.
- Взлом паролей: Алгоритмы ИИ могут использоваться для взлома паролей клиентов и сотрудников, что приводит к краже данных, ransomware и массовому мошенничеству с идентификацией. Один из таких примеров, PassGAN, по сообщениям, может взламывать пароли менее чем за полминуты.
- Подделка документов: Документы, сгенерированные или измененные с помощью ИИ, — это еще один способ обойти проверки «знай своего клиента» (KYC) в банках и других компаниях. Они также могут использоваться для страхового мошенничества. Почти все (94%) специалисты по урегулированию убытков подозревают, что как минимум 5% претензий подделываются с помощью ИИ, особенно претензии на небольшие суммы.
- Фишинг и разведка: Национальное агентство по кибербезопасности Великобритании (NCSC) предупредило о росте преимуществ, которые киберпреступники получают от генеративного и других видов ИИ. В начале 2024 года оно заявило, что технология «почти наверняка увеличит объем и усилит воздействие кибератак в течение следующих двух лет». Она окажет особенно большое влияние на повышение эффективности социальной инженерии и разведки целей. Это будет способствовать росту ransomware и краже данных, а также широкомасштабным фишинговым атакам на клиентов.
Каково влияние угроз, связанных с ИИ?
Последствия мошенничества, основанного на ИИ, — это, в конечном итоге, финансовый и репутационный ущерб различной степени. Один отчет оценивает, что 38% доходов, потерянных из-за мошенничества за последний год, были связаны с мошенничеством, основанным на ИИ. Подумайте, как:
- Обход KYC позволяет мошенникам накапливать кредиты и опустошать счета легитимных клиентов.
- Фальшивые сотрудники могут красть конфиденциальную интеллектуальную собственность и регулируемую клиентскую информацию, создавая финансовые, репутационные проблемы и проблемы с соблюдением нормативных требований.
- BEC-мошенничество может привести к огромным разовым убыткам. Эта категория принесла киберпреступникам более 2,9 миллиарда долларов только в 2023 году.
- Мошенничество с выдачей себя за другого угрожает лояльности клиентов. Треть клиентов заявляют, что уйдут от любимого бренда после всего одного плохого опыта.
Противодействие мошенничеству, основанному на ИИ
Борьба с этой волной мошенничества, основанного на ИИ, требует многоуровневого подхода, ориентированного на людей, процессы и технологии. Это должно включать:
- Частые оценки рисков мошенничества
- Обновление политик по борьбе с мошенничеством, чтобы они соответствовали ИИ
- Комплексные программы обучения и повышения осведомленности для сотрудников (например, о том, как распознавать фишинг и дипфейки)
- Образовательные программы и повышение осведомленности для клиентов
- Включение многофакторной аутентификации (MFA) для всех конфиденциальных корпоративных учетных записей и клиентов
- Улучшенные проверки биографии сотрудников, такие как проверка резюме на несоответствия в карьере
- Убедитесь, что все сотрудники проходят видеоинтервью перед наймом
- Улучшение сотрудничества между HR-отделами и командами по кибербезопасности
Технологии ИИ также могут быть использованы в этой борьбе, например:
- Инструменты на базе ИИ для обнаружения дипфейков (например, при проверках KYC).
- Алгоритмы машинного обучения для обнаружения закономерностей подозрительного поведения в данных сотрудников и клиентов.
- GenAI для создания синтетических данных, с помощью которых могут разрабатываться, тестироваться и обучаться новые модели мошенничества.
Поскольку битва между вредоносным и доброжелательным ИИ вступает в новую интенсивную фазу, организации должны обновить свои политики кибербезопасности и борьбы с мошенничеством, чтобы не отставать от развивающихся угроз. При таких высоких ставках неспособность сделать это может повлиять на долгосрочную лояльность клиентов, ценность бренда и даже сорвать важные инициативы по цифровой трансформации.
ИИ может изменить правила игры для наших противников. Но он также может сделать это и для команд корпоративной безопасности и управления рисками.