Искусственный интеллект (ИИ) меняет наш мир как ожидаемым, так и непредвиденным образом. Для потребителей эта технология означает более точную персонализацию цифрового контента, лучшую диагностику в здравоохранении, перевод языков в реальном времени для помощи в отпуске и генеративные ИИ-помощники для повышения производительности на работе. Но ИИ также используется для помощи киберпреступникам в повышении производительности, особенно когда речь идет о мошенничестве с идентификацией — самом распространенном типе мошенничества сегодня.
Более трети руководителей, занимающихся банковскими рисками и инновациями в Великобритании, Испании и США называют своим главным вызовом сегодня рост мошенничества и дипфейков, генерируемых ИИ, что делает его ответом номер один. Так как же работает мошенничество с использованием ИИ и что вы можете сделать, чтобы оставаться в безопасности?
Как работает мошенничество с идентификацией на основе ИИ?
Мошенничество с идентификацией — это использование вашей личной информации (PII) для совершения преступления, например, накопления долга по кредитной карте на ваше имя или получения доступа к банковскому или другому счету. По одной оценке, мошенничество на основе ИИ теперь составляет более двух пятых (43%) всех попыток мошенничества, зарегистрированных в финансовом секторе и секторе платежей. Почти треть (29%) этих попыток считаются успешными. Так как же ИИ помогает киберпреступникам?
Можно выделить несколько различных тактик:
- Захват учетных записей (ATO) и создание учетных записей с помощью дипфейков: Мошенники используют дипфейки аудио и видеоизображений законных пользователей для обхода проверок «знай своего клиента» (KYC), используемых финансовыми учреждениями для проверки того, являются ли клиенты теми, за кого себя выдают. Ваше изображение или видео собирается из сети и подается в инструмент для создания дипфейков или генеративный ИИ. Затем оно вставляется в поток данных между пользователем и поставщиком услуг в так называемых атаках внедрения, предназначенных для обмана систем аутентификации. Согласно одному отчету, дипфейки теперь составляют четверть (24%) мошеннических попыток пройти проверки биометрии движения и 5% проверок статического селфи.
- Подделка документов: Были времена, когда мошенники использовали физические подделки документов, такие как фальшивые страницы паспортов, для открытия новых счетов на имена ничего не подозревающих жертв. Однако сегодня они чаще делают это в цифровом виде. Согласно этому отчету, цифровые подделки составляют более 57% всех случаев мошенничества с документами — годовой рост на 244%. Мошенники обычно получают шаблоны документов онлайн или скачивают изображения документов, украденные в результате утечек данных, а затем изменяют детали в Photoshop. Инструменты генеративного ИИ (GenAI) помогают им делать это быстро и в больших масштабах.
- Синтетическое мошенничество: В этом случае мошенники либо создают новые личности, комбинируя реальные (украденные) и вымышленные PII для формирования совершенно новой (синтетической) личности, либо создают новую личность, используя только сфабрикованные данные. Затем это используется для открытия новых счетов в банках и кредитных компаниях, например. Подделка документов и дипфейки могут сочетаться с этими личностями для увеличения шансов мошенников на успех. Согласно одному отчету, 76% специалистов по мошенничеству и рискам в США считают, что в их организациях есть синтетические клиенты. Они оценивают, что этот тип мошенничества вырос на 17% в год.
- Дипфейки, обманывающие друзей и семью: Иногда поддельные видео или аудио могут использоваться в мошеннических схемах, которые обманывают даже близких. Одна из тактик — виртуальное похищение, когда родственники получают телефонный звонок от злоумышленника, утверждающего, что он похитил вас. Для доказательства они воспроизводят дипфейк-аудио вашего голоса и требуют выкуп. GenAI также может использоваться в этих усилиях, чтобы помочь мошенникам найти вероятную жертву. Глобальный консультант ESET по безопасности Джейк Мур дал представление о том, что возможно в настоящее время здесь и здесь.
- Подстановка учетных данных (для ATO): Подстановка учетных данных включает использование украденных логинов в автоматизированных попытках получить доступ к другим учетным записям, для которых вы могли использовать тот же логин и пароль. Инструменты на базе ИИ могут быстро генерировать эти списки учетных данных из множества источников данных, помогая масштабировать атаки. И они также могут использоваться для точного имитации поведения человека при входе в систему, чтобы обмануть защитные фильтры.
Каковы последствия мошенничества на основе ИИ?
Мошенничество — это далеко не преступление без жертв. На самом деле, мошенничество на основе ИИ может:
- Вызывать сильный эмоциональный стресс у обманутого человека. Один отчет утверждает, что 16% жертв подумывали о самоубийстве в результате преступления, связанного с кражей личных данных.
- Повышать вероятность успеха мошеннических схем, сокращая прибыль, что заставляет компании повышать цены для всех.
- Влиять на национальную экономику. Снижение прибыли означает меньшие налоговые поступления, что, в свою очередь, означает меньше средств для расходов на общественные услуги.
- Подрывать общественное доверие к верховенству закона и даже демократии.
- Подрывать доверие бизнеса, что может привести к снижению уровня инвестиций в страну.
Как защитить свою личность от мошенничества на основе ИИ
Для борьбы с наступательным использованием ИИ против них организации все чаще обращаются к инструментам ИИ для защиты, чтобы выявлять признаки мошенничества. Но что можете сделать вы? Возможно, наиболее эффективной стратегией является минимизация возможностей для злоумышленников получить ваши PII и аудио/видео данные в первую очередь. Это означает:
- Не делайте чрезмерный репост информации в социальных сетях и ограничьте настройки конфиденциальности.
- Будьте бдительны к фишингу: проверяйте домены отправителей, ищите опечатки и грамматические ошибки, и никогда не переходите по ссылкам и не открывайте вложения в нежелательных письмах.
- Включите многофакторную аутентификацию (MFA) на всех учетных записях.
- Всегда используйте надежные, уникальные пароли, хранящиеся в менеджере паролей.
- Обновляйте программное обеспечение на всех ноутбуках и мобильных устройствах.
- Внимательно следите за банковскими счетами и счетами карт, регулярно проверяя подозрительную активность и немедленно замораживая счета, если что-то выглядит неправильно.
- Установите многоуровневое программное обеспечение безопасности от надежного поставщика на все устройства.
Также стоит следить за последними тактиками мошенничества на основе ИИ и информировать друзей и семью о дипфейках и мошенничестве с использованием ИИ.
Атаки мошенничества на основе ИИ будут только расти, поскольку технология становится дешевле и эффективнее. Поскольку эта новая гонка вооружений в киберпространстве разворачивается между корпоративными сетевыми защитниками и их противниками, именно потребители окажутся в середине. Убедитесь, что вы не станете следующей жертвой.