Поздно вечером, бесцельно пролистывая YouTube, я наткнулся на видео, которое пролило свет на тревожное мошенничество с использованием платформ голосового ИИ. Оно раскрывало потенциальное злоупотребление этой технологией в практике, известной как виртуальное похищение. В этой статье исследуется концепция виртуальных похищений, используемые методы и последствия такого мошенничества.
Понимание виртуального похищения
Виртуальное похищение — это мошенничество, которое использует страх и панику, возникающие, когда кто-то верит, что его близкий человек был похищен. Вместо физического похищения жертвы, мошенник стремится вымогать деньги или получить какое-либо преимущество, создавая убедительную иллюзию похищения.
Традиционный малотехнологичный метод
Один из более традиционных подходов к виртуальному похищению включает подмену номера телефона жертвы. Мошенник звонил члену семьи жертвы или одному из друзей жертвы, создавая хаотичную атмосферу с фоновым шумом, чтобы казалось, что жертва находится в непосредственной опасности. Затем мошенник требовал выкуп за безопасное возвращение жертвы.
Для повышения достоверности мошенничества преступники часто используют разведку по открытым источникам (OSINT) для сбора информации о жертве и ее сообщниках. Эта информация помогает мошенникам сделать обман более правдоподобным, например, нацеливаясь на людей, которые, как известно, путешествуют или находятся вдали от дома, отслеживая их учетные записи в социальных сетях.
Читайте также: OSINT 101: Что такое разведка по открытым источникам и как она используется?
Высокотехнологичное клонирование голоса
Более продвинутая и усовершенствованная версия виртуального похищения включает получение образцов голоса жертвы и использование платформ ИИ для создания его клона. Затем мошенник может позвонить семье или друзьям жертвы, выдавая себя за жертву и выдвигая тревожные требования.
Реализуемость клонирования голоса
Чтобы продемонстрировать реализуемость клонирования голоса, я решил поэкспериментировать с бесплатным программным обеспечением для редактирования видео и аудио с поддержкой ИИ. Записав фрагменты известного голоса Джейка Мура — Джейк является глобальным консультантом ESET по безопасности — я попытался создать убедительный клон голоса.
Используя программное обеспечение, я записал голос Джейка из различных видео, доступных в Интернете. Инструмент сгенерировал аудиофайл и транскрипцию, которые я позже отправил в службу клонирования голоса с поддержкой ИИ. Несмотря на скептицизм относительно успеха эксперимента, через 24 часа я получил уведомление по электронной почте о том, что клон голоса готов к использованию.
И вот результаты:
СКАЧАТЬ АУДИО: Поддельная просьба Джейка, сгенерированная ИИ
Ограничения и потенциальное злоупотребление
Хотя первая попытка клонирования голоса показала недостатки в темпе и тоне, а также ограниченный словарный запас, потенциал для злонамеренного использования этой технологии остается очевидным. Преступники могут использовать виртуальное похищение, отправляя голосовые сообщения, содержащие личную информацию, полученную с помощью методов OSINT, что делает мошенничество более убедительным.
Более того, высокопоставленные лица, такие как управляющие директора технологических компаний, могут стать целями кражи голоса из-за своего публичного присутствия. Крадя их голоса, мошенники могут манипулировать сотрудниками организации для выполнения нежелательных действий. В сочетании с другими методами социальной инженерии это может стать как мощным инструментом, так и сложной проблемой для борьбы по мере совершенствования технологий.
Повод для беспокойства?
Эта новая модификация существующей техники виртуального похищения, с помощью которой мошенники создают иллюзию похищения, не похищая никого физически, является тревожным развитием в области киберпреступности. Злоупотребление платформами голосового ИИ для клонирования голосов вызывает серьезные этические проблемы и проблемы безопасности.
По мере развития технологий крайне важно, чтобы отдельные лица, организации и разработчики платформ ИИ проявляли бдительность в отношении потенциального злоупотребления клонированием голоса и другими подобными технологиями. Защита личной информации, осторожное отношение к своему онлайн-присутствию и применение надежных мер безопасности и обучения могут помочь снизить риски, связанные с виртуальными похищениями, и защититься от несанкционированных попыток клонирования голоса.
Связанное чтение: ФБР предупреждает об атаках голосового фишинга, крадущих корпоративные учетные данные