Генеративный ИИ, который раньше был доступен только в исследовательских лабораториях, теперь есть у всех – в том числе и у тех, кто не желает добра. Они используют ИИ-инструменты не для творчества, а для обмана. Технология дипфейков, способная создавать удивительно реалистичные видео, изображения и аудио, всё чаще применяется не только для пародий на знаменитостей или попыток повлиять на общественное мнение, но и для кражи личных данных и всякого рода мошенничества.
На таких платформах, как TikTok и Instagram, охват дипфейков и потенциальный вред от них могут быть просто ошеломляющими. Исследователи ESET из Латинской Америки недавно обнаружили кампанию в TikTok и Instagram, где сгенерированные ИИ аватары выдавали себя за гинекологов, диетологов и других медицинских работников, продвигая пищевые добавки и велнес-продукты. Эти видео, часто очень качественные и убедительные, маскируют продажи под медицинские советы, обманывая доверчивых людей и побуждая их совершать сомнительные и потенциально очень рискованные покупки.
Анатомия обмана
Каждое видео следует похожему сценарию: говорящий аватар, часто в углу экрана, дает советы по здоровью или красоте. Подавая информацию с видом эксперта, советы сильно опираются на «натуральные» средства, подталкивая зрителей к покупке определённых продуктов. Маскируя свои предложения под рекомендации экспертов, эти дипфейки используют доверие к медицинской профессии для увеличения продаж – тактика, столь же неэтичная, сколь и эффективная.
В одном случае «врач» расхваливал «натуральный экстракт» как лучшую альтернативу Оземпику – препарату, известному своей помощью в похудении. Видео обещало поразительные результаты и перенаправляло на страницу Amazon, где продукт описывался как «капли для релаксации» или «средство от отеков», без какой-либо связи с разрекламированными преимуществами.
Другие видео повышают ставки, продвигая непроверенные препараты или фейковые лекарства от серьёзных болезней, иногда даже используя внешность реальных, известных врачей.
ИИ на «помощь»
Видео создаются с помощью обычных ИИ-инструментов, которые позволяют любому загрузить короткое видео и превратить его в отполированный аватар. Хотя это и выгодно инфлюенсерам, стремящимся масштабировать свой контент, та же технология может быть использована для распространения ложной информации и обмана – другими словами, то, что может работать как маркетинговый ход, быстро превращается в механизм распространения лжи.
Мы заметили более 20 аккаунтов в TikTok и Instagram, использующих дипфейк-врачей для продвижения своих продуктов. Один из них, выдававший себя за гинеколога с 13-летним стажем, был напрямую связан с библиотекой аватаров приложения. Хотя такое злоупотребление нарушает условия использования распространённых ИИ-инструментов, это также показывает, насколько легко их можно использовать как оружие.
В конечном итоге, дело может быть не «просто» в бесполезных добавках. Последствия могут быть куда более серьёзными, ведь дипфейки могут подорвать доверие к онлайн-консультациям по здоровью, продвигать вредные «лекарства» и задерживать своевременное лечение.
Держим фейковых врачей на расстоянии
По мере того как ИИ становится всё более доступным, распознать эти подделки становится сложнее, что представляет собой серьёзную проблему даже для технически подкованных людей. Тем не менее, вот несколько признаков, которые помогут вам распознать дипфейк-видео:
- несоответствие движений губ с аудио или неестественные, скованные выражения лица;
- визуальные сбои, такие как размытые края или внезапные изменения освещения, также часто выдают подделку;
- роботизированный или слишком отполированный голос – ещё один тревожный сигнал;
- также проверьте сам аккаунт: новые профили с малым количеством подписчиков или без истории вызывают подозрения;
- остерегайтесь преувеличенных заявлений типа «чудодейственные лекарства», «гарантированные результаты» и «врачи ненавидят этот трюк», особенно если им не хватает надёжных источников;
- всегда проверяйте заявления с помощью доверенных медицинских ресурсов, избегайте распространения подозрительных видео и сообщайте о вводящем в заблуждение контенте платформе.
Поскольку ИИ-инструменты продолжают развиваться, отличать подлинный контент от поддельного будет всё сложнее. Эта угроза подчёркивает важность разработки как технологических средств защиты, так и повышения нашей общей цифровой грамотности, что поможет защитить нас от дезинформации и мошенничества, которые могут повлиять на наше здоровье и финансовое благополучие.
ЧИТАЙТЕ ТАКЖЕ: TikShock: не попадитесь на эти 5 мошенничеств в TikTok