Одна из лучших вещей в интернете — это то, что он является обширным хранилищем знаний, и это богатство знаний почти всегда находится на расстоянии нескольких кликов. Однако такой неограниченный доступ к информации несет с собой и немало проблем. В наш информационный век нас бомбардируют таким количеством информации, что эффективное выявление и отсеивание материалов, которые являются сфабрикованными, манипулированными или иным образом ложными и вводящими в заблуждение, становится все более сложной задачей.
Действительно, стало банальностью говорить, что вы не можете и не должны принимать на веру все, с чем сталкиваетесь в интернете — это включает случайные статьи, посты в социальных сетях, вплоть до комментариев самопровозглашенных «экспертов». Ситуация еще больше запутывается, когда вы добавляете в микс дипфейки, поскольку фейковое аудио, изображения и видеоклипы, созданные с помощью ИИ, могут легко ускорить кампании по дезинформации.
Говоря об обмане с помощью ИИ, не стоит полагаться на ChatGPT и другие инструменты, работающие на больших языковых моделях и обученные на огромных массивах данных из интернета, что они всегда говорят правду или опровергают ложные нарративы. Было показано, что они обладают поразительной способностью соглашаться с ложью и подтверждать заблуждения, особенно если им задают вопросы, содержащие дезинформацию, и что в конечном итоге их сила может быть использована для создания ложных нарративов в драматических масштабах. Еще одна проблема — это «галлюцинации» чат-ботов, то есть выдача сфабрикованных ответов и ссылок. Другими словами, их ответы тоже нужно проверять — и не без оснований.
Отравление нарратива
В настоящее время вы можете заметить тенденцию искажать, дезинформировать, творчески изгибать правду — чаще всего для создания поляризации среди определенных групп людей для политической выгоды или для привлечения внимания к другим негативным целям, причем все это происходит в основном в интернете. По сути, информация в интернете может больше не течь свободно, поскольку она фильтруется и отравляется, чтобы установить контроль над нарративом или создать рабочий нарратив в чью-то пользу, в зависимости от того, что лучше работает.
Злоумышленники решили использовать этот метод как оружие для контроля и изменения определенной информации, искажая факты путем вставки фальшивых данных или фейковых новостей в онлайн-дискуссии и социальные сети, что затем может повлиять на реальный мир.
Например, некоторые формы кибербуллинга используют дезинформацию в сети, и жертвы такого буллинга испытывают реальную психологическую и физическую травму. В социальных сетях ложные слухи могут распространяться за пределы школ, вовлекая гораздо больше людей и причиняя еще больше боли жертвам. Точно так же примеры расизма и нетерпимости, проникающие в сознание широкой общественности из онлайн-дискуссий, — это тенденция, которую может заметить любой, особенно в предвыборный период, когда различные группы пытаются политизировать определенные темы.
Источники дезинформации
Фейковые новости и информация могут распространяться различными способами. Как показывают приведенные выше примеры, онлайн-дискуссии являются одним из основных источников благодаря форумам и социальным сетям, где любой, будь то обычный человек или бот, может поделиться чем угодно.
Действительно, боты, распространяющие дезинформацию, стали определенной проблемой в последние годы, причем исследование 2018 года подтвердило, что американцы, например, в основном согласны с негативными последствиями распространения дезинформации ботами в социальных сетях. Фактически, согласно другому отчету, около 47% интернет-трафика приходится на ботов, и эта цифра растет из года в год, причем социальные сети составляют огромную часть — более вероятно, что вы столкнетесь с ботом в Twitter (ныне X), чем с реальным пользователем, согласно исследованию Вашингтонского университета в Сент-Луисе.
Пример идентифицированного бота, распространяющего дезинформацию.
(Источник: Samuel C. Woolley & Douglas Guilbeault. 2017 «Computational Propaganda in the United States of America: Manufacturing Consensus Online.» Oxford Internet Institute, page 7.)
Ботам не нужно убеждать, чтобы распространять фейковую информацию, и чем больше сомнительная статья или факт распространяется и становится видимым реальным людям, тем вероятнее, что она войдет в обычный офлайн-дискурс. Например, во время агрессии России против Украины появилось множество фейковых нарративов, поскольку фабрики троллей churning и распространяли свои продиктованные тезисы в сети, очевидно, пытаясь отвлечь людей от поддержки Украины, искажая реальность, используя фейковых фактчекеров или распространяя фотографии и видео вне контекста.
Аккаунт, распространяющий дезинформацию на основе цитаты вне контекста.
(Источник: AFP Fact Check)
Когда фейковые новости подхватываются политическими представителями, они могут иметь еще более разрушительные последствия и сами по себе могут иметь очень реальные последствия, такие как штурм Капитолия США 6 января, который приписывают усилению политизации, дезинформации и поляризации в американском обществе, подпитываемой онлайн-активностью, дополнительно поощряемой политическим экстремизмом.
Формы подделок
Фейковая информация может распространяться во многих формах и местах:
- Статьи/Отчеты: В зависимости от того, откуда вы получаете новости, некоторые люди предпочитают субъективные истины (более предвзятые СМИ) или настоящие фейковые сайты, созданные злоумышленниками, которые распространяют ложную информацию.
- Социальные сети: Здесь дезинформация может распространяться в виде общих статей из различных источников, таких как фейковые новостные сайты, комментаторы, распространяющие фейковые новости, или страницы/группы, созданные для содержания ложной информации с целью ее распространения среди своих участников, которые затем делятся ею за пределами группы. Также интересны пользователи, выдающие себя за влиятельных членов общества, таких как политики или ученые, чтобы быть более убедительными в своей лжи.
- Форумы и разделы комментариев: Как и в социальных сетях, все сводится к обмену ссылками на статьи, созданию тем с фейковой информацией или постам, делающим то же самое. Поляризующие комментарии, распространяемые в онлайн-сообществах, таких как 4chan, могут быть движущей силой экстремизма в реальном мире.
- Видео/Изображения: Любая платформа, используемая для обмена видео- или изобразительным контентом, может использоваться для распространения фейковой информации в виде ложных отчетов, вредоносных сводок событий, пропаганды, скрытой в мемах, измененных изображений и предвзятых документальных фильмов, а также через онлайн-персонажей, которые процветают на поляризации общества, продвигая свой контент.
Вызывающей беспокойство формой также является использование поддельных изображений, видео или аудио-дипфейков, которые бывает еще труднее распознать как подделки, как показано в нашей недавней статье об аудио-дипфейках и их потенциальном злоупотреблении в мошенничестве. Хотя дипфейк создан для исследовательских целей, он демонстрирует опасность столкновения с «украденными голосами», поскольку он очень убедителен и показывает, как бесплатные инструменты ИИ, подобные этому, могут использовать образы людей в любой форме для преступной деятельности.
Как бороться с дезинформацией или фейковыми новостями
Размышление над тем, что мы видим и читаем в интернете, — лучший способ противостоять влиянию фейковых новостей. К сожалению, критическое мышление часто плохо преподают в школах, но это не значит, что его нельзя освоить самостоятельно дома.
Но как именно отличить настоящую историю от вымышленной? Некоторые простые для распознавания подсказки могут помочь.
- Во-первых, остановитесь и подумайте об информации, с которой вы сталкиваетесь. Слепо верить тому, что «доктор» говорит о последствиях вакцины или лечения в интернете только потому, что он в белом халате на видео, — неправильно, так как любой может притворяться доктором в сети. Точно так же подумайте, каким чудом действительно родился бы трехглазый ребенок в этом году.
- Во-вторых, изучайте и проверяйте все, с чем вы сталкиваетесь. Социальные сети часто используются для распространения подделок и мистификаций, таких как выдуманные армейские повестки, объявление результатов выборов мошенническими, переосмысление сцен из фильмов как реальных событий, утверждение, что все вакцины вызывают смерть, и тому подобное. Лучший способ противостоять этому — проверять объективные новостные сайты и следить за страницами фактчекинга, которые расследуют мистификации.
- В-третьих, поместите каждый фрагмент данных в контекст. Используя различные авторитетные источники, такие как те, что представлены в предыдущем пункте, прочитайте и сформируйте собственное мнение. Искажая различные точки зрения, человек может сформировать свою позицию по критическим темам, а благодаря интернету любой может лучше понять что-то, что он находит актуальным и интересным.
- Кроме того, сохраняйте спокойствие и старайтесь не провоцироваться из-за явно предвзятого мнения. Хотя дебаты могут накаляться, как и обычные хулиганы, онлайн-тролли питаются провокациями. Не пытайтесь узаконить их позиции, «клюя на наживку», как говорится.
И наконец, мы рекомендуем ознакомиться с брошюрой Агентства по кибербезопасности и защите инфраструктуры (CISA) о тактиках дезинформации, поскольку это очень полезный и информативный сборник, содержащий методы, тактики дезинформации и способы распознавания подделок с реальными примерами. С помощью этих методов в сочетании должно быть легче распознать, что реально, а что нет.