Искусственный интеллект (ИИ) сейчас — очень горячая тема. Он повсюду. Вы, вероятно, уже используете его каждый день. Этот чат-бот, с которым вы разговариваете о своей потерянной посылке? Работает на основе разговорного ИИ. Список «рекомендованных» товаров под вашими самыми частыми покупками на Amazon? Управляется алгоритмами ИИ/МО (машинное обучение). Возможно, вы даже используете генеративный ИИ, чтобы помочь написать свои посты или электронные письма в LinkedIn.
Но где проходит черта? Когда ИИ выполняет монотонные и повторяющиеся задачи, а также проводит исследования и создает контент намного быстрее, чем любой человек, зачем нам вообще нужны люди? Действительно ли «человеческий фактор» необходим для функционирования бизнеса? Давайте копнем глубже в преимущества, проблемы и риски, связанные с лучшим кандидатом (или сущностью?) на работу: робот или человек?
Почему ИИ работает
ИИ способен оптимизировать бизнес-процессы и сократить время, затрачиваемое на задачи, которые съедают общую производительность сотрудников и результаты бизнеса в течение их рабочего дня. Компании уже внедряют ИИ для множества функций, будь то проверка резюме для вакансий, выявление аномалий в клиентских данных или написание контента для социальных сетей.
И они могут делать все это за доли того времени, которое потребовалось бы людям. В ситуациях, где ранняя диагностика и вмешательство — это все, применение ИИ может оказать огромное положительное влияние на всех уровнях. Например, ИИ-улучшенный анализ крови может помочь предсказать болезнь Паркинсона за семь лет до появления симптомов — и это только верхушка айсберга.
Благодаря своей способности выявлять закономерности в огромных объемах данных, технологии ИИ также могут поддерживать работу правоохранительных органов, в том числе помогая им выявлять и прогнозировать вероятные места преступлений и тенденции. Инструменты на базе ИИ также играют роль в борьбе с преступностью и другими угрозами в онлайн-сфере, а также в помощи специалистам по кибербезопасности в более эффективном выполнении их работы.
Способность ИИ экономить бизнесу деньги и время — не новость. Подумайте: чем меньше времени сотрудники тратят на нудные задачи, такие как сканирование документов и загрузка данных, тем больше времени они могут посвятить стратегии развития бизнеса. В некоторых случаях полные контракты могут больше не понадобиться, поэтому бизнес будет тратить меньше денег на накладные расходы (что, понятно, не очень хорошо для уровня занятости).
Системы на основе ИИ также могут помочь устранить риск человеческой ошибки. Есть причина, по которой говорят «мы все люди». Мы все можем совершать ошибки, особенно после пяти чашек кофе, всего трех часов сна и с приближающимся дедлайном. Системы на основе ИИ могут работать круглосуточно, никогда не уставая. В некотором смысле, они обладают уровнем надежности, которого вы не получите даже от самого внимательного и методичного человека.
Ограничения ИИ
Однако, не заблуждайтесь: при ближайшем рассмотрении все становится немного сложнее. Хотя системы ИИ могут свести к минимуму ошибки, связанные с усталостью и отвлечением внимания, они не являются непогрешимыми. ИИ тоже может совершать ошибки и «галлюцинировать»; то есть, выдавать ложь, представляя ее как истину, особенно если есть проблемы с данными, на которых он был обучен, или с самим алгоритмом. Другими словами, системы ИИ хороши настолько, насколько хороши данные, на которых они обучены (что требует человеческого опыта и контроля).
Продолжая эту тему, хотя люди могут заявлять о своей объективности, мы все подвержены неосознанной предвзятости, основанной на нашем собственном жизненном опыте, и нам трудно, даже невозможно, это отключить. ИИ не создает предвзятость по своей природе; скорее, он может усилить существующие предубеждения, присутствующие в данных, на которых он обучен. Иными словами, инструмент ИИ, обученный на чистых и непредвзятых данных, действительно может давать чисто основанные на данных результаты и излечивать предвзятое человеческое принятие решений. Тем не менее, это непростая задача, и обеспечение справедливости и объективности в системах ИИ требует непрерывных усилий по подбору данных, разработке алгоритмов и постоянному мониторингу.
Исследование в 2022 году показало, что 54% технических руководителей были очень или крайне обеспокоены предвзятостью ИИ. Мы уже видели катастрофические последствия, которые использование предвзятых данных может иметь для бизнеса. Например, из-за использования предвзятых наборов данных страховой компанией в Орегоне женщины платят примерно на 11,4% больше за автостраховку, чем мужчины — даже если все остальное точно такое же! Это легко может привести к испорченной репутации и потере клиентов.
Поскольку ИИ питается обширными наборами данных, возникает вопрос конфиденциальности. Когда речь идет о личных данных, злоумышленники могут найти способы обойти протоколы конфиденциальности и получить доступ к этим данным. Хотя существуют способы создания более безопасной среды данных для этих инструментов и систем, организациям по-прежнему необходимо проявлять бдительность в отношении любых пробелов в их кибербезопасности, связанных с дополнительной поверхностью данных, которую влечет за собой ИИ.
Кроме того, ИИ не может понимать эмоции так, как (большинство) люди. Люди, находящиеся на другой стороне взаимодействия с ИИ, могут ощущать недостаток эмпатии и понимания, которые они могли бы получить от настоящего «человеческого» взаимодействия. Это может повлиять на опыт клиента/пользователя, как показано на примере игры World of Warcraft, которая потеряла миллионы игроков, заменив свою команду обслуживания клиентов — которая раньше была реальными людьми, даже заходившими в игру, чтобы показать игрокам, как выполнять действия — ботами ИИ, лишенными юмора и эмпатии.
Из-за ограниченного набора данных отсутствие контекста у ИИ может вызывать проблемы с интерпретацией данных. Например, эксперты по кибербезопасности могут иметь фоновое понимание конкретного злоумышленника, что позволяет им выявлять и отмечать предупреждающие знаки, которые машина может пропустить, если они не полностью соответствуют ее запрограммированному алгоритму. Именно эти сложные нюансы могут иметь огромные последствия в дальнейшем, как для бизнеса, так и для его клиентов.
Таким образом, хотя ИИ может не хватать контекста и понимания входных данных, людям не хватает понимания того, как работают их системы ИИ. Когда ИИ работает в «черных ящиках», нет прозрачности в том, как или почему инструмент дал тот или иной результат или принял те или иные решения. Невозможность выявить «внутреннюю кухню» за кулисами может заставить людей сомневаться в его достоверности. Кроме того, если что-то пойдет не так или входные данные будут отравлены, этот сценарий «черного ящика» затруднит выявление, управление и решение проблемы.
Почему нам нужны люди
Люди не идеальны. Но когда дело доходит до общения и налаживания связей с людьми, а также принятия важных стратегических решений, разве люди не лучшие кандидаты на эту работу?
В отличие от ИИ, люди могут адаптироваться к меняющимся ситуациям и мыслить креативно. Без предопределенных правил, ограниченных наборов данных и подсказок, которые использует ИИ, люди могут использовать свою инициативу, знания и прошлый опыт для решения проблем и задач в реальном времени.
Это особенно важно при принятии этических решений и балансировании бизнес- (или личных) целей с воздействием на общество. Например, инструменты ИИ, используемые в процессе найма, могут не учитывать более широкие последствия отказа кандидатам на основе алгоритмической предвзятости и дальнейшие последствия, которые это может иметь для разнообразия и инклюзивности на рабочем месте.
Поскольку выходные данные ИИ создаются на основе алгоритмов, существует также риск их шаблонности. Рассмотрим генеративный ИИ, используемый для написания блогов, электронных писем и подписей в социальных сетях: повторяющиеся структуры предложений могут сделать текст неуклюжим и менее привлекательным для чтения. Контент, написанный людьми, скорее всего, будет иметь больше нюансов, перспектив и, давайте признаем, личности. Особенно для брендового сообщения и тона голоса, трудно имитировать стиль общения компании, используя строгие алгоритмы, которым следует ИИ.
Учитывая это, хотя ИИ может предоставить список потенциальных названий брендов, например, люди, стоящие за брендом, действительно понимают свою аудиторию и знают, что лучше всего найдет отклик. А благодаря человеческой эмпатии и способности «читать комнату», люди могут лучше общаться с другими, укрепляя отношения с клиентами, партнерами и заинтересованными сторонами. Это особенно полезно в обслуживании клиентов. Как упоминалось позже, плохое обслуживание клиентов может привести к потере лояльности к бренду и доверия.
И последнее, но не менее важное: люди могут быстро адаптироваться к меняющимся условиям. Если вам нужно срочное заявление компании о недавнем событии или вам нужно отказаться от определенного целевого сообщения кампании, вам нужен человек. Перепрограммирование и обновление инструментов ИИ занимает время, что может быть неприемлемо в определенных ситуациях.
В чем же решение?
Наиболее эффективный подход к кибербезопасности — это не полагаться исключительно на ИИ или людей, а использовать сильные стороны обоих. Это может означать использование ИИ для обработки крупномасштабного анализа и обработки данных, в то время как для принятия решений, стратегического планирования и коммуникаций полагаться на человеческий опыт. ИИ должен использоваться как инструмент для помощи и улучшения вашей рабочей силы, а не для ее замены.
ИИ лежит в основе продуктов ESET, позволяя нашим экспертам по кибербезопасности сосредоточить свое внимание на создании лучших решений для клиентов ESET. Узнайте, как ESET использует ИИ и машинное обучение для улучшения обнаружения угроз, расследования и реагирования.