К лучшему или к худшему, чат-боты меняют то, как мы думаем, учимся и воспринимаем окружающий мир. Такого рода перемены проявляются во многих сферах жизни, но, пожалуй, одной из самых деликатных и часто вызывающих беспокойство является растущее использование инструментов генеративного ИИ (GenAI) в здравоохранении. Наряду с рядом свободно доступных чат-ботов на базе ИИ, крупные технологические компании перешли к разработке ИИ для здравоохранения, ориентированного на потребителей, запустив такие сервисы, как Copilot Health, ChatGPT Health и HealthAI от Amazon, которые помогают пользователям интерпретировать свои медицинские записи и задавать вопросы о симптомах, результатах лабораторных анализов и вариантах лечения.
Однако есть риски, связанные с ожиданием, что инструмент ИИ возьмет на себя роль вашего врача. Кроме того, риск заключается не только в том, что пользователи могут получить неверный совет, но и в том, что они могут поделиться крайне конфиденциальной личной информацией с системами, чьи меры по защите конфиденциальности, практики обмена данными и юридические обязательства могут отличаться от тех, что приняты у врача или в больнице, а также в том, что их данные могут оказаться в руках неожиданных субъектов. По данным одной американской организации по безопасности пациентов, неправомерное использование чат-ботов с ИИ в целом в настоящее время является главной угрозой в сфере медицинских технологий.
От теории к практике
Причина, по которой разработчики моделей выходят на этот рынок, очевидна: чат-боты стали чрезвычайно популярным способом поиска медицинских рекомендаций. По данным Microsoft, люди на своих мобильных устройствах обсуждают свое здоровье и здоровье своих близких чаще, чем любую другую тему. Чат-боты доступны круглосуточно и готовы ответить на любой вопрос уверенным тоном, что помогает успокоить нервничающих пациентов.
В то время, когда национальные системы здравоохранения испытывают растущую нагрузку, многие люди, вероятно, будут ставить себе диагноз с помощью ИИ, прежде чем принять решение о необходимости обращения к врачу. Время, усилия и потенциальные затраты, связанные с вхождением в лабиринтную систему здравоохранения, вместо того чтобы провести сортировку пациентов дома, делают этот способ популярным.
Однако уже возникают опасения. Первое касается галлюцинаций или неверных советов. Исследование Оксфордского университета, проведенное в феврале и опубликованное в Nature Medicine , показало:
- Пользователи часто не знали, какой информацией им следует делиться с LLM
- LLM давали очень разные ответы, даже если задаваемые им вопросы отличались лишь незначительно
- Модели часто давали как хорошие, так и плохие советы, но пользователям было сложно различить их
«Несмотря на весь ажиотаж, ИИ просто не готов взять на себя роль врача», — предупредила ведущий врач исследования, доктор Ребекка Пейн. «Пациенты должны осознавать, что обращение к большой языковой модели с вопросами о своих симптомах может быть опасным, поскольку она может поставить неверный диагноз и не распознать, когда требуется неотложная помощь».
Выявление рисков для конфиденциальности
Существуют также риски, не связанные со здоровьем, которые должны заставить людей задуматься. Самый очевидный из них заключается в том, что передача конфиденциальной медицинской информации общедоступному чат-боту может означать, что данные будут использованы для обучения модели и, следовательно, переданы другим. Известны случаи, когда модели случайно раскрывали данные, введенные пользователями, даже не имея на то намерения.
Некоторые провайдеры могут использовать данные для улучшения своих моделей, если пользователи не откажутся от этого, в то время как другие дают более твердые обещания не использовать информацию, связанную со здоровьем, для обучения. В любом случае, каждый должен знать, с каким сервисом имеет дело, прежде чем загружать что-либо конфиденциальное. Ваши медицинские данные не похожи на украденную кредитную карту, которую можно заблокировать, пока данные не будут заменены и карта перевыпущена. Они принадлежат вам на всю жизнь, и как только вы поделитесь ими с инструментом ИИ, они могут стать постоянной цифровой записью.
С другой стороны, большинство основных чат-ботов, ориентированных на здоровье, обещают не использовать эти данные для обучения. Тем не менее, обучение — это лишь одна сторона вопроса о конфиденциальности, и сервисы могут не давать таких же обещаний в отношении передачи данных третьим сторонам. Ваша личная медицинская информация может оказаться в руках агрегатора данных — третьей стороны, которая находится между поставщиком модели и вашим поставщиком медицинских услуг. Она также может быть передана рекламодателям, либо напрямую, либо через одного из этих агрегаторов, хотя обычно перед использованием она анонимизируется. Тем не менее, людям следует быть осторожными: данные о здоровье являются чрезвычайно конфиденциальными, и анонимизация не всегда устраняет все риски.
Когда риск утечки данных многократно возрастает
Проблема с конфиденциальными данными, проходящими через столько организаций, заключается в том, что возрастает вероятность их попадания в руки цифровых воров и мошенников. Законодатели США утверждают, что выявили убытки на сумму 21 миллиард долларов, связанные с несколькими утечками в компаниях-брокерах данных. Медицинские данные легко монетизируются мошенниками по нескольким причинам:
- Оно сохраняет свою ценность в течение длительного времени, так как его обычно нельзя заменить или перевыпустить
- Она может содержать страховую информацию, с помощью которой можно подать фальшивые заявления о выплате страхового возмещения или получить медицинские услуги от вашего имени
- Ее можно использовать для шантажа
Чем больше компаний хранит эти данные, тем больше у хакеров возможностей взломать их и похитить. Проблема заключается в том, что большинство инструментов искусственного интеллекта в сфере здравоохранения не регулируются законом HIPAA, поскольку они классифицируются как потребительские, а не корпоративные услуги. Это означает, что поставщики могут не подпадать под действие тех строгих правил защиты данных, которых обычно ожидаешь.
Советы для пациентов
Как же минимизировать риски, связанные с использованием GenAI в здравоохранении? Если вас беспокоит какое-либо заболевание, избегайте ботов общего назначения и ищите те, которые специально разработаны для ответов на вопросы, связанные со здоровьем. Проверьте, объясняет ли сервис, как он обрабатывает ваши данные, использует ли он ваши запросы для обучения, передает ли информацию третьим лицам и подпадает ли он под действие HIPAA или аналогичного режима конфиденциальности в вашей стране.
Не доверяйте результатам слепо, если нет ссылок на источники, позволяющие их проверить. И даже в этом случае не принимайте ответы за истину в последней инстанции: всегда сверяйтесь с медицинским специалистом и/или официальным веб-сайтом (например, NHS, MedlinePlus).
Чтобы защитить свою конфиденциальность, учтите следующее:
- Никогда не делитесь и не загружайте медицинские документы, результаты лабораторных исследований или другие конфиденциальные документы в инструмент ИИ, если вы не понимаете, как этот инструмент обрабатывает такие данные.
- Не вводите имена, адреса, данные о страховке, номера пациентов или другие идентификаторы.
- Убедитесь, что функции обучения и истории чата отключены.
- Делитесь только той минимальной информацией, которая необходима для выполнения задачи.
- Считайте, что все, что вы вводите, может быть сохранено или раскрыто, и соответствующим образом корректируйте свои запросы.
В конечном итоге, чат-боты с ИИ могут быть полезны для генерации идей о том, какие вопросы по конкретному заболеванию задать врачу, или для объяснения медицинского термина, с которым вы не знакомы. Но есть большая разница между использованием ИИ для подготовки к лечению и использованием его в качестве замены лечения. Не воспринимайте уверенный ответ как диагноз и не игнорируйте срочные симптомы только потому, что машина звучала обнадеживающе.
