ИИ-чат-боты стали неотъемлемой частью нашей жизни с момента их появления более трех лет назад. ChatGPT, например, утверждает, что у него около 700 миллионов активных пользователей в неделю, многие из которых — «молодые люди». Исследование в Великобритании, проведенное в июле 2025 года, показало, что почти две трети (64%) детей используют такие инструменты. Аналогичная доля родителей обеспокоена тем, что их дети думают, будто ИИ-чат-боты — это реальные люди.
Хотя это может быть небольшим преувеличением, из-за частого использования технологии молодыми людьми возникают реальные опасения по поводу безопасности, конфиденциальности и психологического состояния. Как родитель, вы не можете полагаться на то, что все поставщики платформ имеют эффективные меры защиты, подходящие для детей. Даже когда такие меры существуют, их соблюдение не всегда последовательно, а сама технология развивается быстрее, чем политика.
Каковы риски?
Наши дети используют генеративный ИИ (GenAI) по-разному. Некоторые ценят его помощь в выполнении домашних заданий. Другие могут относиться к чат-боту как к цифровому компаньону, спрашивая у него совета и доверяя его ответам, как если бы это был близкий друг. С этим связано несколько очевидных рисков.
Первый — психологический и социальный. Дети проходят через невероятный период эмоционального и когнитивного развития, что делает их уязвимыми в различных аспектах. Они могут начать полагаться на ИИ-компаньонов в ущерб формированию настоящих дружеских отношений со сверстниками, усугубляя социальную изоляцию. А поскольку чат-боты запрограммированы так, чтобы угождать своим пользователям, они могут выдавать контент, который усиливает любые трудности, с которыми сталкиваются молодые люди, — например, расстройства пищевого поведения, самоповреждение и/или суицидальные мысли. Существует также риск того, что ваш ребенок будет проводить время со своим ИИ, что вытеснит не только человеческие дружеские отношения, но и время, которое должно быть потрачено на домашнее задание или на семью.
Существуют также риски, связанные с тем, к чему чат-бот GenAI может позволить вашему ребенку получить доступ в интернете. Хотя основные поставщики имеют защитные механизмы, предназначенные для ограничения ссылок на неприемлемый или опасный контент, они не всегда эффективны. В некоторых случаях они могут обойти эти внутренние меры безопасности, чтобы, например, предоставить контент сексуального или насильственного характера. Если ваш ребенок более технически подкован, он может даже суметь «взломать» систему с помощью специальных подсказок.
«Галлюцинации» — еще одна проблема. Для корпоративных пользователей это может создать значительные репутационные риски и риски ответственности. Но для детей это может привести к тому, что они будут верить ложной информации, убедительно представленной как факт, что приведет к принятию ими неразумных решений по медицинским вопросам или вопросам отношений.
Наконец, важно помнить, что чат-боты также представляют собой потенциальный риск для конфиденциальности. Если ваш ребенок введет конфиденциальную личную и финансовую информацию в запрос, она будет храниться у поставщика. Если это произойдет, теоретически она может быть доступна третьей стороне (например, поставщику/партнеру), взломана киберпреступником или передана другому пользователю. Так же, как вы не хотели бы, чтобы ваш ребенок слишком много рассказывал в социальных сетях, лучший курс действий — минимизировать то, что он делится с ботом GenAI.
Некоторые тревожные сигналы, на которые стоит обратить внимание
Конечно, платформы ИИ понимают и принимают меры по снижению этих рисков? Ну, да, но только до определенной степени. В зависимости от того, где живут ваши дети и каким чат-ботом они пользуются, может быть мало или совсем не быть проверки возраста или модерации контента. Поэтому ответственность определенно лежит на родителях, чтобы опередить любые угрозы посредством проактивного мониторинга и образования.
Прежде всего, вот несколько признаков того, что у ваших детей могут быть нездоровые отношения с ИИ:
- Они отказываются от внеклассных занятий с друзьями и семьей
- Они беспокоятся, когда не могут получить доступ к своему чат-боту, и могут пытаться скрыть признаки чрезмерного использования
- Они говорят о чат-боте так, как будто это реальный человек
- Они повторяют вам как «факт» очевидную дезинформацию
- Они спрашивают своего ИИ о серьезных проблемах, таких как проблемы с психическим здоровьем (о чем вы узнаете, получив доступ к истории разговоров)
- Они получают доступ к взрослому/неприемлемому контенту, предоставляемому ИИ
Время поговорить
Во многих юрисдикциях использование ИИ-чат-ботов разрешено только пользователям старше 13 лет. Но учитывая нестрогое соблюдение правил, вам, возможно, придется взять дело в свои руки. Разговоры важнее только контроля. Для наилучших результатов рассмотрите возможность сочетания технических средств контроля с просвещением и советами, предоставляемыми в открытой и неконфронтационной манере.
Находятся ли они в школе, дома или участвуют в клубе после школы, у ваших детей есть взрослые, которые говорят им, что делать каждую минуту их бодрствования. Поэтому постарайтесь представить свое общение об ИИ как двусторонний диалог, в котором они чувствуют себя комфортно, делясь своим опытом без страха наказания. Объясните опасность чрезмерного использования, «галлюцинаций», обмена данными и чрезмерной опоры на ИИ для решения серьезных проблем. Помогите им понять, что ИИ-боты — это не реальные люди, способные мыслить — что это машины, разработанные для того, чтобы быть увлекательными. Научите своих детей критически мыслить, всегда проверять факты, выдаваемые ИИ, и никогда не заменять разговор с родителями сеансом с машиной.
При необходимости сочетайте это просвещение с политикой ограничения использования ИИ (так же, как вы можете ограничить использование социальных сетей или экранного времени в целом) и ограничением использования платформами, соответствующими возрасту. Включите родительский контроль в приложениях, которые они используют, чтобы помочь вам отслеживать использование и минимизировать риск. Напомните своим детям никогда не делиться личной информацией (PII) с ИИ и настройте их параметры конфиденциальности, чтобы снизить риск непреднамеренных утечек.
Нашим детям нужны люди в центре их эмоционального мира. ИИ может быть полезным инструментом для многих вещей. Но пока ваши дети не выработают здоровые отношения с ним, их использование должно тщательно контролироваться. И это никогда не должно заменять человеческий контакт.
