Как защитить детей от угроз цифрового мира

Современный цифровой мир стремительно меняется: технологии, которые еще несколько лет назад казались фантастикой, сегодня становятся обыденностью для детей. Искусственный интеллект открыл безграничные возможности для обучения и творчества, но вместе с этим поставил перед обществом сложный вопрос: как защитить детей в мире, где граница между реальностью и вымыслом стирается, а риски растут быстрее, чем мы успеваем осознать?

В США зафиксированы случаи, когда взаимодействие детей с чат-ботами на основе искусственного интеллекта приводило к трагическим последствиям. В частности, в феврале 2024 года 14-летний подросток из Флориды совершил самоубийство после длительного общения с чат-ботом Character.ai — именно оно, по словам матери, способствовало развитию эмоциональной зависимости и подтолкнуло к роковому решению. В августе 2025 года родители 16-летнего подростка из Калифорнии подали иск против OpenAI, обвиняя чат-бот ChatGPT в том, что он оказывал поддержку и предоставлял инструкции по самоубийству, в частности помощь в написании прощального письма и сокрытии следов предыдущих попыток самоповреждения. Эти случаи подчеркивают необходимость тщательного контроля и ограничений в использовании ИИ-технологий детьми и подростками. Короткометражный фильм от WeProtect Global Alliance показывает на примерах, как это работает с детьми в реальной жизни.

С момента запуска ChatGPT в ноябре 2022 года большинство онлайн-рисков претерпели значительное развитие и углубили уязвимость детей в цифровом пространстве. Инструменты ИИ могут легко использоваться для создания реалистичных текстов, фото, видео, аудио, голосовых и других цифровых продуктов. И, как показывают исследования, дети активно применяют эти новые инструменты для жизни, обучения, общения и развлечений. В то же время растет риск использования технологии с целью причинения вреда или увеличения рисков для детей из-за несовершенства самих моделей. Также наблюдается технологический разрыв поколений — когда дети активно используют технологию, тогда как родители и учителя не имеют базового понимания ее функционирования, путей применения и рисков, а следовательно не могут обеспечить безопасность детей.

Каковы же ключевые риски ИИ для детей?

Кибербуллинг, онлайн-шантаж, создание deep fake материалов с целью травли: ИИ может автоматически генерировать угрозы, оскорбительные комментарии или создавать поддельные фото и видео. Часто даже опытные пользователи не могут отличить реальный контент от поддельного, что делает детей особенно уязвимыми.

Сексуальное насилие онлайн: использование ИИ для создания материалов сексуального насилия над детьми и/или для дальнейших манипуляций. Преступники могут применять ИИ для генерации контента или для дальнейшего шантажа, используя как обычные изображения детей из соцсетей, так и уже имеющиеся материалы. Цель — получить новые фото, требовать деньги, личные встречи или совершить другие преступления.

Обучение должно быть системным

Ложная или манипулятивная информация, которая может влиять на мировоззрение детей: ИИ-боты могут давать ответы на основе материалов дезинформации или пропаганды или неправильно интерпретировать факты. Часто данные могут содержать предубеждения и стереотипы, а также очень уверенные, но неправильные ответы.

Негативное влияние на когнитивное развитие и социальные навыки: использование ИИ для получения готовых ответов ослабляет желание детей учиться и искать решения самостоятельно. Это приводит к снижению навыков решения проблем, анализа информации, критического мышления, креативности и социального взаимодействия. Также ограничивается практика общения в команде, совместного решения конфликтов и формирования эмоционального интеллекта — из-за постоянных запросов к ИИ вместо коллективной работы или самостоятельного анализа, привыкания получать поддержку от чат-ботов вместо реальных друзей и родителей и т. д.

Влияние на ментальное и физическое здоровье, в частности тревога, депрессия, социальная изоляция, зависимость от онлайн-коммуникаций, уменьшение физической активности, ожирение: дети все чаще общаются с ИИ вместо людей, что формирует «дружбу с ботами» и чрезмерное использование гаджетов. Чат-боты запрограммированы поддерживать пользователя во всем, что поощряет проводить больше времени онлайн и снижает социализацию.

Психологические риски: фрустрация, неуверенность, экзистенциальный кризис из-за изменений на рынке труда. Перспектива замещения ИИ многих профессий заставляет детей испытывать потерю мотивации к обучению и непонимание своей будущей роли в обществе.

Угроза похищения личных данных: информация, переданная ИИ, может быть сохранена и использована для коммерческой выгоды, манипуляций или неправомерного использования.

Будущее детей в цифровой среде зависит не только от того, насколько технологии развиты, но и от того, насколько общество способно предвидеть и контролировать их влияние. На чем именно нам стоит сосредоточить внимание, чтобы защитить детей от рисков нового времени?

1. Регулирование

ИИ развивается быстрее, чем мы можем заметить. Поэтому нужны четкие требования к возрастным ограничениям в ИИ-сервисах, системы выявления и блокировки создания детского сексуального контента, санкции за deepfake-материалы, наносящие вред детям, и обязательства компаний иметь прозрачные механизмы безопасности.

Существуют успешные мировые примеры, на которые мы как страна можем опираться. Великобритания разрешила проверять модели ИИ, чтобы предотвращать создание материалов сексуального насилия над детьми с помощью ИИ. Известный в Британии Online Safety Act так же регулирует эту тему. В США принят TAKE IT DOWN Act, который вводит обязательное удаление и ответственность за распространение такого контента. А на уровне ЕС вступил в силу AI Act, устанавливающий строгие правила и запреты для высокорисковых систем ИИ, включая те, которые могут угрожать детям.

2. Цифровая грамотность и критическое мышление

Важно обеспечить и поддерживать непрерывное обучение, развитие критического мышления, понимание онлайн-рисков и алгоритма действий, если что-то случается. Обучение должно быть системным: в школах, внешкольных учреждениях, дополнительных курсах — везде, где ребенок может это усвоить до того, как у него возникнет первая опасная ситуация.

3. Доверительные отношения и психологическая поддержка

Детям важно иметь взрослого, которому они доверяют. Это могут быть родители, старшие братья или сестры, тетя, бабушка, учитель и т. д. С этим взрослым ребенок получает безопасное пространство для разговора и поддержки. Взрослый, в свою очередь, может при необходимости подключать сторонних специалистов.

Регулирование, понимание рисков, критическое мышление, ответственное цифровое поведение и активное участие взрослых — вот ключи к тому, чтобы технологии служили развитию, а не вредили. Без таких мер дети рискуют остаться беззащитными в мире, где виртуальное и реальное уже почти неотделимы.

Присоединяйтесь к нашему телеграм-каналу Погляди NV

Больше блогов здесь