В ООН предупреждают о нарастающих угрозах ИИ для детей

С увеличением объема вредоносного контента, созданного с помощью технологий искусственного интеллекта, организации ООН издали настоятельный призыв к международному сообществу о необходимости защиты детей от насилия, эксплуатации и психологических травм.

Космас Завазава, директор Бюро развития электросвязи при Международном союзе электросвязи (МСЭ), поделился мнением о множестве угроз, с которыми сталкиваются дети в современном цифровом мире.
Среди этих угроз — груминг, дипфейки, внедрение вредоносных функций в цифровые сервисы, кибербуллинг и доступ к недопустимому контенту.
Он отметил, что во время пандемии COVID-19 увеличилось количество случаев онлайн-насилия, особенно среди девочек и девушек, что зачастую приводило к физическому вреду.

Организации, отвечающие за защиту детей, предупредили о том, что злоумышленники могут использовать ИИ для анализа поведения детей в интернете, их эмоционального состояния и интересов, что позволяет им точнее манипулировать юными пользователями.

Технологии ИИ также позволили преступникам создавать фальшивые изображения настоящих детей, что стало причиной возникновения новых форм сексуального вымогательства.
Согласно отчету независимого Института глобальной безопасности детей Childlight, в США с 2023 года по 2024 год количество случаев сексуального насилия над детьми с использованием технологий увеличилось с 4,7 тысяч до более чем 67 тысяч.

В конце 2025 года Австралия стала первой страной в мире, которая запретила детям младше 16 лет иметь аккаунты в социальных сетях, основываясь на том, что риски от такого контента перевешивают возможные преимущества.

Правительство Австралии сослалось на собственные исследования, согласно которым почти две трети детей в возрасте от 10 до 15 лет сталкивались с жестоким, насильственным или травмирующим контентом, а более половины подвергались кибербуллингу. Большая часть этого контента распространялась через социальные сети.

Другие страны, включая Малайзию, Великобританию, Францию и Канаду, также рассматривают возможность введения аналогичных ограничений. Например, как сообщают СМИ, Национальное собрание Франции приняло в первом чтении законопроект, который запрещает детям младше 15 лет использовать социальные сети. Этот документ будет направлен далее на рассмотрение в Сенат.

В начале 2026 года структуры ООН, занимающиеся защитой прав детей, подписали Совместное заявление о правах ребенка и искусственном интеллекте, в котором подчеркиваются серьезные риски, с которыми общество пока не готово справиться.

По мнению ООН, странам необходимо больше практических рекомендаций для эффективного регулирования технологий, и был составлен детализированный список рекомендаций.

«Дети начинают выходить в онлайн-пространство все раньше, и их нужно защищать, — отметил Завазава. — Поэтому мы разработали рекомендации, направленные на защиту детей в интернете. Первая часть предназначена для родителей, вторая — для учителей, третья — для регулирующих органов, а четвертая — для индустрии и частного сектора».

Ключевые рекомендации

• Государства должны укреплять системы регулирования ИИ для защиты прав ребенка.


• Международные организации должны учитывать права детей в своих мерах и стратегиях, связанных с ИИ.


• Правительства и компании обязаны обеспечивать прозрачность, подотчетность и безопасность своих систем ИИ.


• Государствам следует предотвращать и пресекать насилие и эксплуатацию детей, происходящие или усиливаемые с помощью ИИ.


• Необходимы надежные механизмы защиты данных, ориентированные на детей.


• Решения, принимаемые с использованием ИИ, должны учитывать интересы и всестороннее развитие каждого ребенка.


• ИИ должен быть инклюзивным и свободным от предвзятости, чтобы все дети могли извлечь выгоду от технологий.


• Мнение и опыт самих детей должны учитываться при разработке политик и систем ИИ.


• Развитие ИИ должно способствовать экологической устойчивости и минимизировать долгосрочный вред для будущих поколений.