От дипфейков до груминга. В ООН предупредили о нарастающих угрозах ИИ для детей
Космас Завазава, директор Бюро развития электросвязи Международного союза электросвязи (МСЭ), отметил, что дети сталкиваются с множеством угроз, включая груминг, дипфейки, кибербуллинг и доступ к неприемлемому контенту, что приводит к серьезным последствиям.
Он также добавил, что во время пандемии COVID-19 многие дети, в особенности девочки, стали жертвами онлайн-насилия, что нередко приводило к физическому вреду.
Организации, занимающиеся защитой прав детей, предупреждают о том, что злоумышленники могут использовать ИИ для анализа поведения детей в интернете, их эмоционального состояния и интересов, что позволяет им более эффективно манипулировать и вовлекать их. Кроме того, ИИ также может использоваться для создания фальшивых изображений детей, что открывает новые возможности для сексуализированного вымогательства.
Необходимость образовательных инициатив об ИИ
В начале 2026 года ряд организаций ООН, работающих в области защиты детей, подписали Совместное заявление, в котором обсуждаются искусственный интеллект и права ребенка. В документе подчеркивается, что общество не готово к вызовам, связанным с ИИ, и существуют серьезные риски.В заявлении отмечается недостаток осведомленности об ИИ среди детей, родителей, учителей и опекунов, а также отсутствие необходимой подготовки у государственных структур для регулирования ИИ, защиты данных и оценки воздействия технологий на права детей.
Ответственность технологических компаний
Важное внимание уделяется роли крупных технологических компаний. В заявлении подчеркивается, что большинство ИИ-инструментов разрабатываются без учета интересов детей и их безопасности. "Нас беспокоит эта ситуация, и мы стремимся к тому, чтобы частный сектор стал активным участником и помощником в решении этих вопросов", - отметил Завазава.Он также выразил уверенность в том, что компании способны сделать свои продукты более безопасными: "Сначала мы думали, что они боятся ограничить инновации, но наш посыл ясен: ответственно использованный ИИ может приносить прибыль и сохранять конкурентоспособность".
"Частный сектор - это наш партнер, и мы должны предупреждать, когда видим, что технологии могут вызвать негативные последствия", - добавил представитель МСЭ.
Права детей в цифровую эпоху
Это не первая инициатива, направленная на привлечение внимания к рискам с правозащитной точки зрения: в 2021 году в Конвенцию о правах ребенка были внесены новые положения, отражающие вызовы цифровой эпохи. Тем не менее, ООН считает, что странам необходимо больше практических рекомендаций для эффективного регулирования, и в связи с этим был подготовлен обширный список рекомендаций. "Дети начинают выходить в интернет в очень раннем возрасте, и их нужно защищать", - подчеркнул Завазава. "Поэтому мы разработали рекомендации по обеспечению безопасности детей в интернете, адресованные родителям, учителям, регулирующим органам и частному сектору".Ключевые рекомендации
- Государствам необходимо укреплять механизмы регулирования ИИ для защиты прав ребенка.
- Международные организации должны учитывать права детей во всех инициативах, связанных с ИИ.
- Правительства и компании должны обеспечивать прозрачность и безопасность ИИ-систем.
- Государствам следует предотвращать и пресекать насилие и эксплуатацию детей, связанные с ИИ.
- Необходимы надежные механизмы защиты данных, ориентированные на детей.
- Решения, принимаемые с помощью ИИ, должны учитывать интересы и развитие каждого ребенка.
- ИИ должен быть инклюзивным и свободным от предвзятости, чтобы все дети могли получать равные преимущества от технологий.
- Опыты и мнения детей должны быть учтены при разработке политики и систем ИИ.
- Развитие ИИ должно способствовать устойчивому развитию и минимизировать долгосрочный ущерб для будущих поколений.
Обсудим?
Смотрите также:
