Китай обеспокоен тем, что ИИ угрожает власти Компартии, и пытается его обуздать

В ноябре этого года Китай ввел новые правила, требующие от чат-ботов с ИИ проходить обучение на политически адаптированных данных и сдавать идеологические тесты перед выходом в публичное пространство. Все материалы, созданные с помощью ИИ, включая тексты, изображения и видео, должны быть четко обозначены и отслеживаемы, что упрощает выявление и наказание за распространение нежелательного контента.
По словам информированных источников, китайские чиновники стараются избежать чрезмерного регулирования, так как это может негативно сказаться на инновациях и привести к снижению конкурентоспособности Китая в глобальной гонке ИИ, особенно по сравнению с США, где подход к регулированию более свободный.

Тем не менее, Пекин не может позволить себе полный контроль над ИИ. Как сообщают государственные СМИ, в начале 2023 года лидер Китая Си Цзиньпин отметил, что ИИ представляет собой «беспрецедентные риски». Один из его заместителей провел аналогию между ИИ без необходимых мер безопасности и вождением автомобиля по шоссе без тормозов.

Существуют признаки того, что Китай успешно балансирует на грани. Местные модели ИИ занимают высокие позиции в международных рейтингах и демонстрируют конкурентоспособность как в целом, так и в специфических областях, таких как программирование, несмотря на то, что их ответы ограничены по темам, связанным с массовыми убийствами на площади Тяньаньмэнь и правами человека. К тому же, многие ведущие американские модели ИИ недоступны для пользователей в Китае.

Исследователи за пределами Китая, анализировавшие как китайские, так и американские модели, отмечают, что подход Китая к регулированию имеет свои плюсы: его чат-боты, как правило, обеспечивают большую безопасность, реже содержат насилие и порнографию, а также менее склонны подталкивать пользователей к самоповреждениям.