Китай усиливает цензуру и контроль над искусственным интеллектом, используя его для изменения мировоззрения людей. Эксперты отмечают, что Китайская коммунистическая партия (КПК) видит в ИИ инструмент для воздействия на умы граждан.
Недавно КПК ввела новые регулятивные меры, которые направлены на то, чтобы технологические компании страны строго следовали идеологическим нормам партии. Все компании, работающие с ИИ, обязаны проходить государственную проверку, которая анализирует их большие языковые модели (LLMs) на соответствие “основным социалистическим ценностям”. Как пишет Financial Times, цель этих мер – контроль над материалами, которые создаются с использованием технологий ИИ.
На протяжении многих лет Китай подавлял доступную в интернете информацию с помощью “Великого китайского файрвола”. Этот инструмент использовался для блокировки материалов, которые КПК считает нежелательными, например, информации о резне на площади Тяньаньмэнь в 1989 году или же к примеру мемов, которые сравнивают президента Китая Си Цзиньпина с Винни-Пухом. Теперь эта система цензуры распространяется и на сферу ИИ, в которой Китай стремительно развивает свои технологии.
Администрация киберпространства Китая (CAC) требует от компаний, таких как ByteDance, Moonshot и 01.AI, участвовать в процессе проверки, чтобы анализировать, насколько эффективно их программы цензурируют создаваемые ими LLM (текстовый контент). Системы чат-ботов разрабатываются для сбора и блокировки информации по чувствительным ключевым словам и вопросам, которые касаются запрещенных тем, таких как права человека. В ответ на такие вопросы чат-боты часто предлагают пользователям задать другой вопрос или сообщают, что еще не готовы ответить.
Чтобы избежать чрезмерного отклонения вопросов, правила CAC требуют, чтобы LLM не отвергали более 5% всех запросов. Вместо этого вводятся стандартные ответы, которые считаются политически корректными для Китая. Однако также следует отметить, что контролировать ответы LLM для разработчиков является крайне сложной задачей.
Специалист по ИИ Артур Герман, ведущий исследователь и руководитель Инициативы квантового альянса в Институте Гудзона, подчеркнул, что этот контроль несет серьезную опасность. “Это то будущее, которое Китай планирует для своих людей,” – заявил Герман. “Они также считают это (ИИ) способом управлять другими (гражданами других стран).”
Присоединяйтесь к нашему телеграм-каналу
Герман указал на растущие связи Китая с глобальным югом, где социальные платформы, такие как WeChat, становятся все популярнее. “Эти программы неизбежно будут содержать элементы социального и умственного контроля,” – добавил он. “И это формирует мир, который все больше будет выглядеть так, как хочет Китай.”
Эксперт также отмечает, что такие стратегии используются не только в странах с авторитарными режимами, но и в тех местах, где эти платформы доступны, включая США. “Они овладели искусством манипулирования через TikTok,” – заявил Герман. “Китайские разработчики создали платформу, которая вызывает сильную зависимость и влияет на изменения в мировоззрении пользователей.”
Герман считает, что технологии TikTok – это лишь пример того, как Китай может использовать ИИ для манипуляции людьми за пределами своей страны. “Китай видит в ИИ инструмент для изменения мышления людей,” – отметил он. “Способность ИИ усиливать такие методы контроля настолько велика, что даже без прямого наблюдения и пропаганды есть более тонкие способы влияния на сознание через повседневные взаимодействия, которые все больше контролируются КПК.
