Астротурфинг: американские эксперты об угрозе со стороны Китая

Манипулирование общественным мнением в соцсетях при помощи генеративного ИИ (в частности, астротурфинг) представляет «угрозу демократическим ценностям» США, которая исходит прежде всего от Китая, говорится в докладе экспертов американского аналитического центра RAND. «Актуальные комментарии» подготовили обзор доклада.

Экспертов больше всего беспокоят перспективы революционного улучшения астротурфинга. Астротурфинг — попытка создать впечатление широко распространенной поддержки какого-либо события или идеи посредством ботов. Авторы доклада фокусируются на Китае и Народно-освободительной армии Китая (НОАК) как «наглядном примере потенциальной угрозы». 

У авторов доклада «нет доказательств того, что Пекин использует генеративный ИИ для публикации контента в социальных сетях». «Более того, не было доказано однозначной связи между прокитайским контентом и правительством КНР, но среди независимых исследователей, платформ социальных сетей, а также правительств США и других стран существует консенсус в том, что правительство КНР проводит манипуляции в социальных сетях», — говорится в докладе.

Китай имеет потенциал для разработки генеративных моделей ИИ, аналогичных технологиям, продемонстрированным американскими компаниями, признают авторы доклада. «Генеративный ИИ преуспевает в создании правдоподобного контента в масштабах, необходимых для поддержки крупных сетей ботов, но нет никакой гарантии, что его сообщения будут резонансными и влиятельными. По состоянию на апрель 2023 года не менее 30 китайских компаний, университетов и других исследовательских институтов разрабатывают генеративные модели искусственного интеллекта, включая крупные технологические компании, такие как Alibaba, Baidu, Huawei, iFlyTek и SenseTime», — отмечают эксперты RAND.

Коммунистическая партия Китая (КПК) заинтересована в развитии генеративного ИИ. «Генеративный ИИ дает КПК возможность реализовать давние желания по формированию глобальной дискуссии о себе и Китае в целом. Си Цзиньпин подтвердил это в своих выступлениях на заседании Политбюро КПК в мае 2021 года, посвященном «укреплению международного коммуникационного потенциала Китая». По словам Си, Китай должен «создать благоприятные условия для формирования внешнего общественного мнения в пользу китайских реформ, развития и стабильности», в том числе путем разработки более убедительных пропагандистских текстов и более точного подбора контента для конкретной аудитории. Си также подчеркнул, что с момента его прихода к власти в 2012 году Пекин усовершенствовал «возможности формирования международного общественного мнения», что в КПК называют воздействием на зарубежное общественное мнение и манипулированием им. 

Опасения КПК по поводу угрозы социальных сетей возникли в начале 2010-х годов под влиянием «арабской весны», указывается в докладе. Тогда социальные сети, управляемые компаниями, базирующимися в США и поддерживающими демократию, использовались движениями, свергавшими авторитарные правительства. «Публичные сообщения об использовании американским правительством неатрибутированных аккаунтов в социальных сетях почти наверняка укрепляют убежденность китайцев в том, что китайские и западные социальные медиа-платформы используются для борьбы за демократию», — отмечают авторы доклада.

Китайские военные — один из многих субъектов партийно-государственного влияния на иностранное общественное мнение, считают эксперты RAND. «Такая роль китайских военных обусловлена двумя причинами. Прежде всего, как вооруженное крыло КПК (а не национальные вооруженные силы), они в первую очередь отвечают за обеспечение безопасности и выживаемости режима КПК, поэтому стремятся поддерживать более широкие усилия по защите режима КПК за рубежом. Во-вторых, стратегия информационной войны китайских вооруженных сил („Три войны“) включает в себя борьбу с общественным мнением, а также психологическую и правовую войны. Теперь, когда НОАК переходит к войне на основе ИИ, генеративный искусственный интеллект, скорее всего, станет частью информационной войны китайских вооруженных сил следующего поколения, которые будут использовать социальные сети для формирования общественного мнения за рубежом», — отмечается в докладе.

Одним из потенциальных решений проблемы манипуляции общественным мнением может стать требование к платформам проверять личность пользователей, считают авторы доклада. В то же время, по их словам, проверка личности может оказать ограничивающее воздействие на свободу слова: анонимность социальных сетей способствует поддержке непопулярных высказываний (например, критики правительства), полагают эксперты, допуская возможность введения таких ограничений для американских платформ.