Манипулирование соцсетями: эксперты о методах противодействия

Западным соцсетям следует начать проверку личностей своих пользователей, чтобы предотвращать манипулирование при помощи ИИ, считают эксперты американского аналитического центра RAND*. По их словам, такое манипулирование представляет «прямую угрозу для демократических обществ по всему миру». 

Китай использует ИИ в целях пропаганды в соцсетях. «Усилия Китая по дезинформации становятся все смелее. Американские чиновники считают, что поддельные китайские аккаунты пытались повлиять на результаты нескольких выборов в Конгресс в 2022 году. Власти Тайваня также обвинили Китай в создании шквала фальшивых новостей незадолго до президентских выборов в этом году. В некоторых из них фигурировали сгенерированные искусственным интеллектом персонажи, включая Санта-Клауса».

Прокитайские аккаунты распространяли созданные ИИ изображения кричащих и плачущих мировых лидеров. «В прошлом году распространяли дезинформацию, что США вызвали разрушительный лесной пожар на Гавайях, использовав „погодное оружие“. Чтобы привлечь внимание к этим сообщениям, прокитайские аккаунты использовали сгенерированные ИИ фотографии, на которых изображен ураган огня и дыма, обрушивающийся на дома и высотки. На другом меме, распространенном с подозрительного китайского аккаунта, была изображена статуя Свободы с факелом в одной руке и винтовкой в другой. На правой руке статуи было семь пальцев».

В США высокий спрос на мемы и посты, поддерживающие ту или иную спорную сторону. Эксперт объясняет это тем, что США являются гиперполярной страной. «Китай никогда не отличался изощренностью своих усилий по дезинформации в Интернете. У него есть целая армия интернет-троллей, работающих в обширной сети поддельных аккаунтов в социальных сетях. Их посты часто легко заметить. Иногда они появляются посреди ночи в Соединенных Штатах и в рабочее время в Китае. Они знают, какие темы затронуть, но часто используют фразы, которые не употреблял бы ни один носитель английского языка. В одном из недавних постов об абортах содержался призыв обеспечить правовую защиту всех „заранее рожденных детей“».

Соцсетям следует «удвоить свои усилия по выявлению и удалению фальшивых аккаунтов». «Медиакомпаниям и другим законным создателям контента следует разработать цифровые водяные знаки или другие способы показать, что их фотографии и видео настоящие, а не созданы ИИ. Федеральные регулирующие органы должны, по крайней мере, взвесить все за и против того, чтобы обязать компании социальных сетей проверять личность своих пользователей, подобно тому, как это делают банки. Но все эти шаги потребуют времени и компромиссов. Чтобы сделать их правильно, потребуется открытый и информированный общественный разговор. Его нужно начинать уже сейчас, а не после очередной иностранной (или внутренней) атаки на демократический процесс в США на выборах 2024 года».

* Деятельность организации признана нежелательной на территории РФ