Борьба за ChatGPT: как США пытаются остановить китайскую пропаганду

Американские эксперты опасаются, что генеративный ИИ может стать инструментом авторитарных режимов. В статье для американской газеты The Hill они пишут, что ставшая популярной система генеративного ИИ ChatGPT имеет «устрашающе человеческие способности в написании эссе, поэзии и компьютерного кода» и может побудить мировых диктаторов к созданию «уникального пропагандистского контента».

ChatGPT уже продемонстрировал способность генеративного ИИ автоматизировать китайскую зарубежную дезинформацию «одним нажатием кнопки». Авторы статьи — научные сотрудники, специализирующиеся на безопасности ИИ, Билл Дрексел и Калеб Уизерс — опасаются, что системы генеративного ИИ могут «усилить китайскую пропаганду в Соединенных Штатах». «В сочетании с достижениями в области целевой рекламы и других методов пропаганды генеративный ИИ предвещает революцию в скорости, масштабе и доверии к операциям авторитарного влияния», — пишут эксперты. 

Правительство Китая «может использовать всю мощь государства для оптимизации влияния своей пропаганды». По словам авторов статьи, в 2019 году китайский лидер Си Цзиньпин потребовал именно этого, когда приказал своей партии использовать искусственный интеллект для «всестороннего увеличения» способности Коммунистической партии Китая формировать общественное мнение жителей КНР. Эти усилия «подкрепляются ошеломляющим множеством китайских агентств, которым поручено контролировать мысли, культивируя конкурентоспособную экосистему инструментов цифровой пропаганды, ежегодно поддерживаемую многомиллиардными бюджетами».

Китай является «благодатной почвой для генеративного ИИ». По словам экспертов, в Китае может произойти «исторический прорыв в пропаганде — рецепте для новых международных катастроф, более серьезных нарушений прав человека и дальнейшего укоренения деспотизма». «По мере того как Китай совершенствует и экспортирует свой техно-авторитаризм, потенциальные тираны во всем мире, скорее всего, наживаются на пропагандистской революции», — уверяют авторы статьи.

Генеративные модели ИИ легко украсть, пишут эксперты. «Удержать передовые модели ИИ от рук автократов является «сложной задачей на техническом уровне», говорится в статье. «Несмотря на то, что для создания требуются огромные ресурсы, после разработки модели ее можно легко скопировать и адаптировать с минимальными затратами. Китай регулярно крадет технологии американских корпораций», — предупреждают эксперты.

Компаниям следует относиться к разработке генеративного ИИ с осторожностью. По словам американских экспертов, необходимы меры безопасности, подходящие для «технологии с огромным потенциалом разжигания деспотизма». Также корпорациям следует воздерживаться от раскрытия технических особенностей своих передовых моделей, резюмируют эксперты.