Deepfake Election

2024 год — сосредоточение электоральных кампаний по всему миру, — обещает вместе с тем стать годом активного применения ИИ по ходу выборов. Тем не менее речь всё чаще идет не о перспективах, а о рисках: как предотвратить манипуляции электоратом посредством «дипфейка» и сгенерированных речей политиков? 

Проблемы сегодняшнего дня 

Рассматривать деструктивное влияние технологий ИИ на электоральный процесс как нечто потенциальное или далёкое было бы ошибкой. Соответствующие кейсы сегодня уже повсеместно.

Например, аналитический центр The Brookings Institution обращает внимание на 2 недавних случая. В Словакии за несколько дней до парламентских выборов в Интернете получила широкое распространение аудиозапись, на которой глава пронатовской партии рассуждает о покупке голосов. Факт-чекеры оперативно признали «подделку», однако соответствующий шум в соцсетях бы вызвал. 

В Аргентине произошел менее однозначный скандал — «Мелкогейт». Он коснулся Карлоса Мелконяна, бывшего президента Национального банка, которого кандидат в президенты Патриция Булрич утверждала в качестве будущего Министра экономики. В инфополе всплыла запись голоса, на которой Мелконян грубо высказывается о женщинах. Булрич, очевидно, несущая репутационный ущерб, заявляла, что запись искусственно сгенерирована, однако до сих пор однозначного ответа нет — принадлежит голос Мелконяну или «компьютеру».

В любом случае, кейсы демонстрируют две потенциальные проблемы для выборов, провоцируемые распространением ИИ. С одной стороны, генеративные модели — эффективный инструмент создания «фейков». С другой стороны, подобные инциденты создают кандидатам пространство для оправдания — происхождение любых свидетельств, порочащих их репутацию, кандидаты могут объяснять применением современных технологий. 

Как спасти выборы?

Регулирование ИИ — широко обсуждаемая тема, однако на данный момент едва ли выливающаяся в конкретные решения со стороны власти. Тем более это касается контроля в рамках электоральных кампаний. 

Если абстрагироваться от теоретических экспертных рассуждений, можно выделить 2 «фронта», на которых решается вопрос относительно сдерживания ИИ на выборах. 

• Инициативы «снизу». Подобную тенденцию можно зафиксировать в США — на фоне старта электорального цикла отдельные штаты активно предлагают законопроекты, сфокусированные на контроле. NBC News разделяют подобные инициативы на 2 вида: те, которые предполагают введение соответствующей маркировки на сгенерированных ИИ материалах, и те, которые предполагают полный запрет на генеративный контент.
  
  Есть и другие нюансы. Зачастую законопроекты, выдвигаемые в Штатах, также содержат пункт о необходимости согласия политика на «цифровизацию» своей личности. Если «цифровая копия» кандидата предстает в Интернете в какой-либо форме, он имеет право подать в суд для возмещения ущерба.
  
  В любом случае, подобные законопроекты находятся на стадии обсуждения. Проблема усугубляется тем, что инициатива идёт преимущественно «снизу» — федеральный центр пока остаётся пассивным наблюдателем. 
  
  
• Ответственность технологических компаний. Тренд, наметившийся ещё в середине 2023 года, — стремление компаний, ответственных за разработку генеративных моделей, собственноручно взять на себя регуляторную функцию.
  
  Аналогичную ситуацию можно наблюдать и в контексте электоральных процедур — 20 крупных технологических компаний, в том числе OpenAI, договорились бороться с «вмешательством» ИИ в выборы. В частности, пишет Reuters, соглашение компаний включает в себя «обязательства по сотрудничеству в разработке инструментов для обнаружения вводящих в заблуждение изображений, видео и аудио, созданных искусственным интеллектом, организации кампаний по информированию избирателей об обманчивом контенте и принятию мер в отношении такого контента на своих сервисах».

Какие выводы можно сделать?

Во-первых, согласованность целей BigTech-сектора и государственных органов — положительный сигнал для эффективного контроля за «присутствием» технологий в электоральном процессе. Можно ожидать, что «центр тяжести» не будет находиться на одном из полюсов, — государственное или бизнес-регулирование. Вместо этого, вероятная перспектива — кооперация акторов с обеих сторон. 

Во-вторых, рост внимания к рискам распространения ИИ в политическом измерении, вероятно, негативно скажется на «кибероптимизме», сложившемся, например, в России. Ранее российские партии неоднократно обращались к теме использования соответствующих технологий в рамках электоральных кампаний (генерация предвыборных текстов и изображений, «цифровая копия» партийного лидера), чтобы заработать «репутационные очки». Вероятно, на фоне регуляторной повестки «игра» в этом поле будет встречена аудиторией с меньшим энтузиазмом. 

В любом случае, риски будут только обостряться. Уже сейчас результаты работы Sora — модели, генерирующей видеоконтент, под авторством OpenAI, привлекают массовое внимание за счет своей реалистичности. А это значит, что в будущем политические «фейки» — неизбежная реальность.

Павел Иванов, аналитик Центра политической конъюнктуры

#ПавелИванов