Статья
2336 20 февраля 2024 17:04

Deepfake Election

2024 год — сосредоточение электоральных кампаний по всему миру, — обещает вместе с тем стать годом активного применения ИИ по ходу выборов. Тем не менее речь всё чаще идет не о перспективах, а о рисках: как предотвратить манипуляции электоратом посредством «дипфейка» и сгенерированных речей политиков? 

Проблемы сегодняшнего дня 

Рассматривать деструктивное влияние технологий ИИ на электоральный процесс как нечто потенциальное или далёкое было бы ошибкой. Соответствующие кейсы сегодня уже повсеместно.

Например, аналитический центр The Brookings Institution обращает внимание на 2 недавних случая. В Словакии за несколько дней до парламентских выборов в Интернете получила широкое распространение аудиозапись, на которой глава пронатовской партии рассуждает о покупке голосов. Факт-чекеры оперативно признали «подделку», однако соответствующий шум в соцсетях бы вызвал. 

В Аргентине произошел менее однозначный скандал — «Мелкогейт». Он коснулся Карлоса Мелконяна, бывшего президента Национального банка, которого кандидат в президенты Патриция Булрич утверждала в качестве будущего Министра экономики. В инфополе всплыла запись голоса, на которой Мелконян грубо высказывается о женщинах. Булрич, очевидно, несущая репутационный ущерб, заявляла, что запись искусственно сгенерирована, однако до сих пор однозначного ответа нет — принадлежит голос Мелконяну или «компьютеру».

В любом случае, кейсы демонстрируют две потенциальные проблемы для выборов, провоцируемые распространением ИИ. С одной стороны, генеративные модели — эффективный инструмент создания «фейков». С другой стороны, подобные инциденты создают кандидатам пространство для оправдания — происхождение любых свидетельств, порочащих их репутацию, кандидаты могут объяснять применением современных технологий. 

Как спасти выборы?

Регулирование ИИ — широко обсуждаемая тема, однако на данный момент едва ли выливающаяся в конкретные решения со стороны власти. Тем более это касается контроля в рамках электоральных кампаний. 

Если абстрагироваться от теоретических экспертных рассуждений, можно выделить 2 «фронта», на которых решается вопрос относительно сдерживания ИИ на выборах. 

  • Инициативы «снизу». Подобную тенденцию можно зафиксировать в США — на фоне старта электорального цикла отдельные штаты активно предлагают законопроекты, сфокусированные на контроле. NBC News разделяют подобные инициативы на 2 вида: те, которые предполагают введение соответствующей маркировки на сгенерированных ИИ материалах, и те, которые предполагают полный запрет на генеративный контент.

    Есть и другие нюансы. Зачастую законопроекты, выдвигаемые в Штатах, также содержат пункт о необходимости согласия политика на «цифровизацию» своей личности. Если «цифровая копия» кандидата предстает в Интернете в какой-либо форме, он имеет право подать в суд для возмещения ущерба.

    В любом случае, подобные законопроекты находятся на стадии обсуждения. Проблема усугубляется тем, что инициатива идёт преимущественно «снизу» — федеральный центр пока остаётся пассивным наблюдателем. 

  • Ответственность технологических компаний. Тренд, наметившийся ещё в середине 2023 года, — стремление компаний, ответственных за разработку генеративных моделей, собственноручно взять на себя регуляторную функцию.

    Аналогичную ситуацию можно наблюдать и в контексте электоральных процедур — 20 крупных технологических компаний, в том числе OpenAI, договорились бороться с «вмешательством» ИИ в выборы. В частности, пишет Reuters, соглашение компаний включает в себя «обязательства по сотрудничеству в разработке инструментов для обнаружения вводящих в заблуждение изображений, видео и аудио, созданных искусственным интеллектом, организации кампаний по информированию избирателей об обманчивом контенте и принятию мер в отношении такого контента на своих сервисах».

Какие выводы можно сделать?

Во-первых, согласованность целей BigTech-сектора и государственных органов — положительный сигнал для эффективного контроля за «присутствием» технологий в электоральном процессе. Можно ожидать, что «центр тяжести» не будет находиться на одном из полюсов, — государственное или бизнес-регулирование. Вместо этого, вероятная перспектива — кооперация акторов с обеих сторон. 

Во-вторых, рост внимания к рискам распространения ИИ в политическом измерении, вероятно, негативно скажется на «кибероптимизме», сложившемся, например, в России. Ранее российские партии неоднократно обращались к теме использования соответствующих технологий в рамках электоральных кампаний (генерация предвыборных текстов и изображений, «цифровая копия» партийного лидера), чтобы заработать «репутационные очки». Вероятно, на фоне регуляторной повестки «игра» в этом поле будет встречена аудиторией с меньшим энтузиазмом. 

В любом случае, риски будут только обостряться. Уже сейчас результаты работы Sora — модели, генерирующей видеоконтент, под авторством OpenAI, привлекают массовое внимание за счет своей реалистичности. А это значит, что в будущем политические «фейки» — неизбежная реальность.

Павел Иванов, аналитик Центра политической конъюнктуры

#ПавелИванов
18 апреля 2024 Новости  ЕДГ-2024: эксперты о политической конфигурации Текущая предвыборная кампания в преддверии единого дня голосования, который пройдет 8 сентября, станет «прологом думской кампании» 2026 года, отмечают политологи, принявшие участие в круглом столе, организованном ЭИСИ 18 апреля. По словам экспертов, практически все губернаторы, которые в этом году будут участвовать в выборах глав регионов, получат поддержку президента и пойдут на второй срок. 18 апреля 2024 Новости  Риск экстремизма: эксперты о предвыборной гонке в США Трамп пытается подорвать доверие к избирательному процессу в США, заявляя о массовых нарушениях, связанных с голосованием мигрантов, обращают внимание американские эксперты. Также аналитики указывают на серьезный риск роста экстремизма и насилия во время президентской кампании. «Актуальные комментарии» подготовили обзор статей и докладов на тему президентских выборов в США, опубликованных американскими аналитическими центрами за последнюю неделю. 19 апреля 2024 Анонс  Парламентские выборы в Индии С 19 апреля по 1 июня в Индии пройдут парламентские выборы.
© 2008 - 2024 Фонд «Центр политической конъюнктуры»
Сетевое издание «Актуальные комментарии». Свидетельство о регистрации средства массовой информации Эл № ФС77-58941 от 5 августа 2014 года, Свидетельство о регистрации средства массовой информации Эл № ФС77-82371 от 03 декабря 2021 года. Издается с сентября 2008 года. Информация об использовании материалов доступна в разделе "Об издании".