Опасность дипфейков и законодательный контроль: обзор доклада американских экспертов

Западные эксперты обеспокоены распространением дипфейков, которые являются инструментом для манипулирования общественным мнением и могут усугубить социальные разногласия. Специалисты американского аналитического центра Rand Corporation опубликовали доклад, в котором проанализированы риски дипфейков, факторы, смягчающие их использование, а также законодательные инициативы, направленные на их контроль.

Что такое дипфейки. Дипфейки — это синтетически измененные кадры, в которых изображенное лицо или тело были изменены в цифровом виде, чтобы выглядеть как что-то другое. Такие изображения или видео становятся все более реалистичными, и многие опасаются, что технология резко увеличит угрозу как внешней, так и внутренней дезинформации. Еще один тип дипфейков — клонирование голоса. Дипфейки и связанный с ними поддельный контент, созданный искусственным интеллектом, появляются в периоды социальной нестабильности, отмечают авторы доклада.

Риски. Контент дипфейков может манипулировать выборами. Например, перед голосованием может появиться видео, на котором кандидат делает какое-либо спорное заявление. Не исключено, что такое видео может повлиять на исход выборов. Во-вторых, дипфейк может усугубить социальные разногласия. Исследования зафиксировали онлайн-эхо-камеры, в которых сторонники непропорционально потребляют и делятся контентом, который согласуется с их собственным мнением и подкрепляет его. В-третьих, контент дипфейков может снизить доверие к институтам и властям. И в-четвертых, он может подорвать журналистику и заслуживающие доверия источники информации. Еще одна проблема заключается в том, что исследовательское сообщество только начинает изучать потенциальные последствия дипфейков. Систематический обзор научной литературы по оценке социальных последствий дипфейков выявил только 21 исследование, в которых использовались активные эксперименты для понимания истинного воздействия дипфейков на реальных пользователей.

Факторы, смягчающие использование дипфейков. Несколько факторов смягчают злонамеренное использование дипфейков. Во-первых, гораздо большую угрозу создают «поверхностные» фейки — это видео, которые были изменены вручную или выборочно, чтобы ввести аудиторию в заблуждение. Второй фактор, снижающий злонамеренное использование дипфейков, заключается в том, что создание высококачественного видео, по крайней мере, на данный момент, недоступно для любителей. И в-третьих, на создание таких видео могут уйти месяцы.

Методы нейтрализации дипфейков и законодательные инициативы. Одним из основных подходов к снижению роста дипфейков является разработка и внедрение автоматизированных систем, которые могут обнаруживать дипфейки. Хотя возможности обнаружения значительно улучшились за последние несколько лет, то же самое можно сказать и о разработке дипфейковых видео. Результатом является гонка вооружений, которая явно идет на пользу тем, кто создает дипфейк-контент. Что касается законодательных инициатив, то в США, например, на федеральном уровне было предпринято две инициативы по совершенствоанию правительственной отчетности перед Конгрессом по вопросу дипфейков. Закон об отчетах о дипфейках от 2019 года требует, чтобы «министр национальной безопасности публиковал ежегодный отчет о масштабах использования технологий подделки цифрового контента, также известных как технологии дипфейков, для ослабления национальной безопасности, подрыва выборов в США и манипулирования средствами массовой информации». Однако существует несколько проблем с законами, которые направлены на регулирование создания дипфейковых видео с помощью уголовного закона. Во-первых, такие законы обеспечивают ограниченную защиту от дипфейков, создаваемых и распространяемых из других стран. Во-вторых, неясно, выдержат ли такие законы судебные разбирательства на том основании, что они нарушают права на свободу слова, закрепленные в законодательстве США.

Рекомендации. Усилия по повышению медиаграмотности должны поддерживаться на международном уровне. Новостные организации, платформы социальных сетей и группы гражданского общества должны взять на себя инициативу в этом пространстве, создавая и распространяя образовательный контент, и они должны продолжать делать это. Правительства должны взять на себя более активную роль в сфере медиаграмотности, в конкретно в США эксперты предлагают и вовсе включить основы медиаграмотности в школьную программу.