ИИ-следы не стираются

медиатехнологЕкатерина Набатникова

Обязательная маркировка контента, созданного с помощью ИИ, постепенно становится одним из ключевых вопросов цифрового регулирования. Технологии уже позволяют крупным платформам встраивать водяные знаки и метаданные, однако массовое использование зарубежных сервисов и open-source моделей делает полный контроль практически невозможным. Где пройдет граница между созданием и редактированием контента с помощью ИИ и сможет ли регулирование успеть за технологиями? С «Актуальными комментариями» своим мнением поделилась медиатехнолог, член Экспертного клуба «Дигория», директор по развитию Корпорации AIR Екатерина Набатникова.


Насколько реалистично введение обязательной маркировки изображений, аудио и видео, созданных с помощью ИИ, и готова ли к этому российская технологическая инфраструктура?

— Введение обязательной маркировки ИИ-контента — шаг юридически ожидаемый и необходимый, но технически крайне сложный. Если говорить о готовности российской инфраструктуры, то здесь ситуация двоякая. Крупные отечественные бигтех-компании (например, «Яндекс» или Сбер) уже сейчас готовы внедрять и внедряют скрытые водяные знаки (ватермарки) или метаданные в контент, который генерируют их собственные модели.

Однако проблема в том, что пользователи массово применяют зарубежные сервисы и open-source модели, которые можно развернуть на домашнем компьютере. Контролировать этот поток на уровне инфраструктуры и автоматически маркировать весь входящий в рунет синтетический контент на данный момент практически невозможно.

Как технически отличать контент, полностью созданный нейросетью, от материала, где ИИ использовался только частично — например, для обработки изображения или монтажа?

— Это самая большая «серая зона» грядущего регулирования. Сегодня грань между генерацией и редактированием полностью стерта. Если нейросеть написала текст с нуля или сгенерировала несуществующее лицо — это чистый ИИ-контент. Но как быть, если фотограф использовал встроенный ИИ в Photoshop для удаления лишнего человека с заднего фона? Или если журналист прогнал свой авторский текст через нейросеть для исправления запятых?

Технически разделить эти процессы со стопроцентной точностью детекторы пока не могут.

Поэтому здесь потребуется не столько технологическое решение, сколько четкий юридический критерий: какой процент вмешательства алгоритма или характер изменений делает контент «синтетическим». Без четких определений мы получим хаос в правоприменении.

Не приведет ли обязательная маркировка к появлению новой гонки между разработчиками средств идентификации ИИ-контента и создателями инструментов для обхода такой маркировки?

— Обязательная маркировка гарантированно спровоцирует классическую гонку вооружений. Как только внедряются стандарты невидимых меток или криптографических подписей для ИИ-контента, тут же появляются скрипты, которые эти метки стирают, искажают или обходят.

Более того, детекторы (программы, определяющие ИИ) до сих пор работают с высокой долей погрешности — они часто выдают ложноположительные результаты, обвиняя живых авторов в использовании нейросетей. Злоумышленники, создающие дипфейки для мошенничества или дезинформации, всегда будут на шаг впереди, поэтому маркировка будет работать в первую очередь для законопослушных пользователей и платформ.

Для кого новые требования окажутся наиболее чувствительными — бизнеса, СМИ, блогеров или обычных пользователей?

— Наиболее чувствительными новые правила окажутся для СМИ и бизнеса (рекламных агентств, маркетинга, дизайна). Для медиа это вопрос серьезной юридической ответственности и репутации: публикация немаркированного ИИ-контента (особенно фото и видео) под видом реального может обернуться крупными штрафами или исками. Бизнесу придется внедрять дополнительные процедуры комплаенса, чтобы проверять работу своих подрядчиков и дизайнеров.

Блогеры также окажутся под ударом, поскольку платформы и соцсети, чтобы избежать штрафов регуляторов, будут вынуждены внедрять автоматическую модерацию. А вот для обычных пользователей изменения будут наименее болезненными — скорее всего, для них это сведется к появлению новой галочки «создано с помощью ИИ» при загрузке картинок в соцсети.

Екатерина Набатникова, медиатехнолог, член Экспертного клуба «Дигория», директор по развитию Корпорации AIR.

#ЕкатеринаНабатникова