Риски ИИ для сферы цифровых новостей: обзор доклада американского центра

Соцсети используют ИИ для ранжирования публикаций, что увеличивает распространение фейкового контента, загружаемого пользователями, а не новостными агентствами. «До эпохи Интернета новостные издания централизованно контролировали общественное внимание, являясь для массовой аудитории главным окном для понимания происходящих событий. Однако за последние два десятилетия социальные медиа-платформы демократизировали издательскую деятельность, позволив любому желающему получить международную популярность при помощи алгоритмов ранжирования контента. Газеты несут юридическую ответственность за публикацию клеветнических или ложных утверждений, а платформы социальных сетей, как правило, нет. Многие социальные медиаплатформы используют рекомендательные системы искусственного интеллекта с целью максимизации экранного времени», — предупреждает автор доклада.

ИИ не может сравниться с человеческими возможностями в сфере журналистики. Системы ИИ, такие как ChatGPT, лучше всего подходят для автоматизации специфических функций, таких как резюмирование документов, но не для развития таких редакционных навыков, как установление связей с источниками, оригинальное аналитическое мышление, понимание контекста или творческий подход к написанию длинных текстов. Тексты ИИ могут содержать фактические неточности или даже полностью ложную информацию. В феврале 2023 года исследователи из Пенсильванского университета обнаружили, что системы ИИ могут выдавать плагиат, неадекватно перефразируя или дословно копируя учебный материал. Такое поведение вдвойне проблематично для некоторых моделей, например, ChatGPT, которые по умолчанию не атрибутируют и не цитируют источники«, — говорится в докладе.

Генеративный ИИ может увеличить распространенность спама и ложного контента в Интернете. «Хотя современные системы ИИ не могут написать оригинальный текст, сравнимый с текстом высококвалифицированного журналиста, они вполне способны создавать дешевый, низкокачественный и высокотиражный „клик-бейт“. Хотя производство „кликбейта“ не помогает большинству традиционных новостных редакций, оно приносит пользу сайтам, созданным для рекламы — спамерским сайтам, ориентированным исключительно на получение максимального количества просмотров страниц и рекламных доходов. По состоянию на август 2023 года аналитическая компания NewsGuard обнаружила не менее 437 сайтов, использующих генеративный искусственный интеллект для создания большого количества фиктивных статей, многие из которых содержат необоснованные теории заговора, недостоверные медицинские рекомендации или сфабрикованные обзоры товаров. Эти сайты привлекают клики такими заголовками как „Может ли лимон вылечить аллергию на коже?“», — утверждается в докладе.

Страны проводят масштабные законодательные кампании, чтобы заставить крупные технологические платформы, размещающие новостной контент, платить издателям. «В июне 2023 года парламент Канады принял Закон об онлайновых новостях, который обязывает поисковые системы и социальные сети платить издателям новостей за любые внешние ссылки на статьи или цитаты, которые просматривают или распространяют их пользователи. В 2021 году Австралия и Европейский союз приняли соответственно Кодекс о переговорах с новостными СМИ (NMBC) и Директиву об авторском праве, а законодатели Бразилии, Индии, Великобритании, США и Калифорнии либо предложили, либо активно рассматривают аналогичные меры», — отмечает автор доклада.

Технологическим платформам следует признать права на интеллектуальную собственность новостных изданий и авторов, говорится в докладе. Особенно это касается использования защищенных авторским правом статей для обучения алгоритмов. «Разработчики обучают ИИ на основе миллиардов написанных человеком статей, изображений, аудиозаписей и строк программного кода, как правило, без выплаты компенсации, цитирования, получения разрешения или даже без уведомления оригинальных авторов. Целый ряд специалистов требуют — а в некоторых случаях и подают в суд — от разработчиков ИИ заплатить за использование их данных в качестве материала для обучения ИИ, заявляя, что нелицензионное использование контента нарушает права интеллектуальной собственности. Через несколько дней после того, как в июле 2023 года международное агентство Associated Press заключило лицензионное соглашение с OpenAI, тысячи авторов подписали открытое письмо, в котором призвали разработчиков ИИ получать их согласие и выплачивать им компенсацию за использование их работ», — утверждается в документе.

Для обеспечения долгосрочной устойчивости новостной индустрии потребуются не только технологические решения. По словам авторов доклада, «крайне важна прямая финансовая поддержка редакций — через некоммерческие модели, прямое или косвенное государственное финансирование или даже нетрадиционные методы монетизации». «Например, некоторые редакции для получения дохода занялись побочными видами деятельности, такими как консалтинг или проведение мероприятий. Однако ни производственные потребности, ни общественная польза журналистики сами по себе не могут быть выражены в деньгах. Для успешной работы новостных изданий необходимо также гражданское общество, основанное на критическом мышлении и коллективном интересе к жизни общества. Кроме того, для сохранения журналистики как стабильной и доступной профессии руководители компаний должны будут уделять приоритетное внимание благополучию пишущих людей, в том числе путем защиты рабочих мест и заключения профсоюзных договоров. В конечном счете, действия, которые сегодня предпринимают технологические платформы, редакции, правительства и отдельные люди, определят долгосрочную траекторию развития новостной индустрии», — заключают авторы доклада.