Статья
1706 1 сентября 2023 16:31

Риски ИИ для сферы цифровых новостей: обзор доклада американского центра

Журналистская, редакционная и новостная сферы испытывают кризис, так как многие издания перешли к включению генеративного искусственного интеллекта в производство своего контента, говорится в докладе, подготовленном научным сотрудником программы стратегических технологий Центра стратегических и международных исследований (CSIS) Кейтлин Чин. В работе рассмотрены риски, которые представляет ИИ для новостной ниши, и способы их снижения.

Поисковые системы могут использовать ИИ для прямого и быстрого ответа на запросы пользователей, что значительно снизит веб-трафик новостных сайтов. «Издания находятся в неравных отношениях с поисковыми системами. Google, который контролирует около 92% мирового рынка поисковых систем и дает новостным веб-сайтам около 24 млрд просмотров в месяц. На это может приходиться более трети онлайн-трафика издателей, что является важнейшим показателем для цифровой рекламы. Вскоре после выпуска исследовательского проекта ChatGPT Google и Microsoft объявили о планах использовать генеративный искусственный интеллект для прямого ответа на запросы пользователей в форме абзацев. В отличие от текущей версии ChatGPT, которая отражает только исторические данные обучения до 2021 года, поисковики Bing от Microsoft и Bard от Google намерены давать ответы на основе данных в реальном времени через в самом поисковике. Таким образом, ИИ может повысить эффективность доминирующих поисковых систем, которые стремятся максимизировать вовлеченность пользователей или время просмотра на своих платформах», — пишет автор доклада.

Соцсети используют ИИ для ранжирования публикаций, что увеличивает распространение фейкового контента, загружаемого пользователями, а не новостными агентствами. «До эпохи Интернета новостные издания централизованно контролировали общественное внимание, являясь для массовой аудитории главным окном для понимания происходящих событий. Однако за последние два десятилетия социальные медиа-платформы демократизировали издательскую деятельность, позволив любому желающему получить международную популярность при помощи алгоритмов ранжирования контента. Газеты несут юридическую ответственность за публикацию клеветнических или ложных утверждений, а платформы социальных сетей, как правило, нет. Многие социальные медиаплатформы используют рекомендательные системы искусственного интеллекта с целью максимизации экранного времени», — предупреждает автор доклада.

ИИ не может сравниться с человеческими возможностями в сфере журналистики. Системы ИИ, такие как ChatGPT, лучше всего подходят для автоматизации специфических функций, таких как резюмирование документов, но не для развития таких редакционных навыков, как установление связей с источниками, оригинальное аналитическое мышление, понимание контекста или творческий подход к написанию длинных текстов. Тексты ИИ могут содержать фактические неточности или даже полностью ложную информацию. В феврале 2023 года исследователи из Пенсильванского университета обнаружили, что системы ИИ могут выдавать плагиат, неадекватно перефразируя или дословно копируя учебный материал. Такое поведение вдвойне проблематично для некоторых моделей, например, ChatGPT, которые по умолчанию не атрибутируют и не цитируют источники«, — говорится в докладе.

Генеративный ИИ может увеличить распространенность спама и ложного контента в Интернете. «Хотя современные системы ИИ не могут написать оригинальный текст, сравнимый с текстом высококвалифицированного журналиста, они вполне способны создавать дешевый, низкокачественный и высокотиражный „клик-бейт“. Хотя производство „кликбейта“ не помогает большинству традиционных новостных редакций, оно приносит пользу сайтам, созданным для рекламы — спамерским сайтам, ориентированным исключительно на получение максимального количества просмотров страниц и рекламных доходов. По состоянию на август 2023 года аналитическая компания NewsGuard обнаружила не менее 437 сайтов, использующих генеративный искусственный интеллект для создания большого количества фиктивных статей, многие из которых содержат необоснованные теории заговора, недостоверные медицинские рекомендации или сфабрикованные обзоры товаров. Эти сайты привлекают клики такими заголовками как „Может ли лимон вылечить аллергию на коже?“», — утверждается в докладе.

Страны проводят масштабные законодательные кампании, чтобы заставить крупные технологические платформы, размещающие новостной контент, платить издателям. «В июне 2023 года парламент Канады принял Закон об онлайновых новостях, который обязывает поисковые системы и социальные сети платить издателям новостей за любые внешние ссылки на статьи или цитаты, которые просматривают или распространяют их пользователи. В 2021 году Австралия и Европейский союз приняли соответственно Кодекс о переговорах с новостными СМИ (NMBC) и Директиву об авторском праве, а законодатели Бразилии, Индии, Великобритании, США и Калифорнии либо предложили, либо активно рассматривают аналогичные меры», — отмечает автор доклада.

Технологическим платформам следует признать права на интеллектуальную собственность новостных изданий и авторов, говорится в докладе. Особенно это касается использования защищенных авторским правом статей для обучения алгоритмов. «Разработчики обучают ИИ на основе миллиардов написанных человеком статей, изображений, аудиозаписей и строк программного кода, как правило, без выплаты компенсации, цитирования, получения разрешения или даже без уведомления оригинальных авторов. Целый ряд специалистов требуют — а в некоторых случаях и подают в суд — от разработчиков ИИ заплатить за использование их данных в качестве материала для обучения ИИ, заявляя, что нелицензионное использование контента нарушает права интеллектуальной собственности. Через несколько дней после того, как в июле 2023 года международное агентство Associated Press заключило лицензионное соглашение с OpenAI, тысячи авторов подписали открытое письмо, в котором призвали разработчиков ИИ получать их согласие и выплачивать им компенсацию за использование их работ», — утверждается в документе.

Для обеспечения долгосрочной устойчивости новостной индустрии потребуются не только технологические решения. По словам авторов доклада, «крайне важна прямая финансовая поддержка редакций — через некоммерческие модели, прямое или косвенное государственное финансирование или даже нетрадиционные методы монетизации». «Например, некоторые редакции для получения дохода занялись побочными видами деятельности, такими как консалтинг или проведение мероприятий. Однако ни производственные потребности, ни общественная польза журналистики сами по себе не могут быть выражены в деньгах. Для успешной работы новостных изданий необходимо также гражданское общество, основанное на критическом мышлении и коллективном интересе к жизни общества. Кроме того, для сохранения журналистики как стабильной и доступной профессии руководители компаний должны будут уделять приоритетное внимание благополучию пишущих людей, в том числе путем защиты рабочих мест и заключения профсоюзных договоров. В конечном счете, действия, которые сегодня предпринимают технологические платформы, редакции, правительства и отдельные люди, определят долгосрочную траекторию развития новостной индустрии», — заключают авторы доклада.
2 сентября 2024 Колонки
Силиконовая долина приходит в госуправление
 Силиконовая долина приходит в госуправление Ярослав Барыкин о цифровизации систем государственного управления
30 августа 2024 Новости
Ответственность разработчиков: эксперты о технологиях ИИ
 Ответственность разработчиков: эксперты о технологиях ИИ Разработчики ИИ не могут нести полную ответственность за последствия использования их продукта, считают западные эксперты. Они также указывают, что многие аспекты современных конфликтов определяются интернетом и цифровыми технологиями.
26 августа 2024 Новости  Государство, технологии и риски вмешательства Технологические изменения последних лет повысили чувствительность государств к вызовам со стороны мессенджеров, цифровых платформ и IT-гигантов. Публикуем отрывок о характере этих процессов из статьи Алексея Чеснакова и Даниила Паренькова «Ощетинившиеся акторы» в журнале «Россия в глобальной политике».
© 2008 - 2024 Фонд «Центр политической конъюнктуры»
Сетевое издание «Актуальные комментарии». Свидетельство о регистрации средства массовой информации Эл № ФС77-58941 от 5 августа 2014 года, Свидетельство о регистрации средства массовой информации Эл № ФС77-82371 от 03 декабря 2021 года. Издается с сентября 2008 года. Информация об использовании материалов доступна в разделе "Об издании".