Битва за достоверность

политконсультантСтанислав Корякин

Проблема недостоверной информации возникла задолго до появления искусственного интеллекта, однако именно сегодня она приобретает принципиально новое значение. Почему главным вызовом становится уже не поиск данных, а проверка их достоверности, какую роль в этом процессе играют энциклопедические проекты и зачем России необходимы собственные системы ИИ, «Актуальные комментарии» обсудили с политконсультантом, социальным архитектором, членом Общественной палаты РФ, автором Telegram-канала «Смыслы и стратегии» Станиславом Корякиным.

— Проблема достоверности данных была ключевой задолго до эпохи искусственного интеллекта. Еще до появления ИИ интернет показал, что информация может быть недостоверной, неполной или намеренно сфальсифицированной. В действительности же проблема возникла еще раньше — вместе с появлением средств массовой информации.

Недостоверные сведения не раз становились причиной взлета и падения различных проектов. На этом зарабатывались и терялись огромные состояния. История знает множество подобных примеров: манипуляции информацией влияли на стоимость активов, определяли общественные настроения и меняли ход экономических процессов.

В эпоху искусственного интеллекта проблема достоверности данных проявилась с новой силой. Во многом это связано со снижением критичности восприятия информации. Люди получают сведения от ИИ и зачастую не перепроверяют их, исходя из предположения, что они изначально обладают высокой степенью достоверности.

Это касается не только рядовых пользователей, но и представителей научного и образовательного сообщества. Известны случаи, когда магистранты и исследователи использовали в своих работах ссылки на несуществующие источники, сгенерированные искусственным интеллектом. Подобные ошибки обнаруживались уже на этапе проверки материалов, причем нередко случайно.

По мере роста доверия к генеративным моделям значение достоверных данных становится все более существенным. Однако возникает новая проблема: источником информации постепенно становится не сама совокупность данных, а модель, которая их интерпретирует и воспроизводит.

Если раньше существовала возможность относительно быстро проверить тот или иной факт, то сегодня сама процедура верификации превращается в сложную задачу, требующую использования специальных инструментов и независимых источников. В этих условиях особую роль начинают играть базы знаний, формируемые верифицированными организациями и экспертными сообществами.

Такие базы знаний могут быть как российскими, так и зарубежными. Однако ключевое значение имеет не их происхождение, а степень доверия к источнику информации.

В политтехнологиях существует понятие трех основных видов борьбы: борьбы за факты, борьбы за каналы распространения информации и борьбы за интерпретацию фактов. Сегодня можно наблюдать все три процесса одновременно. При этом искусственный интеллект становится не просто новым каналом передачи информации, но и механизмом ее интерпретации, причем принципы его работы для большинства пользователей остаются непрозрачными.

В этих условиях меняется и роль энциклопедических проектов. Если раньше они представляли собой самостоятельные базы знаний, к которым обращались наиболее заинтересованные пользователи, то сегодня они становятся частью глобальной экосистемы искусственного интеллекта. Содержащиеся в них сведения используются для обучения генеративных моделей, после чего информация возвращается пользователю уже в обобщенном и переработанном виде.

Поэтому особое значение приобретает создание не только верифицированных источников, пользующихся высоким уровнем доверия, но и специализированных массивов знаний, обладающих энциклопедическим масштабом и содержащих достоверные сведения в конкретных предметных областях.

Вместе с тем для развития отечественного искусственного интеллекта недостаточно одного лишь накопления данных. Необходимы собственные лингвистические модели, способные эффективно работать с этими массивами информации. Искусственный интеллект представляет собой совокупность данных, алгоритмов и моделей, которые связывают их в единую систему. Поэтому наличие данных само по себе еще не означает наличие полноценного ИИ.

Критически важным фактором становится создание отечественных систем искусственного интеллекта, принципы работы которых могут быть проверены и верифицированы. Использование зарубежных моделей, обучаемых на отечественных данных, не обеспечивает прозрачности их функционирования и одновременно способствует дальнейшему развитию иностранных технологических платформ.

Таким образом, вопрос развития искусственного интеллекта сводится не только к объему и качеству данных. Речь идет о создании полноценной экосистемы, включающей в себя инфраструктуру, алгоритмы, механизмы верификации и собственные технологические решения.

Станислав Корякин, политконсультант, социальный архитектор, член Общественной палаты РФ, автор Telegram-канала «Смыслы и стратегии».

#СтаниславКорякин