Итоги AI Journey

Мероприятие AI Journey, организованное Сбером, прошло 22-24 ноября в Москве. Технологические компании представили новые разработки, научные сотрудники озвучили риски и перспективы применения ИИ. Более того, конференция обрела и политические смыслы — в качестве спикеров выступили и представители государства. Президент, заместитель председателя правительства и губернаторы оценили уровень интеграции ИИ в нынешних реалиях, поделившись «инсайдерской» информацией, а также очертили контуры будущего ИИ в России.

В настоящем материале выделены 3 важных тезиса, дающих представление о месте ИИ в российской социально-политической системе, или «политические итоги AI Journey».

Автоматизация публичной политики — подтверждение «сверху»

На Западе автоматизация процесса принятия решений — устоявшийся тренд. Об этом свидетельствуют как новости из СМИ, так и научные исследования. Это может касаться, например, помощи «машины» в распределении сельскохозяйственных субсидий или в регуляторной политике на рынке труда — на основе данных алгоритмы определяют сферу занятости для безработных граждан.

В России, несмотря на регулярное обращение официальных лиц к значимости ИИ, явных свидетельств его использования в публичной политике было не так много. Иногда в инфополе лишь появлялись отдельные сигналы, позволяющие судить о том, что власти предпринимают попытки интеграции технологий в свою работу.

В рамках AI Journey официальные лица открыто заявили об использовании ИИ на различных уровнях. Согласно заявлению заместителя председателя правительства Д. Чернышенко, например, уровень внедрения соответствующих технологий в федеральных органах власти составляет 60%. ФНС на протяжении последних 7 лет использует ИИ для сортировки чеков, а МЧС с помощью алгоритмов предсказывает вероятность пожаров.

Президент РФ В. Путин заявил, что внедрение «больших данных» в сферу государственного управления также перспективная и, вероятно, планируемая задача.

Политическое «выравнивание» ИИ

«Алгоритмическая предвзятость» — известная проблема современных генеративных моделей. Находя предубеждения в тренировочных данных, модель далее транслирует предвзятую позицию и в своей работе. Самый распространенный пример — «левые» склонности ChatGPT.

В некотором, более идеологически окрашенном смысле президент в рамках своего выступления коснулся этой проблемы: «Алгоритм может указать машине, например, что России, нашей культуры, науки, музыки, литературы просто не существует». В практическом приложении этот тезис подразумевает, что заметный акцент в контексте развития искусственного интеллекта в России будет делаться на политическом «выравнивании» технологии.

Идея «выравнивания» не инновационная. Тренд на AI Alignment, согласование целей ИИ с интересами человека занимает значимое место в повестке, начиная, вероятно, ещё с начала 2023 года. Однако в данном случае подразумевается именно политическое измерение тренда, что, вероятно, может затруднить процесс разработки в некоторых областях. Например, в сфере генерации текста, видео и изображений — со стороны разработчиков и компаний особое внимание будет уделяться накладыванию дополнительных ограничений на модель, не позволяющих выйти за рамки политической конъюнктуры.

«Быстро, качественно, эффективно»

В контексте AI Alignment в мировом сообществе можно встретить призывы замедлить развитие искусственного интеллекта. «Обществам требуется время для адаптации к изменениям, законам нужно время, чтобы быть принятыми, а регулятивные ограничения и нормы должны быть разработаны», — утверждает Иошуа Бенджио, исследователь в сфере ИИ, придерживающийся этой позиции.

В. Путин в рамках выступления на AI Journey сделал обратный призыв — эволюция ИИ в России должна произойти «быстро, качественно, эффективно».

С одной стороны, подобный подход мог бы позволить российскому рынку получить выгоду. В то время как на Западе всё больше внимания уделяется контролю над «этичностью» ИИ, — в этом месяце, например, Д. Байден подписал первый формальный документ, регулирующий разработку соответствующих технологий в США, — Россия могла бы сделать ставку на скорость. Отсутствие этапов отчетности перед государственными органами и «этических» тестов модели потенциально сокращает процесс разработки.

С другой стороны, учитывая риски политического «выравнивания» и недостаток международного научного взаимодействия, участие в этой гонке имеет ряд препятствий для России.

Павел Иванов, аналитик Центра политической конъюнктуры

#ПавелИванов