ИИ-контроль: первые шаги

Заявления официальных лиц и аналитиков о необходимости государственного регулирования ИИ звучат уже давно. 30 октября стало историческим моментом для этого — Джо Байден подписал указ о «безопасном, надежном и заслуживающем доверия искусственном интеллекте». Фактически администрация президента США впервые заложила фундамент для формального государственного контроля над современными технологиями. Каков содержательный смысл подписанного документа и как он повлияет на рынок ИИ?

Содержание указа

Документ, опубликованный администрацией, содержит 8 смысловых блоков, каждый из которых акцентирует внимание на отдельных целях регулирования: 

1) Закрепление стандартов безопасности

Администрация излагает несколько требований к компаниям-разработчикам и государственным органам. Например, компании, разрабатывающие большие модели, обязаны сообщать государству об этом, а также предоставлять результаты тестов безопасности (safety tests). Государственные органы должны также контролировать рынок. Национальный институт стандартов и технологий займется разработкой тестов безопасности, Министерство торговли — созданием гайдов для детекции ИИ-генерированного контента. 

2) Защита приватности

Обучение сложных алгоритмов требует много данных — это создает угрозу для частной информации, размещенной в Интернете и используемой технологическими компаниями в своих целях. Документ призывает развивать технологии шифрования, а также усилить контроль за тем, как компании собирают и используют данные. 

3) Защита равенства и соблюдение гражданских прав 

Несмотря на попытки позиционировать ИИ как исключительно рациональную машину, все чаще можно слышать о предвзятости существующих сегодня моделей. Указ возлагает ответственность за борьбу с «алгоритмическими предубеждениями» на Министерство юстиции. В этом же блоке затрагивается тема интеграции ИИ в систему уголовного правосудия — документ призывает к разработке передовых практик в этой сфере.

4) Защита интересов потребителей 

Указ отмечает необходимость ответственного использования «машины» в здравоохранении и образовании — так, Министерству здравоохранения США поручено создать программу безопасности, в рамках которой будут отслеживаться опасные практики с использованием технологий. 

5) Поддержка рабочих 

Значимый риск, отмечаемый в контексте всеобщей автоматизации, — удар по рынку труда, безработица. Документ указывает на необходимость не только контролировать ИИ напрямую, но и поддерживать уязвимые группы рабочих. 

6) Стимулирование инноваций 

Поддержка конкуренции в сфере разработки ИИ — еще одна цель государства. В эту сферу относится, например, создание Национального ресурса исследований ИИ, предполагающего доступ начинающих игроков рынка к большим данным и передовым технологиям. 

7) Лидерство США на мировой арене 

Достижения в компьютерных науках — новая «мягкая» сила. Впрочем, администрация делает акцент не столько на работе над престижем страны посредством внутреннего развития ИИ, сколько на необходимости со стороны США возглавить развитие международных форматов работы над митигацией рисков. 

8) Гарантии ответственного и эффективного использования ИИ государством

Наконец, администрация президента США коснулась темы использования технологий государством. Этот блок предполагает не только разработку гайдлайнов по ответственному использованию технологий для лиц, принимающих решений, но и стимулирование более активного найма IT-специалистов в государственный сектор. 

Потенциальная эффективность

Главное преимущество указа — его многогранность. Администрация президента США не ограничилась пунктом об обязанности IT-компаний «отчитываться» перед властью. Документ затронул и проблемы применения ИИ в отдельных областях (здравоохранение, образование, правосудие, политика), и работу над качеством моделей (исправление предвзятости), и митигацию рисков безработицы, и даже позиционирование страны на мировой арене. 

Более того, для пула государственных органов, упомянутых в указе, четко разграничены зоны ответственности в соответствии с их компетенциями. Подобное распределение нагрузки и внимания — сильная сторона американского подхода. 

Говоря об эффективности, важно учитывать и реализуемость идей, изложенных в документе. В этом смысле, потенциальная эффективность документа обеспечивается не только многогранным подходом властей, но и внешней конъюнктурой. 

В частности, это касается выражаемой со стороны IT-гигантов — например, Google, Microsoft и OpenAI, — добровольной готовности сотрудничать с Белым Домом в целях создания безопасного ИИ. До тех пор, пока крупные компании, ответственные за формирование ИИ-будущего в первую очередь, сохраняют лояльность властям, можно ожидать реализуемость предложений Белого дома на практике.

Более того, интересно, что указ не исключительно регуляторный по своей идее. Шестой пункт фактически содействует развитию новых технологий и поощряет малые предприятия включаться в гонку. Власть предлагает своего рода trade-off между ограничениями и новыми возможностями, позволяя сохранять поддержку извне, со стороны бизнеса. 

Зачем брать указ администрации во внимание? 

Заметно ли будет влияние указа на рынок ИИ сегодня? Вряд ли. Один из самых важных пунктов документа — подотчетность разработчиков власти, — касается только больших моделей. Для сравнения: даже GPT-4, одна из передовых языковых моделей на сегодняшний день, не имеет столько параметров, сколько установлено администрацией в качестве порога для классификации модели в качестве большой. 

Остальные пункты во многом рассчитаны на долгосрочную перспективу. Разработка стандартов, поддержка уязвимых социальных групп, работа на международной арене — все это, вероятно, займет много времени для окончательной реализации. 

Тем не менее указ важен как первый шаг государства в сторону регуляторной политики в юридическом поле. Почему это значимое событие? Во-первых, определение «точек уязвимости» и первичных стандартов (например, избавление от «алгоритмической предвзятости») важно для разработчиков — как в США, так и в мире, так как многие принципы указа могут быть в будущем экстраполированы на остальные страны. Во-вторых, позиционирование США в условиях развивающегося ИИ (активная работа чиновников с технологией; выход на мировую арену как инициатор регулирования) — предмет интереса для других стран, как источник опыта и один из политических сигналов.

Павел Иванов, аналитик Центра политической конъюнктуры