Государственное финансирование как драйвер развития безопасного искусственного интеллекта

аналитик Виктория Совгирь

Федеральные механизмы финансирования играют важную роль в удовлетворении государственных потребностей, однако их требования часто подвергаются критике, особенно в сфере искусственного интеллекта. Слишком жесткое регулирование может замедлить развитие инноваций и отпугнуть компании, в то время как недостаточный контроль создает угрозу неэтичного использования ИИ. В последние годы предпринимаются усилия по улучшению системы финансирования ИИ с целью минимизации рисков, обеспечения ответственного использования технологий и поддержки отрасли. Для успешной реализации подобных инициатив необходимо найти баланс между государственными требованиями и интересами бизнеса, что детально проанализировали Р.Консаул и Г.Смит в контексте регулирования безопасности ИИ в США.

Условия финансирования

Федеральные агентства заключают контракты с частными компаниями, научными учреждениями и международными партнёрами для реализации государственных проектов, устанавливая условия соглашений и предъявляя требования к поставщикам. На этапе подготовки к тендеру определяются потребности, подтверждается финансирование, проводится анализ рынка и оформляются тендерные документы. В процессе торгов формулируются условия контрактов, оценивается соответствие участников установленным критериям, а после заключения договора контролируется его выполнение. Федеральные контракты регулируются законодательством, охватывающим аспекты кибербезопасности подрядчиков, ограничения на сотрудничество с санкционированными организациями, поддержку малого бизнеса и требования к минимальной оплате труда. Так, например, в 2019 году был введен запрет на закупку продукции компаний, использующих телекоммуникационное оборудование ряда китайских производителей.

Требования к федеральным контрактам могут послужить моделью для регулирования закупок ИИ-систем государством. Например, запрет на использование определённого телекоммуникационного оборудования демонстрирует, как законодательные нормы реализуются через поправки в Федеральный регламент закупок (FAR). В 2018 году Национальный закон об оборонном бюджете запретил закупки оборудования у отдельных поставщиков, а Указ 14028 ужесточил требования к контролю данных о киберинцидентах, что в 2023 году привело к предложению нового стандарта кибербезопасности, включая ведение «реестра компонентов программного обеспечения». FAR регулирует тендеры, требования к поставщикам и условия контрактов, но также допускает применение стратегий, соответствующих интересам правительства, без формальных изменений. Таким образом, существующие механизмы регулирования позволяют государству устанавливать требования к безопасности и прозрачности ИИ-систем при их приобретении.

Федеральное правительство не только заключает закупочные контракты, но и финансирует проекты через гранты. Такие программы имеют индивидуальные требования, устанавливаемые в учредительных актах и регулируемые профильными агентствами, как, например, в программе CHIPS Министерства торговли США. Подобные механизмы применяются в Национальном научном фонде и Национальном институте здравоохранения, поддерживающих научные исследования. Кроме того, правительство использует контрактные условия для продвижения ответственного подхода к исследованиям и разработкам, даже если организации не продают продукцию государству. Например, Common Rule устанавливает этические и технические требования к научным исследованиям, финансируемым федеральными агентствами.

Хотя контрактные условия и грантовые программы представляют собой мощный инструмент регулирования, они не могут полностью заменить законодательные акты. Некоторые разработчики ИИ могут не заинтересоваться федеральным финансированием, а потому не будут следовать условиям грантов. Кроме того, определённые аспекты регулирования, такие как использование ИИ в маркетинге или алгоритмических рекомендациях, могут требовать разработки новых нормативных актов, обеспечивающих единообразие требований для всех участников рынка.

Проблемы госконтрактов

Федеральные контракты играют важную роль в регулировании государственных закупок, однако их сложность и громоздкость часто подвергаются критике. Несмотря на то, что условия контрактов направлены на защиту интересов государства и обеспечение прозрачности, их чрезмерная регуляторная нагрузка воспринимается бизнесом как искусственное усложнение процесса. В отчете GAO отмечается, что многие компании считают эти условия избыточными и неэффективными с точки зрения соотношения затрат и выгоды. Проблемы возникают не только у крупных подрядчиков с опытом работы с госструктурами, но и у новых игроков на рынке федеральных закупок, что иногда приводит к отказу от участия в тендерах. Исследование Section 809 подтверждает выводы GAO, указывая на необходимость упрощения контрактов и приведения их в соответствие с рыночными стандартами. Регулирующие органы сталкиваются с необходимостью балансировать между жесткими требованиями и эффективной поставкой товаров и услуг для государственных заказчиков, поскольку избыточные условия могут снижать привлекательность работы с федеральными агентствами, особенно для технологических компаний, не имеющих опыта в госзакупках.

В контексте искусственного интеллекта эта проблема приобретает еще большую остроту. Разработчики ИИ зачастую ориентированы на динамично развивающийся коммерческий рынок, где гибкость и скорость адаптации имеют решающее значение. Введение слишком жестких контрактных условий для ИИ-решений может привести к их быстрому устареванию, создавая дополнительные препятствия для внедрения передовых технологий в государственном секторе. Государство заинтересовано в привлечении лучших технологических решений, но чрезмерное регулирование может отпугнуть разработчиков и инновационные компании, вынуждая их отдавать приоритет частному сектору. Следовательно, критически важно учитывать риски бюрократизации и стремиться к созданию контрактных условий, которые обеспечат баланс между безопасностью, прозрачностью и стимуляцией технологического прогресса в сфере ИИ.

Новые горизонты регулирования

В марте 2024 года Административно-бюджетное управление выпустило руководство для федеральных агентств по закупке ИИ-систем, включающее рекомендации по управлению рисками, защите данных, тестированию и мониторингу решений. Особое внимание уделено конфиденциальности, правам человека, кибербезопасности, рискам биометрических систем идентификации, управлению генеративным ИИ и экологическим последствиям моделей двойного назначения. Документ предусматривает минимальные стандарты для ИИ-систем, включая независимую экспертизу, постоянный мониторинг, оценку воздействия, тестирование в реальных условиях, механизмы вмешательства человека и обучение операторов. Подобные требования могут стать основой для новых контрактных условий, например, обязывая поставщиков чат-ботов для госучреждений обеспечивать контроль качества ответов и предотвращение дискриминации.

Федеральное правительство также использует различные механизмы для включения условий в контракты, разрабатывая и совершенствуя такие законодательные акты, как Federal AI Risk Management Act, требующий соблюдения стандартов Национального института стандартов и технологий (NIST) и предоставления данных для тестирования, Federal AI Governance and Transparency Act, обязывающий подрядчиков раскрывать определённую информацию, и PREPARED for AI, устанавливающий процедуры для закупки ИИ-систем. Введение единых условий для закупок ИИ поможет снизить риски и повысить прозрачность, однако важно найти баланс между безопасностью и сохранением инноваций. Одним из решений может стать унификация условий через поправки в FAR, что обеспечит единые стандарты для всех агентств, но потребует времени для реализации.

Виктория Совгирь, аналитик Центра политической конъюнктуры

#ВикторияСовгирь