Ответственность разработчиков: эксперты о технологиях ИИ

Разработчики ИИ не могут нести полную ответственность за последствия использования их продукта, считают западные эксперты. Они также указывают, что многие аспекты современных конфликтов определяются интернетом и цифровыми технологиями. «Актуальные комментарии» подготовили обзор докладов западных аналитических центров на тему ИИ, цифровых технологий и интернета, опубликованных за последнюю неделю.

Нельзя возлагать ответственность за все последствия только на разработчиков, считает старший научный сотрудник AEI Бронвин Хауэлл. По ее словам, существующие и предлагаемые нормы, ограничивающие разработку и внедрение приложений ИИ, характеризуются сейчас именно такими положениями, предполагающими ответственность производителя за предотвращение последствий использования товара в любых целях, отличных от указанных разработчиком. «Большинство режимов регулирования ИИ (например, Закон ЕС об искусственном интеллекте) и добровольных стандартов (например, стандарт Национального института науки и технологий AI Risk Management Framework) требуют от разработчиков и внедренцев ИИ предвидеть потенциальные риски, возникающие при использовании их приложений, активно контролировать их использование, вмешиваться и закрывать приложения в случае неблагоприятного события. Проблема в том, что разработчик не может сделать приложение общедоступным на рынке с открытым исходным кодом для дальнейших инноваций, опасаясь ответственности за последствия действий других людей».

Многие аспекты современных конфликтов определяются интернетом и цифровыми технологиями, отмечает группа экспертов Chatham House*. Они опубликовали доклад, в котором устойчивость интернета рассматривается в контексте событий до, во время и после вывода войск западной коалиции из Афганистана в 2021 году. Также в докладе описано взаимодействие технической и социально-политической устойчивости в связи с украинским конфликтом. В докладе говорится, что решения, принятые в конфликтных или кризисных ситуациях, могут иметь значительные последствия для устойчивости интернета на глобальном и местном уровнях.

Устойчивость интернета тесно связана с жизнью и средствами к существованию отдельных людей. «В таких разных местах, как Афганистан и Украина, с совершенно разными уровнями использования интернета и инфраструктуры, устойчивость интернета — или ее отсутствие — сыграла ключевую роль в динамике конфликта. Противники осознают стратегическую выгоду от нацеливания на различные части интернета, внедряя (анти)устойчивое мышление в свою наступательную тактику, так же как защитники внедряют стратегическое мышление, основанное на устойчивости, в свою. Проще говоря, интернет занимает все более центральное место в современном конфликте», — говорится в докладе Chatham House. 

Частный сектор играет важнейшую роль в поддержании устойчивости интернета. «Частный сектор все больше вовлекается в непрерывное функционирование самого интернета и жизни тех, кто им пользуется. Интервью, проведенные для доклада Chatham House*, в частности, позволяют понять, с какими сложными соображениями сталкиваются компании частного сектора при сохранении, отказе или увеличении объема предоставляемых ими услуг и операций в зоне конфликта или кризиса. Некоторые соображения носят репутационный характер: не поставит ли продолжение или возобновление предоставления услуг в зоне конфликта под угрозу местную, национальную или глобальную репутацию компании? Другие соображения носят коммерческий характер и основаны на часто преобладающем стимуле защиты от значительного снижения доходов, с одной стороны, или поиска новых возможностей для увеличения доходов, с другой. Опрошенные также подчеркивали важность соображений социального обеспечения, задаваясь вопросом: где существуют основные риски для безопасности сотрудников компании и их местных сетей? Еще одно соображение касается политических и правовых факторов, связанных с потенциальным риском быть названным стороной конфликта или с политическим и дипломатическим давлением, оказываемым на различные группы и в различных местах, чтобы заставить их действовать или отказаться от услуг».

* Организация признана нежелательной на территории РФ