Статья
2702
1 апреля 2022 13:10
Нарушение этических принципов при использовании ИИ: обзор экспертных докладов
Старший научный сотрудник Brookings Institution Даррелл Уэст опубликовал доклад «Шесть шагов к ответственному использованию ИИ в федеральном правительстве». Исследование основано на опыте США. В докладе рассматриваются такие вопросы, как прозрачность, конфиденциальность, безопасность данных при ответственном использовании технологий искусственного интеллекта.
«Почти все специалисты по этике и сторонники технической политики подчеркивают эти факторы и настаивают на честных, прозрачных, безопасных и понятных алгоритмах. Но не всегда ясно, как реализовать эти общие принципы или как поступать в ситуациях, когда возникают конфликты между конкурирующими целями. При разработке алгоритмов нелегко перейти от абстрактного к конкретному, и иногда сосредоточение внимания на одной цели происходит в ущерб другим целям», — говорится в докладе.
Например, Европейский Союз стремился содействовать прозрачности ИИ, однако в понимании потребителями алгоритмов или факторов, влияющих на принятие решений ИИ, был обнаружен ограниченный прогресс, подчеркивает автор доклада.
По словам Даррелла Уэста, существует шесть шагов к ответственному внедрению технологий ИИ: наличие конкретных кодексов поведения, оперативные инструменты для продвижения основных этических принципов и борьбы с предвзятостью, разработка четких контрольных показателей и показателей оценки, использование технических стандартов для решения распространенных проблем, экспериментирование через пилотные проекты, наличие сочетания технических и нетехнических навыков у сотрудников. Каждый из этих пунктов подробно анализируется в докладе.
Так, в работе технологических компаний должны присутствовать конкретные кодексы поведения. Например, фирмы, работающие в сфере образования и здравоохранения, должны особенно внимательно относиться к конфиденциальности записей. Существуют законы и права, которые необходимо соблюдать, и алгоритмы не могут нарушать действующие стандарты конфиденциальности или анализировать информацию способами, которые приводят к несправедливым результатам.
Помимо этого, сотрудникам нужны соответствующие операционные инструменты, которые помогут им разрабатывать алгоритмы. В частности, существуют шаблоны ИИ, которые предоставляют сложные возможности людям, не являющимся инженерами или учеными-компьютерщиками. Преимущество шаблонов заключается в том, что они увеличивают объем и широту применения в самых разных областях и позволяют чиновникам без технического образования использовать ИИ и роботизированную автоматизацию процессов в федеральных агентствах. В то же время крайне важно, чтобы шаблоны были разработаны таким образом, чтобы их применение способствовало этике и боролось с предвзятостью, чтобы алгоритмы принимали решения беспристрастно.
Кроме того, необходимы общие технологические меры безопасности. Вместо того, чтобы каждая организация разрабатывала свои собственные технологические меры безопасности, необходимо разработать общие решения для хорошо известных проблем безопасности и защиты конфиденциальности. Как только академические и отраслевые эксперты договорятся о технических стандартах, станет легко разрабатывать продукты в соответствии с этими стандартами и защищать общие ценности, подчеркивает автор доклада.
Что касается сочетания технических и нетехнических навыков у сотрудников, автор доклада подчеркивает, что в разработке алгоритмов ИИ должны участвовать специалисты по этике и социологи. Без них ответственное использование ИИ будет невозможно.
Еще одна группа исследователей Brookings Institution опубликовала результаты исследования на тему того, какое количество стартапов в области ИИ придерживается политики, включающей наличие этических принципов — например, сохранение конфиденциальности данных. Научные сотрудники аналитического центра провели опрос таких стартапов, чтобы определить, какие действия они предприняли для решения этих этических проблем, а также последствия этих действий.
Сотрудники Brookings Institution обнаружили, что 58% этих стартапов разработали кодифицированные этические принципы ИИ. Первоначальный анализ показал, что вероятность наличия таких принципов выше у крупных стартапов. Этические принципы ИИ имеют около 75% фирм с числом сотрудников более 50 человек и 60% фирм с числом сотрудников менее 50 человек. Кроме того, существуют различия в зависимости от региона: фирмы со штаб-квартирой в Азии чаще имеют политику, предполагающую наличие этических принципов (71%), а фирмы со штаб-квартирами на Ближнем Востоке и в Африке — реже (50%). В Северной Америке таких фирм 61%, в Европе — 58%.
В ходе опроса аналитики также попросили компании с предоставить дополнительную информацию о том, как соблюдение этических принципов влияет на результаты их деятельности, чтобы определить, соблюдается ли этическая политика, а не просто является сигналом для инвесторов. Более половины компаний, придерживающихся принципов ИИ, получили как минимум один дорогостоящий бизнес-результат, поскольку они придерживались своих этических принципов при применении технологий ИИ.
«Учитывая ценность ИИ для экономики в целом, инновации этих компаний, как ожидается, будут иметь важное значение для производительности труда и будущего макроэкономического роста. Как и в случае с конфиденциальностью данных, существует компромисс между многими этическими вопросами и возможностью использования определенных данных», — говорится в исследовании.
