Статья
1211 16 июля 2021 13:19

Искусственный интеллект: беспристрастность или несправедливость

Искусственный интеллект используется уже практически во всех сферах жизни. Его применяют при постановке диагнозов, вынесении решений о выдаче кредитов, даже при распределении доз вакцины от коронавируса. Однако системы искусственного интеллекта часто совершают ошибки, которые могут остаться незамеченными, либо, даже если они будут обнаружены, их трудно исправить. Американский специалист в области информационных технологий Джошуа Кролл опубликовал доклад о том, почему так происходит, а также предложил решение этой проблемы.

Кролл приводит в пример проблемы, которые возникают при использовании искусственного интеллекта для принятия решения о выдаче кредита и о предоставлении вакцины. В первом случае искусственный интеллект должен оценить кредитоспособность клиента. При сравнении характеристик прежних клиентов с текущим искусственный интеллект выявляет определенные закономерности, основанные на кредитных рейтингах, моделях прогнозирования риска дефолта и участии конкретного клиента в каких-либо финансовых программах.

Однако эти модели часто нацелены на оптимизацию прибыли банка, которая может перекрыть бизнес-логику, понятную специалистам в конкретной сфере, а также более широкие социальные понятия, такие как равноправный доступ к кредитам или недопущение дискриминационных практик.

И хотя банкир с надлежащими полномочиями может выносить суждение, предоставив кредит, казалось бы, платежеспособному заявителю, который не соответствует формальным критериям банка, пороговые значения и правила, которым обучен искусственный интеллект, не позволят это сделать. На практике это часто дает преимущества клиентам с хорошими связями, которые кажутся «подходящими», добавляя субъективности, присущую системе кредитования.

Казалось бы, решение искусственного интеллекта, вынесенное на основе четких правил, которым он обучен, потенциально позволяет снизить предвзятость в процессе предоставления кредита. Но эти правила имеют и обратную сторону: тем, кто не похож на предыдущих успешных клиентов, будет отказано в предоставлении кредита из-за их более низкого или недоступного кредитного рейтинга, будь то опытные предприниматели или люди, чье прошлое отличается от тех, кого обслуживали ранее — например, жители неблагополучных районов, либо маргинальные группы, определенные по таким категориям, как раса и пол. Такие слои населения имеют меньше шансов на предоставление кредита, если это решение принимает искусственный интеллект.

Еще один пример — принятие решения о предоставлении вакцины от COVID-19. Искусственный интеллект должен определить приоритетность распределения вакцины на основе формулы, которая основана на сравнении риска смерти в разных слоях населения. Таким образом, приоритет был отдан старшему медицинскому персоналу, а более молодые сотрудники были поставлены во вторую очередь предоставления вакцины. Это привело к тому, что только пяти из 1,3 тыс. сотрудников больницы была назначена вакцинация в первой очереди.

Специалист делает вывод, что автоматизация способна обеспечить высокую скорость принятия решений, однако разработчикам следует признать, что преобразования процесса принятия решения в цифры, как это делает автоматизация, недостаточно, и человеку необходимо работать совместно с системами машинного обучения.

Почему это важно. В настоящий момент ведутся дискуссии об использовании искусственного интеллекта в политической и военной сферах. Однако, если при принятии решений в автоматическом режиме в этих областях будут совершены ошибки, это может привести к непредсказуемым последствиям.
Комментарии для сайта Cackle
7 июля 2021 Новости  Опрос ВЦИОМ: Россияне доверяют искусственному интеллекту Около половины россиян (48%) доверяют искусственному интеллекту. Об этом свидетельствуют результаты опроса ВЦИОМ, которые были опубликованы 7 июля. Самый большой процент доверия наблюдается среди молодых людей от 18 до 24 лет (69%). 1 июня 2021 Новости  Недоверие к политикам: заменит ли депутатов искусственный интеллект Жители Европы хотели бы заменить политиков Евросоюза искусственным интеллектом, свидетельствуют результаты опроса, проведенного мадридским Центром управления изменениями Университета IE (IE University’s Center for the Governance of Change). «Актуальные комментарии» разбирались, к чему приведет такая замена. 19 марта 2021 Новости  Европа берет под контроль искусственный интеллект Евросоюз приступил к разработке международных инструментов регулирования искусственного интеллекта. Специалисты признают, что надвигающиеся глобальные проблемы, такие как создание вакцины для борьбы со следующими пандемиями или ограничение выбросов, вызывающих изменение климата, будут решаться с помощью инновационных инструментов искусственного интеллекта (ИИ) и машинного обучения.
© 2008 - 2021 Фонд «Центр политической конъюнктуры»
Сетевое издание «Актуальные комментарии». Свидетельство о регистрации средства массовой информации Эл № ФС77-58941 от 5 августа 2014 года. Издается с сентября 2008 года. Информация об использовании материалов доступна в разделе "Об издании".