Искусственный интеллект: беспристрастность или несправедливость

Искусственный интеллект используется уже практически во всех сферах жизни. Его применяют при постановке диагнозов, вынесении решений о выдаче кредитов, даже при распределении доз вакцины от коронавируса. Однако системы искусственного интеллекта часто совершают ошибки, которые могут остаться незамеченными, либо, даже если они будут обнаружены, их трудно исправить. Американский специалист в области информационных технологий Джошуа Кролл опубликовал доклад о том, почему так происходит, а также предложил решение этой проблемы.

Кролл приводит в пример проблемы, которые возникают при использовании искусственного интеллекта для принятия решения о выдаче кредита и о предоставлении вакцины. В первом случае искусственный интеллект должен оценить кредитоспособность клиента. При сравнении характеристик прежних клиентов с текущим искусственный интеллект выявляет определенные закономерности, основанные на кредитных рейтингах, моделях прогнозирования риска дефолта и участии конкретного клиента в каких-либо финансовых программах.

Однако эти модели часто нацелены на оптимизацию прибыли банка, которая может перекрыть бизнес-логику, понятную специалистам в конкретной сфере, а также более широкие социальные понятия, такие как равноправный доступ к кредитам или недопущение дискриминационных практик.

И хотя банкир с надлежащими полномочиями может выносить суждение, предоставив кредит, казалось бы, платежеспособному заявителю, который не соответствует формальным критериям банка, пороговые значения и правила, которым обучен искусственный интеллект, не позволят это сделать. На практике это часто дает преимущества клиентам с хорошими связями, которые кажутся «подходящими», добавляя субъективности, присущую системе кредитования.

Казалось бы, решение искусственного интеллекта, вынесенное на основе четких правил, которым он обучен, потенциально позволяет снизить предвзятость в процессе предоставления кредита. Но эти правила имеют и обратную сторону: тем, кто не похож на предыдущих успешных клиентов, будет отказано в предоставлении кредита из-за их более низкого или недоступного кредитного рейтинга, будь то опытные предприниматели или люди, чье прошлое отличается от тех, кого обслуживали ранее — например, жители неблагополучных районов, либо маргинальные группы, определенные по таким категориям, как раса и пол. Такие слои населения имеют меньше шансов на предоставление кредита, если это решение принимает искусственный интеллект.

Еще один пример — принятие решения о предоставлении вакцины от COVID-19. Искусственный интеллект должен определить приоритетность распределения вакцины на основе формулы, которая основана на сравнении риска смерти в разных слоях населения. Таким образом, приоритет был отдан старшему медицинскому персоналу, а более молодые сотрудники были поставлены во вторую очередь предоставления вакцины. Это привело к тому, что только пяти из 1,3 тыс. сотрудников больницы была назначена вакцинация в первой очереди.

Специалист делает вывод, что автоматизация способна обеспечить высокую скорость принятия решений, однако разработчикам следует признать, что преобразования процесса принятия решения в цифры, как это делает автоматизация, недостаточно, и человеку необходимо работать совместно с системами машинного обучения.

Почему это важно. В настоящий момент ведутся дискуссии об использовании искусственного интеллекта в политической и военной сферах. Однако, если при принятии решений в автоматическом режиме в этих областях будут совершены ошибки, это может привести к непредсказуемым последствиям.