Как предотвратить кризис доверия к искусственному интеллекту

Устройства и системы в современном мире постепенно наполняются технологиями искусственного интеллекта (ИИ), управляемыми машинным обучением. Некоторыми из них удобно пользоваться — например, умными камерами в смартфонах, которые превращают случайные щелчки в произведения искусства. Другие не столь однозначны — в частности, реклама в ленте новостей, показывающая то, что соответствует интересам пользователя. Одни считают, что это удобно, другие — что слишком навязчиво. Специалисты американского исследовательского центра The German Marshall Fund проанализировали роль искусственного интеллекта в жизни современного человека и рассмотрели способы предотвращения кризиса доверия к нему.

Приложения ИИ, которые имеют социальную значимость, получают гораздо меньше внимания, несмотря на то, что имеют большой потенциал. В пример приводятся системы, которые могут убедить банк предоставить кредит недостаточно обеспеченному клиенту или которые могут помочь беженцам сориентироваться в вопросах, связанных с предоставлением убежища.

Однако технологии искусственного интеллекта пока еще находятся в зачаточном состоянии: системы распознавания лиц часто работают некорректно, а приложения, связанные с поиском работы и сотрудников, лишают возможностей тех, кто не похож на людей, уже добившихся успеха на такой же должности. Производительность систем ИИ также сильно различается: те, что превосходно справляются со сложной задачей, могут потерпеть неудачу в другой, которая, по мнению людей, гораздо проще.

Общество научилось быть терпимым к компьютерным сбоям, однако, когда возникают проблемы в работе социально значимых систем, доверие к искусственному интеллекту подрывается. Учитывая, что ИИ широко используется государственными органами, в задачи правительств входит создание более надежного вида машин, а также определить, какие необходимы меры в случае сбоев в новых технологиях.

Автор публикации Дэвид Эдельман отмечает, что правительствам следует разработать национальную стратегию ИИ, а также законодательно закрепить принципы работы с системами искусственного интеллекта. За последние 30 лет был разработан целый ряд законов, регулирующих взаимодействие с компьютерными технологиями. Например, было дано определение преступлениям, связанным с вторжением в цифровое пространство и ограничением доступа к частным данным и сетям. За эти же три десятилетия политики постепенно научились понимать, когда цифровым системам можно доверять, а когда от них лучше отказаться при принятии каких-либо решений.

Задача эры искусственного интеллекта состоит в том, чтобы разработать детальную политику, которая позволит контекстуализировать системы ИИ и управлять ими, а также развить понимание, когда они будут готовы играть более значимые роли в жизни человека, заключает автор статьи.