Эксперты обеспокоились искусственным интеллектом с сознанием

Системы искусственного интеллекта, способные чувствовать или осознавать себя, могут «страдать», если технология будет развиваться безответственно, говорится в открытом письме, которое подписали более 100 западных экспертов в области ИИ. В письме предлагается пять принципов проведения ответственных исследований сознания ИИ, поскольку стремительный прогресс вызывает опасения, что такие системы могут считаться разумными.

Изложенные принципы включают в себя: приоритет исследований по пониманию и оценке сознания ИИ, чтобы предотвратить «плохое обращение» с ИИ и его возможные «страдания»; установление ограничений на разработку систем ИИ с сознанием; поэтапный подход к разработке таких систем; обнародование результатов для общественности; воздержание от вводящих в заблуждение или слишком самоуверенных заявлений о создании ИИ с сознанием, пишет The Guardian.

Письмо было опубликовано вместе с научной статьей, в которой утверждается, что в ближайшем будущем могут быть созданы системы ИИ, обладающие сознанием — или, по крайней мере, те, которые создают впечатление, что они им обладают.

«Возможно, будет создано большое количество сознательных систем, которые будут вынуждены страдать», — говорится в статье. Также в ней отмечается, что если мощные системы ИИ смогут воспроизводить себя, это может привести к созданию «большого количества новых существ, заслуживающих внимания», поэтому даже компаниям, не планирующим создавать сознательные системы, понадобятся рекомендации на случай «непреднамеренного создания сознательных сущностей».

Авторы статьи признают, что существует широкая неопределенность и разногласия по поводу определения сознания в системах ИИ и того, возможно ли оно вообще, но утверждают, что это вопрос, который «нельзя игнорировать».

Другие вопросы, поднятые в статье, касаются того, что делать с системой ИИ, если она определяется как сущность, которая имеет моральное значение «сама по себе, ради себя самой». В этом случае возникает вопрос, будет ли уничтожение ИИ сравнимо с убийством животного.

Авторы статьи также предупреждают, что ошибочное мнение о том, что системы ИИ уже обладают сознанием, может привести к напрасной трате политической энергии, поскольку предпринимаются излишние усилия по обеспечению их благополучия.