Новость
733
4 февраля 2025 10:58
Эксперты обеспокоились искусственным интеллектом с сознанием
Системы искусственного интеллекта, способные чувствовать или осознавать себя, могут «страдать», если технология будет развиваться безответственно, говорится в открытом письме, которое подписали более 100 западных экспертов в области ИИ. В письме предлагается пять принципов проведения ответственных исследований сознания ИИ, поскольку стремительный прогресс вызывает опасения, что такие системы могут считаться разумными.Изложенные принципы включают в себя: приоритет исследований по пониманию и оценке сознания ИИ, чтобы предотвратить «плохое обращение» с ИИ и его возможные «страдания»; установление ограничений на разработку систем ИИ с сознанием; поэтапный подход к разработке таких систем; обнародование результатов для общественности; воздержание от вводящих в заблуждение или слишком самоуверенных заявлений о создании ИИ с сознанием, пишет The Guardian.
Письмо было опубликовано вместе с научной статьей, в которой утверждается, что в ближайшем будущем могут быть созданы системы ИИ, обладающие сознанием — или, по крайней мере, те, которые создают впечатление, что они им обладают.
«Возможно, будет создано большое количество сознательных систем, которые будут вынуждены страдать», — говорится в статье. Также в ней отмечается, что если мощные системы ИИ смогут воспроизводить себя, это может привести к созданию «большого количества новых существ, заслуживающих внимания», поэтому даже компаниям, не планирующим создавать сознательные системы, понадобятся рекомендации на случай «непреднамеренного создания сознательных сущностей».
Авторы статьи признают, что существует широкая неопределенность и разногласия по поводу определения сознания в системах ИИ и того, возможно ли оно вообще, но утверждают, что это вопрос, который «нельзя игнорировать».
Другие вопросы, поднятые в статье, касаются того, что делать с системой ИИ, если она определяется как сущность, которая имеет моральное значение «сама по себе, ради себя самой». В этом случае возникает вопрос, будет ли уничтожение ИИ сравнимо с убийством животного.
Авторы статьи также предупреждают, что ошибочное мнение о том, что системы ИИ уже обладают сознанием, может привести к напрасной трате политической энергии, поскольку предпринимаются излишние усилия по обеспечению их благополучия.
20 февраля 2025
Анонс
Форум будущих технологий
20-21 февраля в Москве состоится ежегодный
Форум будущих технологий, который будет посвящен теме «Новые материалы и химия».
7 февраля 2025
Новость
Ученые боятся «потери контроля» над ИИ
Гонка технологических гигантов по разработке
все более мощного искусственного интеллекта может иметь пагубные последствия, предупредил профессор Монреальского университета, лауреат премии Тьюринга Джошуа Бенжио перед саммитом ИИ в Париже.
КомментарийКомментарий
политологМихаил Карягин
