Кому служит ИИ

экономистВасилий Колташов

Искусственный интеллект всё активнее становится частью не только экономики и повседневной жизни, но и сфер, связанных с государственной политикой и безопасностью. При этом модели ИИ могут отражать ценности и интересы тех, кто их разрабатывает и использует. Где проходит граница между технологическим инструментом и потенциально опасным механизмом принятия решений? И почему государствам необходимо вырабатывать собственную модель контроля над искусственным интеллектом?

На эти вопросы в комментарии «Актуальным комментариям» ответил директор Института нового общества, автор Telegram-канала «Политэкономия» Василий Колташов.

— На Западе искусственный интеллект в значительной степени является корпоративным продуктом, а государственный контроль над его разработкой и применением пока ограничен. Исключение составляют отдельные государственные контракты, например с компанией Palantir. В результате формируется система, которая во многом отражает идеологию и интересы тех, кто её создаёт и заказывает. В этом смысле она может становиться своего рода цифровым эгоцентриком и неолибералом, а в предельном случае — цифровым фашистом. Именно здесь возникает вопрос безопасности.

Искусственный интеллект не существует вне системы ценностей, заложенной в его разработку. Он может быть гуманистом, а может быть носителем совершенно иных установок. Чтобы не допустить превращения технологии в инструмент деструктивной политики, деятельность компаний, которые её разрабатывают и внедряют, необходимо контролировать.

Однако в США ситуация устроена иначе. США — это в значительной степени государство бизнеса, а не государство нации. Система сдержек и противовесов ограничивает возможности правительства, в то время как корпорации получают значительное пространство для самостоятельных действий. При такой модели технологии, создаваемые на Западе, потенциально становятся опасными для человечества.

Эта опасность может быть как частной, так и общей. Если искусственному интеллекту дают поручения определять, как бомбить те или иные страны, кого убивать в первую очередь, какую школу разбомбить прежде всего, исходя, например, из того, где больше девочек или мальчиков, технология превращается из инструмента в непосредственный элемент принятия решений, связанных с человеческими жизнями. На это, как представляется, американцы уже делают ставку.

Проблема заключается не только в самой технологии, но и в политических конструкциях, которые определяют, какой она становится и в каких сферах ей разрешено действовать. Для других стран, в том числе стран БРИКС, это означает необходимость поставить вопрос о собственной модели развития искусственного интеллекта.

В этой модели он должен быть прежде всего помощником, а не угрозой. Контроль над его применением должно осуществлять государство. Не должно быть бесконтрольной системы, которая появляется где угодно, действует на основе частных контрактов и при этом потенциально создаёт опасность для жизни людей.

При этом было бы неправильно утверждать, что искусственный интеллект на Западе вообще не регулируется. Он отчасти регулируется самим заказчиком, а потому системы, создаваемые в разных странах и для разных заказчиков, могут существенно различаться.

Это хорошо видно на идеологических вопросах. Если спросить систему, является ли неолиберализм реакционной и деструктивной идеологией, можно получить разные ответы в зависимости от конкретной модели. Например, американский ChatGPT может представить такую оценку как частное мнение и указать, что неолиберализм не является реакционной и деструктивной идеологией. Другая система может, напротив, признать, что аргументы против неолиберализма весьма существенны.

Таким образом, технологии искусственного интеллекта способны отражать совершенно разные идеологические установки. Они могут быть фашистскими или антифашистскими, гуманистическими либо ориентированными на определённую политическую модель. Вопрос о том, каким должен быть искусственный интеллект, становится принципиальным для развития государств и сохранения безопасности на планете.

Василий Колташов, директор Института нового общества.

#ВасилийКолташов