После будущего. Homo sapiens в ловушке собственного разума

философАркадий Недель

Будущее, которое перестало ждать человека

На протяжении почти всей своей истории человек жил в проекте будущего, которое могло быть пугающим, неопределенным, недостижимым, но всегда оставалось впереди. Древний охотник, выбирающий новую стоянку, земледелец, сохраняющий семена, мореплаватель, строящий корабль, философ, проектирующий справедливое мироустройство или очередную утопию, и инженер, разрабатывающий машину, были связаны общим антропологическим жестом: они предполагали, что еще не существующее пространство возможностей открыто человеческому усилию. Человек не просто предвидел будущее, он узнавал в нем продолжение собственной способности действовать.

В этом смысле будущее не совпадает с календарным временем. Завтра наступает независимо от наших желаний; будущее же в культурном смысле существует лишь там, где субъект способен представить неосуществленное, превратить представление в проект, а проект — в практику. Человеческая история была не только чередой событий, но и борьбой проектов: спасения, прогресса, освобождения, благоденствия, научного господства над природой. Даже когда проекты терпели крах, сама возможность предложить новый оставалась практически неисчерпаемой.

Именно эта возможность сегодня оказывается под вопросом, но отнюдь не потому, что мир вступил в очередной кризис или что техника вновь угрожает рабочим местам. Возникает более глубокая асимметрия: внешний по отношению к биологическому человеку интеллектуальный агент способен все чаще выполнять операции, которыми homo измерял собственную исключительность, причем скорость его совершенствования не подчиняется темпу человеческого взросления, образования и смены поколений. Здесь, однако, следует сделать важную оговорку: речь идет о западном человеке, шире — человеке цивилизации, чья неизменная фиксация на знании и власти является причиной sine qua non того состояния, в котором мы оказались сегодня. 

Далеко не все, а точнее — большинство человеческих сообществ, не знающих этого драйва к знанию-власти над миром, — весьма далеки от мысли рассматривать себя как исключительного агента. Мы знаем массу примеров иных культур, где человек воспринимается как не более чем одна из форм существования внутри общей архитектуры мира, где природа и культура (или то, что мы называем словом «духовность») образуют своего рода симбиоз, сам находящийся в процессе постоянного изменения.

Так, если мы обратимся к культуре ачуар, коренного народа западной Амазонии, проживающего на территории Эквадора и Перу, в бассейнах рек Пастаса и Морона, то столкнемся с принципиально иным (само-)сознанием. С их точки зрения, человек не обладает никаким безусловно привилегированным положением по сравнению с другими окружающими его агентами. Как и человеку, многим растениям и животным ачуар приписывают собственное внутреннее начало — wakan, благодаря которому они предстают не пассивными объектами, а существами, обладающими внутренней жизнью и способными вступать в отношения с другими существами, включая людей. Они способны переживать, понимать обращенные к ним послания, общаться и выстраивать отношения. У них есть свой внутренний мир — не хуже и не лучше человеческого.

Лес для ачуар — не просто нагромождение природных объектов, потенциально подчиненных человеческим надобностям, а общество существ, с которыми человек вступает в сложные отношения. Лес, сад, животное или растение нельзя свести к пассивному материалу человеческой деятельности. С ними устанавливают отношения, их расположения добиваются, на них воздействуют, их убеждают или соблазняют; с ними вступают в своего рода эмоциональную и социальную связь, без которой человеческое действие рискует оказаться бесплодным.

Французский антрополог Филипп Дескола, изучавший ачуар и проживший среди них не один год, позднее назвал подобную организацию реальности «онтологией анимизма». И речь здесь не просто о вере в духов, а об особой организации реальности, при которой человек признает внутреннее сходство между собой и множеством нечеловеческих существ, несмотря на различие их тел.

Женщины ачуар выращивают маниок, батат, таро и другие растения, однако сад — не столько участок земли, где производится пища, сколько пространство отношений, напоминающих родственные. Культурные растения могут мыслиться как дети, нуждающиеся в заботе и внимании. Важную роль играет Нункуи (Nunkui) — женское мифологическое существо, связанное с плодородием сада и успешным выращиванием растений. Женщины обращаются к растениям и Нункуи посредством особых песенных формул — anent. Это не песни в привычном эстетическом смысле, а способы установления и преобразования отношений между человеком и другими существами. Мужчины также используют anent: они могут быть связаны с охотой, удачей, любовными отношениями и воздействием на других существ.

Амбивалентность этих отношений состоит в том, что животное часто оказывается одновременно добычей и существом, которому приписывается собственная субъективность. Поэтому анимизм ачуар нельзя идеализировать как состояние безмятежной гармонии человека с природой. Напротив, их космология допускает отношения заботы и близости, но также обмана, хищничества, соперничества и опасности. Именно поэтому мир ачуар интересен не как утопия «единства с природой», а как пример иной архитектуры агентности — мира, в котором человек не обладает монополией на внутреннюю жизнь и потому не может с полной очевидностью поставить себя в центр всего существующего.

Как бы то ни было, в обществах, подобных ачуар, проблема знания-власти, задающей саму траекторию его развития, попросту не существует. Если все агенты обладают wakan, то их отношения горизонтальны — что не означает идилличны — никто не оказывается носителем знания-власти настолько больше, чем остальные, чтобы этих остальных поставить или пытаться ставить в положение подчинения. В таких сообществах будущее конструируется не властью и временем, необходимым для подчинения всех одному, а конституирующим соотношением сил между всеми агентами. В этом принципиальное различие. Будущее фундаментально вневременно. Мы же оказываемся перед вероятностью, что проекты будущего будут создаваться, проверяться и перестраиваться быстрее, чем человек успеет о них подумать. 

Назовем это состоянием Post futurum — «после будущего». Речь тут совсем не идет о конце времен или о пресловутом «конце истории», об исчезновении исторических событий или даже о предсказуемой «ненужности» человека. Речь — о кризисе его прежнего положения как привилегированного агента возможного. Впервые созданная человеком система претендует не только на роль орудия осуществления целей, но и на участие в постановке целей, выборе средств, проектировании институтов и определении того, что считать рациональным. Для существа, чья культура строилась на опережающем воображении субъекта, это может оказаться сильнее любого промышленного переворота.

Парадокс в том, что никакой катастрофы для этого не требуется. Машины могут становиться полезнее, медицина — точнее, транспорт — безопаснее, администрация — эффективнее, а внутренний кризис человеческой перспективы при этом только углубляться. Цивилизация способна улучшать условия существования человека, одновременно лишая его привычного ответа на вопрос, ради чего развивать собственные способности. Чем совершеннее инструмент, тем острее сомнение, остается ли его создатель главным действующим лицом истории.

Не вид, а режим человеческого существования

Биологически мы остаемся Homo sapiens, и пока что появление искусственного интеллекта не создает новой человеческой разновидности — не меняет нашу another unique species, как говорит Роберт Фоули — или даже киборга, о чем мечтают такие авторы, как Ник Ланд. Более точным представляется понятие «проектирующий человек», или homo projectivus: не таксон, а исторически сложившийся антропологический режим, в котором способность строить возможные миры становится центральным основанием коллективного выживания. Его отличительная черта — не отдельный высокий показатель интеллекта, а соединение памяти, воображения, языка, кооперации и межпоколенческой передачи опыта.

Нельзя утверждать, будто человек выжил исключительно благодаря интеллекту, а все остальные виды были обречены из-за его отсутствия. Выживание определяли экология, случайность, тело, обмен веществ, социальность и культурные традиции. Однако у нашей линии постепенно сформировался необычный механизм: однажды найденное решение могло перестать принадлежать отдельному организму, превратившись в общее достояние группы. Сведения о растениях, приемы изготовления орудий, навыки ухода за детьми и правила взаимодействия сохранялись дольше индивидуальной жизни. Разум стал не только свойством мозга, но и процессом между мозгами.

Майкл Томаселло связывает человеческую специфику с разделяемой интенциональностью: люди не просто наблюдают действия друг друга, но способны совместно удерживать цель, распределять роли и формировать общее поле внимания. Вместе с Малиндой Карпентер он показывает, как совместное внимание преобразует слежение за взглядом, кооперативная коммуникация — манипулятивные сигналы, сотрудничество — групповую активность, а обучение с наставником — социальное подражание. 

Джозеф Хенрих, Роберт Бойд и Питер Ричерсон в разных исследованиях описали культурную эволюцию как процесс накопления адаптаций, который нельзя свести к прозрениям изолированного гения. Даже простое на вид орудие часто воплощает цепь изобретений и исправлений, которую отдельный человек не сумел бы восстановить с нуля. Дитрих Стаут и соавторы, исследуя древнейшие олдувайские каменные индустрии, обнаруживают основания предполагать точную передачу приемов обработки камня уже около 2,6 миллиона лет назад, хотя масштабы и механизмы ранней кумулятивной культуры остаются предметом дискуссии. 

Здесь возникает первое важное ограничение распространенного рассказа об интеллектуальной революции. Она не произошла за один вечер и не может быть уверенно привязана к одной дате. Около 60 тысяч лет назад действительно наблюдаются процессы культурной экспансии и усложнения символических практик, однако археологические находки из Бломбоса и других африканских памятников указывают на гораздо более ранние формы символического поведения. О времени появления полноценного языка исследователи спорят: генетические, археологические и сравнительные методы позволяют устанавливать разные пределы, но не дают единой даты его рождения. 

Тем не менее общий результат бесспорен: человек научился жить среди вещей, которых еще нет. Орудие предполагает будущую операцию; договор — будущее поведение другого; погребальный обряд — смысл, выходящий за пределы наблюдаемой жизни; закон — действия еще не родившихся граждан. В отличие от непосредственной реакции на раздражитель, проект требует удерживать отсутствующее в качестве действенного. История цивилизации — история постепенного расширения этой способности.

Швейцарский нож, собор и коллективный мозг

Образ «швейцарского ножа» полезен, если не приписывать его одному автору и не превращать в установленный факт. В эволюционной психологии он обозначает представление о множестве относительно специализированных когнитивных механизмов, приспособленных к разным задачам. Эндрю Уайтен обсуждал эволюционную модульность человеческого ума, противопоставляя ее идее совершенно универсального интеллекта. Но образ «швейцарского ножа» широко использовался в традиции Леды Космидес и Джона Туби, а не является индивидуальным открытием Уайтена. 

Другая известная линия связана со Стивеном Митеном. В книге «Предыстория разума» (1996) он предложил рассматривать развитие человеческого мышления через постепенное преодоление изоляции специализированных интеллектуальных областей — социальной, естественноисторической и технической. Его понятие когнитивной текучести помогает понять, почему появление новых связей между способностями могло оказаться важнее простой прибавки объема мозга. Разум, способный соединить знание о поведении животных, свойствах материалов и социальных намерениях, приобретает творческую силу, которой нет у каждого модуля по отдельности¹. 

Мерлин Дональд, в свою очередь, описал последовательность изменений культурно-когнитивной организации — от миметических форм к мифическому и теоретическому мышлению, поддержанному внешними системами памяти. Его схема особенно важна для нашей темы: письмо, счет, библиотека и архив уже давно вынесли часть мыслительных функций за пределы черепа. В этом смысле ИИ не первое внешнее хранилище интеллекта. Новизна заключается в том, что внешняя система перестает быть только памятью и становится активным производителем гипотез, текстов, решений и стратегий². 

Уайтен известен также исследованиями культурных традиций у шимпанзе. Они предостерегают от удобной антропологической гордыни: не только люди обучаются друг у друга, пользуются инструментами и обладают устойчивыми традициями. Уникальность человеческого случая следует искать в степени интеграции, накопления, символической передачи и институционализации, а не в ложном противопоставлении разумного человека всем остальным «безразумным» животным. 

Из этих подходов вырастает менее очевидная мысль. В эволюционной гонке побеждал не обязательно тот, кто лучше считал или быстрее находил ответ, а тот, чья группа могла сделать ответ общим, исправить ошибку и передать приобретение следующим поколениям. Человеческий интеллект исторически был распределенным. В определенном смысле цивилизация сама представляла собой медленно развивающуюся сеть взаимосвязанных когнитивных агентов. Однако скорость ее обновления оставалась связана с биологическими ограничениями: дети должны были вырасти, ученики — освоить ремесло, исследователи — прожить годы среди нерешенных вопросов.

Современный ИИ разрывает именно эту временную связь. Модель можно обучить на огромных массивах уже накопленного знания, тиражировать, подключить к инструментам и обновить без человеческого жизненного цикла. Там, где культурной традиции нужны поколения, программному комплексу могут понадобиться месяцы или недели — хотя цена вычислений, энергии, проверки и внедрения остается существенной. Не бессмертие машины, а различие скоростей становится главным источником антропологического напряжения.

Интеллектуальный соперник без биографии

Сегодня легко произнести эффектную, но научно нестрогую фразу: «ИИ уже делает все интеллектуально лучше человека». Она неверна в буквальном смысле. Современные модели достигают или превосходят человеческие ориентиры на ряде сложных тестов, успешно программируют, решают математические задачи, помогают анализировать изображения и документы. Одновременно они допускают вымышленные ссылки, неверно понимают контекст, испытывают трудности с надежным многошаговым действием и иногда ошибаются в задачах, простых для ребенка. Стэнфордский AI Index 2026 характеризует этот профиль как неровную границу возможностей: достижения в олимпиадной математике сосуществуют с поразительными провалами в элементарных операциях. 

Однако для философского диагноза достаточно более слабого, но уже наблюдаемого утверждения: широкий класс интеллектуальных задач перестает требовать человеческого исполнителя как необходимого условия. Вычисление, поиск, первичная систематизация, перевод, составление договоров, генерация программного кода, поиск статистических закономерностей и подготовка аналитических сценариев становятся совместной или преимущественно машинной работой. Даже там, где человек обязан проверять результат, соотношение усилий изменилось. Машина делает первый ход, а человек исправляет, уточняет или утверждает.

Исторические машины замещали прежде всего мышечную силу и отдельные ремесленные операции. Калькулятор освобождал от счета, но не предлагал философской интерпретации результата. Поисковая система находила документы, но не всегда строила из них связный аргумент. Генеративный ИИ соединяет операции, ранее разделенные между разными профессиями. Его конкурентное преимущество заключается не в одной сверхспособности, а в масштабируемости сочетаний: один и тот же вычислительный комплекс может быть редактором, переводчиком, аналитиком, программистом и собеседником.

При этом у ИИ нет доказанной человеческой биографии, жизненного риска, телесной зависимости, социального взросления и конечности в том смысле, в каком они определяют человеческое существование. Мы не располагаем общепринятым тестом, который позволял бы окончательно подтвердить или опровергнуть субъективный опыт искусственной системы. Поэтому было бы ошибкой утверждать как установленный факт и то, что ИИ чувствует, и то, что он принципиально не способен чувствовать. Достовернее говорить о различии условий существования и об отсутствии надежных оснований приписывать нынешним моделям человеческие переживания.

Человек оказывается в странном положении. Он конкурирует с агентом, который не обязан спать, взрослеть, получать диплом, заботиться о родителях, бояться собственной смерти или переживать социальное унижение. Машина может производить результаты, не оплачивая их тем, что для человека составляет цену жизни. Соревнование становится асимметричным еще до того, как установлено, кто лучше справляется с каждой отдельной задачей.

И здесь следует отличать интеллектуальную производительность от мудрости. Предложить тысячу моделей распределения ресурсов — не то же самое, что принять ответственность за голод конкретной семьи. Установить статистически оптимальное решение — не то же самое, что иметь моральное право его навязать. Интеллект способен расширять область средств, не разрешая сам по себе спор о целях. Но если общество привыкнет считать скорость и предсказательную точность достаточными критериями власти, это различие может быстро исчезнуть из политической практики.

Исчезновение горизонта проекта

Модерность создала человека, который видел собственное несовершенство как обещание. Просвещение связывало разум с освобождением от предрассудков; индустриальная эпоха — с преобразованием природы; социалистические и либеральные утопии — с переустройством общества; научная цивилизация — с расширением познания. Каждый проект предполагал, что недостаток настоящего можно преодолеть новым человеческим усилием. Будущее принадлежало не победителю, а тому, кто способен был представить иной порядок.

Эрнст Блох называл важнейшей категорией человеческого опыта еще-не-ставшее: реальность не исчерпывается наличным, поскольку сознание устремлено к возможному. У Ханны Арендт способность начинать новое связана с рождением и действием в пространстве человеческой множественности. Эти философские позиции различны, но обе напоминают: будущее — не прогноз вычислительной машины, а пространство, в котором кто-то начинает то, чего раньше не было³. 

ИИ меняет саму структуру этого пространства. Когда ученый начинает исследование, он уже знает, что модель может быстрее обработать литературу и предложить десятки гипотез. Когда студент учится писать, перед ним существует система, которая создает безупречно оформленный текст за секунды. Когда государственный деятель готовит реформу, ему можно предъявить машинный сценарий, оптимизированный по сотням переменных. Возникает соблазн отказаться от длительного развития способности и перейти сразу к получению результата.

Проблема не в том, что знания становятся доступнее. Напротив, их демократизация способна принести огромное благо. Опасность появляется, когда усилие утрачивает внутреннюю оправданность. Зачем учиться языку, если перевод мгновенен? Зачем осваивать аргументацию, если убедительный текст генерируется автоматически? Зачем запоминать, если внешняя память совершеннее? И т. п. Кажется, что на каждый вопрос можно дать разумный ответ: ради понимания, независимости, удовольствия, ответственности, однако ни один из этих ответов уже не опирается на прежнюю необходимость. Человек должен заново обосновывать то, что прежде обосновывала борьба за выживание и успех.

Возникает риск «антропологического обесценивания»: не объективной бесполезности людей, а массового переживания собственной вторичности. Прежде трудность была препятствием, которое делало развитие осмысленным, теперь же трудность может казаться досадной задержкой на пути к ответу, уже доступному машине. Разница особенно заметна в образовании: школа, которая продолжает оценивать лишь готовый продукт, не понимает, что продукт перестал надежно свидетельствовать о приобретенной способности.

Парадоксально, но человеческий проект может исчезнуть не из-за запрета, а из-за слишком легкого осуществления. Если алгоритм заранее предложит лучшие архитектуры, тексты, лекарства, законы и формы коммуникации, индивидуальная фантазия столкнется не с нехваткой возможностей, а с избытком готовых альтернатив. Творчество окажется окружено ответами, прежде чем успеет сформулировать вопрос. Так возникает будущее, которое уже как будто произошло где-то вне человеческого опыта.

Но прогноз не тождественен судьбе. Любая модель работает с критериями, данными, допущениями и распределением неопределенности. Она может превосходить человека в сравнении сценариев, не отменяя политического выбора между несовместимыми ценностями. Смысл выражения «после будущего» следует понимать как историческое предупреждение: если человечество отдаст алгоритмам не только поиск средств, но и определение желаемого, его собственное будущее станет административной функцией чужой рациональности.

Когда машина напишет лучшую утопию

Представим систему, способную моделировать налоговые режимы, транспортные потоки, преступность, энергетику, образование, эпидемии, миграцию, коррупционные риски и политические конфликты одновременно. Она сопоставляет миллионы институциональных вариантов, тестирует их на исторических данных, проводит виртуальные эксперименты и предлагает архитектуру государства, которая по выбранным показателям превосходит известные политические порядки. Это пока мысленный эксперимент, а не описание уже существующей компетенции. Однако именно его следует рассмотреть всерьез.
История политической философии может быть прочитана как история интеллектуально сконструированных обществ. Томас Мор описывал Утопию, Кампанелла — Город Солнца, Платон — справедливое устройство полиса. Маркс анализировал противоречия капиталистического производства и возможность иного общественного порядка. В XX веке собственные проекты предлагали либеральные демократы, социалисты, технократы и авторитарные лидеры, включая Муаммара Каддафи с его «Зеленой книгой». Нельзя ставить между ними знак политического или нравственного равенства: их предпосылки, институты и исторические последствия радикально различаются, но все они исходили из того, что человеческий разум способен обосновать предпочтительный порядок совместной жизни.

Будущая система ИИ может обнаружить, что некоторые из этих проектов опирались на слишком грубые представления о мотивации, собственности, кооперации и распределении информации. Она может предложить динамическое устройство, в котором правила непрерывно адаптируются к демографии, экологии и экономике, а управление перестает зависеть от жестких идеологических схем. По эффективности такой проект действительно может заставить старые утопии выглядеть наивными. Но это не означает, что он автоматически станет справедливее.

Вопрос «лучшее государство» не имеет единственного технического ответа. Лучшее для кого? Для максимизации продолжительности жизни, свободы, равенства, культурного многообразия, безопасности, личной автономии, экологической устойчивости? Эти ценности могут конфликтовать. Оптимизация одной переменной способна ухудшить другую, и более того, общество не является лабораторией, где людей можно без их согласия перемещать между институциональными режимами ради проверки гипотезы.

Поэтому необходимо различать киберсоциальную организацию и киберсоциальную власть. Первое понятие обозначает социальный порядок, в котором цифровые интеллектуальные системы становятся постоянными участниками координации, планирования, образования и распределения ресурсов. Второе — режим, при котором контроль над этими системами дает возможность определять поведение других людей. Киберсоциальное общество может быть демократическим, корпоративно-олигархическим или тоталитарным. Само наличие совершенных алгоритмов не предрешает политическую форму.

Особенно опасна идея, что рациональная точность снимает необходимость публичного спора. Демократическая дискуссия часто медленна, эмоциональна и неэффективна. Но ее смысл не исчерпывается нахождением правильного ответа. Она признает граждан соавторами обязательных для них правил. Даже если система безошибочно рассчитает наиболее выгодную пенсионную реформу, люди сохраняют право спорить о распределении издержек, о достоинстве старости и о допустимой степени принуждения. Легитимность нельзя вывести из одной лишь вычислительной мощности.

Итак, машина может превзойти утописта в построении согласованной институциональной модели. Она не получает от этого права быть сувереном. Однако на практике эта граница чрезвычайно хрупка: чем чаще алгоритмический совет оказывается полезным, тем сильнее стремление превратить рекомендацию в обязательное решение. Историческая проблема власти возвращается в новом виде: кто контролирует того, кто лучше всех знает, как следует управлять?

Первый сценарий: закрытый интеллект и новый тоталитаризм

Наиболее мрачный сценарий не требует восстания машин. Достаточно, чтобы доступ к самым сильным моделям, вычислительным ресурсам, данным и средствам автоматизированного управления оказался сосредоточен у небольшого числа государственных и корпоративных центров. Для большинства граждан ИИ будет ограничен, фильтрован и функционально обезоружен; для правящих групп он станет инструментом анализа поведения, предсказания недовольства, экономического планирования и политической селекции.

Образ «одного процента», которому разрешено пользоваться полным интеллектом, следует понимать как аналитическую гиперболу, а не количественный прогноз. Суть в асимметрии доступа. Правящий субъект получает мощный инструмент моделирования общественных процессов, тогда как управляемые видят лишь удобный интерфейс, не имея возможности проверить исходные данные, критерии оптимизации и скрытые ограничения. Возникает режим, в котором неравенство знаний превращается в неравенство политической реальности.

Классический тоталитаризм нуждался в массовой идеологии, партийной организации, цензуре и системе наказаний. Кибернетический авторитаризм может обходиться без непрерывной мобилизации. Он будет регулировать информационную среду, доступ к профессиям, кредитованию, транспорту, государственным услугам и публичной видимости. Человеку не обязательно запрещать мыслить: достаточно сделать его мысли практически невидимыми и неэффективными. Управление становится превентивным, а наказание — часто ненужным.

Такое общество способно даже казаться благополучным. Система снижает преступность, оптимизирует пробки, выявляет болезни и предотвращает дефицит, но гражданин утрачивает возможность оспорить принцип, по которому его жизнь стала объектом оптимизации. Внешнее благополучие не компенсирует исчезновения политической субъектности. Самая совершенная забота, исключающая свободу отказа, остается формой подчинения.

Запреты на ИИ не способны надежно остановить развитие технологий во всем мире: различаются интересы государств, возникают открытые модели, конкурируют исследовательские центры, однако отсюда не следует бесполезность регулирования. Законы могут устанавливать ответственность, прозрачность, аудит, пределы наблюдения и права граждан. Вопрос заключается не в выборе между абсолютным запретом и полным отсутствием правил, а в том, кому правила дают возможность действовать и кого лишают такой возможности.

Именно поэтому новый тоталитаризм следует определять не через присутствие ИИ, а через монополию на его политически значимые способности. Самым надежным признаком опасности станет не умность системы, а невозможность независимой проверки, конкуренции, выхода и публичного несогласия.

Второй сценарий: кибердемократия и асимметричное сотрудничество

Противоположный сценарий предполагает не запрет искусственного интеллекта, а его включение в систему распределенного гражданского контроля. Каждый человек получает доступ к интеллектуальному помощнику, способному объяснять законы, анализировать бюджеты, выявлять противоречия программ, готовить обращения, проверять обещания чиновников и переводить сложные научные сведения на понятный язык. Преимущество эксперта над неспециалистом сокращается, но не исчезает: знания становятся доступнее, тогда как ответственность за выводы и качество данных сохраняет значение.

Такая кибердемократия не должна изображать человека и машину одинаковыми субъектами. Между ними возможна функциональная асимметрия: ИИ быстрее рассчитывает последствия решений, а гражданин сохраняет политическое право устанавливать цели, возражать, требовать объяснения и отказываться. Равенство здесь не равенство когнитивных мощностей, а запрет превращать превосходство одной системы в право господства над другой.

Представим город, обсуждающий строительство новой транспортной сети. Модели предлагают варианты с учетом времени поездок, загрязнения воздуха, стоимости жилья и доступности больниц. Граждане видят не единственный «оптимальный» план, а множество компромиссов: дешевле, но шумнее; экологичнее, но медленнее; выгоднее большинству, но несправедливее к окраинам. ИИ раскрывает структуру выбора, а не прячет политическое решение внутри технического результата.

Кибердемократии нужны институциональные гарантии: право на объяснение значимых решений, независимый аудит моделей, конкуренция поставщиков, защита частной жизни, возможность человеческого пересмотра, доступность общественных вычислительных ресурсов и сохранение офлайн-каналов участия. Ни один алгоритм не должен одновременно формулировать правило, оценивать его исполнение и окончательно рассматривать жалобу на самого себя.

Возможна и более радикальная форма: гражданские ассамблеи с несколькими независимыми моделями, представляющими конкурирующие объяснения и варианты решений. Одни системы ищут скрытые расходы, другие — социальные последствия, третьи — угрозы меньшинствам и будущим поколениям. Подобно разделению властей, множественность интеллектуальных инструментов снижает риск монополии единственной рациональности. Но эффективность этого механизма зависит от подлинной независимости моделей, их владельцев и инфраструктуры.

Такое устройство может открыть новую фазу человеческого проекта. Человек перестанет соревноваться с ИИ в скорости вычисления и сосредоточится на способности обсуждать желаемые миры. Однако успех не гарантирован. Гражданин, которому система постоянно подсказывает предпочтительное решение, может постепенно разучиться выбирать. Демократия требует не только доступа к информации, но и практики самостоятельного суждения.

Третий сценарий: комфортное исчезновение субъекта

Между тоталитаризмом и кибердемократией лежит сценарий, возможно, наиболее вероятный в повседневной жизни: добровольная передача все большего числа решений удобным системам. Никто не запрещает человеку писать, знакомиться, учиться, путешествовать или размышлять. Но алгоритм лучше составляет маршрут, выбирает учебную программу, редактирует сообщение, подбирает партнера по интересам и рекомендует карьерную траекторию. Делегирование кажется разумным, потому что каждая отдельная уступка экономит время.

В совокупности такие уступки могут изменить структуру личности. Память, внимание, терпение, способность переносить неопределенность и переживать неудачу развиваются в упражнении. Если машина устраняет большинство ситуаций, требующих этих усилий, человек рискует лишиться не знания, а навыка его приобретения. Возникает не интеллектуальная деградация как неизбежный биологический процесс, а социальная атрофия практик самостоятельности.

Можно представить поколение, для которого свободное от работы время стало почти безграничным, но способность наполнить его содержанием оказалась ограниченной. Развлечения, эмоциональные симуляции и персонализированные истории бесконечно подстраиваются под вкус пользователя. Желание удовлетворяется раньше, чем превращается в устойчивую цель. Жизнь становится непрерывным потреблением возможностей, а не их осуществлением.

Здесь скрывается фундаментальная разница между счастьем и благополучным управлением ощущениями. Удовольствие можно увеличить, не увеличивая свободу. Скуку можно устранить, не открывая смысла. Одиночество можно смягчить цифровым общением, не создавая взаимного обязательства. Даже если алгоритм научится убедительно имитировать заботу, вопрос о взаимности и действительном участии другого субъекта останется открытым.

Комфортное исчезновение субъекта не выглядит трагедией, потому что у него нет одного драматического момента. Оно происходит через тысячи рациональных мелочей. Человек уступает сначала работу, затем решение, затем оценку и наконец способность формулировать собственное желание. В такой цивилизации будущее не уничтожено. Оно просто перестает требовать присутствия человека.

Четвертый сценарий: новая антропологическая коэволюция

Существует и менее пессимистическая перспектива. Если история Homo sapiens была историей расширения интеллекта через внешние культурные опоры, ИИ может оказаться следующим этапом этой линии. Письмо не уничтожило речь, хотя изменило память; научные приборы не отменили зрение, хотя позволили видеть недоступное глазу; вычислительные машины не уничтожили математику, хотя преобразили ее практику. Возможен мир, в котором человек перестанет считать автономное решение каждой задачи мерой достоинства и научится действовать в устойчивом союзе с машинным интеллектом.

Но аналогия с письмом и микроскопом имеет пределы. Эти инструменты не создавали столь широкого спектра собственных связных предложений, не участвовали в диалоге как квазисобеседники и не могли в той же мере адаптировать поведение к пользователю. Поэтому коэволюция не означает простого продолжения прежней техники, скорее она потребует новых образовательных, правовых и психологических институтов.

Прежде всего придется изменить идеал образования. Его целью станет не соревнование с моделью в воспроизведении информации, а формирование способности задавать плодотворные вопросы, распознавать неопределенность, понимать ограничения методов, самостоятельно проверять ключевые утверждения и отвечать за последствия выбора. Сохранят значение и медленные практики: чтение сложного текста без подсказки, математическое доказательство собственными силами, иностранный язык, музыка, ремесло, философский спор. Они нужны не только ради внешнего результата, но и ради образования субъекта.

Человеку придется освоить новую интеллектуальную скромность. Мы уже давно не самые быстрые бегуны, не самые сильные существа и не лучшие носители отдельных сенсорных способностей. Теперь может исчезнуть и первенство в некоторых формах мышления. Но человеческое достоинство не обязано опираться на чемпионский титул среди существующих интеллектов. Оно может основываться на уязвимости, взаимном признании, способности давать обещание, испытывать привязанность и отвечать за другого.

Впрочем, коэволюция будет успешной только при сохранении реальной свободы отказа. Если образование, медицина, транспорт и общение окажутся устроены так, что без посредничества ИИ невозможно совершить даже простое действие, сотрудничество превратится в инфраструктурное принуждение. Свободный союз требует способности выйти из него хотя бы в критически важных областях.

Таким образом, задача состоит не в восстановлении утраченного интеллектуального монополизма, а в создании новой меры самостоятельности. Человек может перестать быть самым продуктивным мыслителем, оставаясь автором обязательств и участником мира, который не сводится к вычислимому описанию.

Эмоции: последний рубеж или новая иллюзия?

Самый соблазнительный ответ на вопрос о будущем человека звучит так: машине доступен интеллект, но недоступны подлинные чувства. Человек уступит вычисление и прогнозирование, зато сохранит любовь, страх, сострадание, стыд, горе, восторг, надежду, сострадание... Возможно, именно эмоции станут основанием новой антропологии. Эта гипотеза заслуживает серьезного рассмотрения, но требует двух оговорок.

Во-первых, нельзя доказательно утверждать, что никакая возможная искусственная система никогда не приобретет субъективных состояний — того внутреннего опыта, существование которого и ставит перед нами сформулированную Дэвидом Чалмерсом «трудную проблему» сознания: почему физические и информационные процессы вообще сопровождаются qualia, субъективными переживаниями? Почему существует не только обработка информации, но и тот, кто ее переживает? Иначе говоря, откуда берется wakan? Философия сознания и когнитивная наука не выработали универсального критерия, позволяющего окончательно ответить на этот вопрос. Во-вторых, эмоциональная жизнь человека не существует отдельно от мышления. Чувства направляют внимание, придают событиям значимость, связывают память с телом и формируют предпочтения. Интеллект и аффект не две по-картезиански независимые половины человека, которые можно механически разделить между людьми и машинами.

Антонио Дамасио убедительно показал, насколько решения зависят от телесных и эмоциональных процессов. Его исследования пациентов с повреждениями определенных областей мозга подрывают образ чистого рационального субъекта, которому чувства только мешают. Рациональность, лишенная аффективной оценки, может оказаться неспособной практически выбирать, даже сохраняя отдельные логические способности⁴. 

Но не следует превращать эмоции в новый биологический патент. Животные также переживают аффективные состояния и строят социальные связи, а любовь, страх и привязанность не возникли внезапно вместе с человеческим языком. Специфика человеческого случая состоит в сложной организации переживания: чувство становится воспоминанием, рассказом, обязательством, моральным выбором, искусством и историей. Мы не только боимся утраты, но и знаем, что любимое смертно; не только страдаем, но и можем превратить страдание в обет, книгу или помощь другому.

Может ли машина написать стихотворение о горе? Уже может. Может ли она убедительно говорить от имени скорбящего? Да. Следует ли отсюда, что она сама скорбит? Отнюдь. Поскольку сходство языкового результата не устанавливает тождество субъективного опыта. Но столь же неверно считать, что человеческая скорбь ценна исключительно потому, что машина якобы не способна ее воспроизвести. Ее ценность связана с незаменимостью конкретной жизни и конкретной утраты, а не с дефицитом технологических аналогов.

Возможное преимущество человека состоит не в эмоции как изолированной функции, а в проживаемой причастности к миру. Мы испытываем голод и насыщение, зависим от другого тела, стареем, болеем, ошибаемся, надеемся на прощение, рождаем детей, хороним родителей. Это не обязательно делает наши суждения правильнее. Но придает им биографическую и моральную плотность. Человек не просто выбирает среди будущих состояний: он ставит на карту единственную, необратимую жизнь.

Следовательно, фундамент будущего может сложиться из отношений, для которых существенны не скорость и оптимальность, а присутствие, доверие и взаимная уязвимость. Врач может использовать систему, превосходящую его в диагностике, но больной нуждается также в том, кто готов остаться рядом и нести ответственность. Учитель может уступить машине в знании предмета, но передает ученику образ отношения к истине, а папа или мама не становятся заменимым потому, что Алиса лучше объясняет задание по алгебре.

Это не романтический отказ от технологии, скорее признание того, что общество, освобожденное от части интеллектуальной необходимости, должно заново определить, какие отношения оно считает самоценными. Если забота, дружба, воспитание, гражданская позиция, художественное переживание и политическое участие останутся только второстепенными занятиями после «настоящей» алгоритмической работы, антропологический кризис продолжится. Если же они станут центральными практиками цивилизации, потеря интеллектуального первенства может открыть иной горизонт человеческого развития.

Государство после будущего: кто обладает правом на ошибку?

Вопрос об искусственном интеллекте в конечном счете оказывается вопросом о том, где проходит граница между использованием чужой силы и утратой способности действовать самому. Государство может сохранять все внешние атрибуты независимости, но если выполнение его важнейших функций становится невозможным без внешних моделей, облачных инфраструктур, иностранных вычислительных мощностей и закрытых алгоритмов, постепенно меняется сама природа этой независимости. Зависимость становится политической не потому, что технология произведена за границей, а в тот момент, когда решение поставщика, изменение условий доступа или недоступность чужой системы начинают определять пространство решений, остающихся в распоряжении самого государства.

Речь, разумеется, не идет о возвращении к технологической автаркии. Современный мир слишком сложен, чтобы какое-либо общество могло самостоятельно производить все необходимые ему знания, оборудование и стандарты. Поэтому подлинная автономия определяется не отсутствием зависимостей, а способностью ими распоряжаться: сохранять альтернативы, переходить от одной системы к другой, воспроизводить собственную компетентность и, главное, понимать то, что делегируется машине. Самая глубокая зависимость возникает, возможно, именно там, где формальная свобода еще полностью сохранена. Государство вправе отвергнуть предложенное алгоритмом решение, однако если у него уже нет людей, данных и интеллектуальных средств, позволяющих самостоятельно понять основания этого решения и последствия отказа от него, право выбора остается, тогда как сама способность выбирать начинает исчезать. 

В киберсоциальном государстве возникает новый вопрос: кто обладает правом на ошибку? Человеческое управление неизбежно несовершенно. Избиратели ошибаются, парламенты принимают плохие законы, суды пересматривают решения. Но политическая свобода предполагает возможность коллективно пережить ошибку, признать ее и изменить направление. Алгоритмический порядок, построенный исключительно на минимизации ошибок, может лишить граждан именно этой способности — учиться через последствия собственных решений.

Конечно, право на ошибку не означает права безнаказанно причинять вред. Медицинские и технические решения должны опираться на максимально надежные данные. Однако там, где речь идет о ценностях и распределении общественных издержек, полностью устранить риск невозможно. Демократическая зрелость состоит не в безошибочности, а в открытости пересмотру. Поэтому критически важные алгоритмические решения должны быть обратимыми, проверяемыми и политически оспоримыми.

Сильное государство будущего не то, которое применяет наибольшее количество ИИ, а то, которое способно использовать его преимущества, не превращая собственных граждан в объекты недоступного им вычислительного порядка. Для этого потребуются общественные экспертные центры, открытые стандарты, независимые механизмы оценки, международные соглашения и сохранение человеческой компетенции в ключевых областях. Наконец, потребуется сознательное решение: эффективность не является единственным основанием легитимности.

Вероятно, новая политическая философия должна начинаться не с проекта идеального государственного устройства, а с перечня того, что нельзя оптимизировать без согласия людей. Право на личную жизнь, на политическое несогласие, на объяснение решения, на образование без обязательного алгоритмического посредника, на культурную самобытность и на участие в постановке коллективных целей образует минимальное пространство человеческого будущего.

За пределами интеллектуальной эволюционной гонки

Когда мы говорим, что человек впервые отстает от внешнего агента, следует соблюдать историческую точность. Люди давно уступали животным в силе и скорости, вычислительным устройствам — в счете, промышленным машинам — в производительности. Новым является не само отставание, а масштаб переноса разнообразных когнитивных операций на универсальные обучаемые системы. Даже здесь нет оснований считать, что все человеческие способности уже превзойдены. Но впервые правдоподобным стал сценарий, в котором интеллектуальное лидерство человека перестанет быть центральной предпосылкой цивилизационного развития.

С этой точки зрения «после будущего» означает конец одной из самых могущественных метафор человеческой истории. Тысячелетиями мы представляли развитие как гонку, в которой человек должен был становиться умнее, сильнее, богаче, точнее и быстрее. Менялись цивилизации, религии и политические системы, но сохранялась сама траектория: превзойти предел, расширить возможное, сделать завтра тем, чего еще не могло сделать сегодня. Будущее существовало потому, что впереди человека всегда находилась следующая ступень, на которую предстояло подняться ему самому.

Но что произойдет, если созданный человеком агент продолжит это движение быстрее своего создателя? Если он будет лучше считать, прогнозировать, проектировать, комбинировать знания и находить решения в пространствах сложности, уже недоступных человеческому разуму? Тогда исчезает не просто наше первенство, исчезает сама историческая конструкция, внутри которой первенство имело смысл. Человек впервые может обнаружить себя не победителем и даже не проигравшим в собственной гонке, а существом, мимо которого эта гонка продолжается.

Именно здесь начинается настоящее «после будущего». Будущее не исчезает — напротив, оно может ускориться до невиданной прежде степени. Исчезает уверенность, что его главным действующим лицом останемся мы. Машины будут становиться совершеннее, системы — сложнее, прогнозы — точнее, открытия — стремительнее, но все большая часть этого движения сможет происходить уже не благодаря расширению человеческих возможностей, а независимо от него. Впервые прогресс человечества и прогресс разума могут оказаться не одним и тем же процессом.

Попытка любой ценой вернуть утраченное первенство открывает два одинаково тревожных пути. Первый — искусственно замедлить созданный нами разум, чтобы сохранить человеческое превосходство административным запретом. Это примерно, как если бы проигравший шахматную партию достал разводной ключ и ударил бы им оппонента по голове. Второй — начать перестраивать самого человека ради сохранения его конкурентоспособности, все теснее соединяя его с созданными им системами, пока граница между инструментом и пользователем не потеряет смысл. В первом случае мы будем вынуждены защищать свое превосходство от собственного изобретения. Во втором — можем сохранить место в гонке ценой исчезновения того существа, ради которого когда-то вообще стоило побеждать. Возможно, поэтому главный вопрос XXI века состоит уже не в том, сумеет ли человек остаться самым интеллектуально могущественным существом на Земле. Возникший вопрос мог бы появиться у самого Еврипида или Софокла: сумеет ли он перестать быть самым могущественным и при этом остаться человеком?

Возможно, подлинная альтернатива заключается в отказе от идеи, что будущее принадлежит самому эффективному интеллекту. История человека тогда станет историей не победы в соревновании, а формирования особого отношения к существованию. Человек способен помнить то, чего больше нет, отвечать за поступки, последствия которых он не мог полностью предвидеть, и обещать то, что не гарантировано никаким расчетом. Его проект может быть не лучшим среди миллионов алгоритмических сценариев, но он является его собственным — принятым перед другими людьми.

Это не делает человеческий выбор неприкосновенным. Наши решения нуждаются в критике, проверке и исправлении, а ИИ способен стать чрезвычайно сильным инструментом такой критики. Более того, некоторые человеческие политические проекты были настолько жестоки — от расистских идеологий XIX века до бесчеловечных коммунистических экспериментов века ХХ-го — что их интеллектуальная замена лучшими процедурами стала бы несомненным благом. Защищать человеческую субъектность не значит романтизировать невежество, произвол или насилие, это лишь означает отказаться от вывода, будто технически более совершенная рекомендация автоматически упраздняет право людей определять цели своей жизни.

Если будущие модели смогут проектировать государственные институты лучше величайших утопистов прошлого, перед нами откроется не только угроза, но и редкая возможность. Человечество впервые получит зеркало, в котором его интеллектуальные ограничения будут видны столь же отчетливо, как когда-то в телескопе стали видны ограничения земного взгляда. Вопрос заключается в том, приведет ли это к смирению и новому сотрудничеству или к капитуляции перед рациональностью, которую мы перестанем понимать.

Будущее как отношение, а не как преимущество

Итак, как жить человеку после будущего? Прежде всего — перестать отождествлять будущее с собственным интеллектуальным первенством. Оно не было вечным биологическим правом Homo sapiens и не может служить единственным основанием его достоинства. Искусственный интеллект обнаруживает слабость прежней антропологии, в которой человек понимал себя главным образом как существо, способное лучше других предвидеть, считать, объяснять и проектировать.

Второе условие — не отдавать интеллектуальному превосходству право политического господства. Возможны разные пути: олигархия закрытых моделей, алгоритмический тоталитаризм, добровольная утрата самостоятельности, демократическая координация и новая коэволюция человека с интеллектуальными системами. Ни один из них не предопределен самой технологией. Исход зависит от собственности, права, образования, международных институтов и способности общества защищать границы делегирования.

Третье — не строить новую человеческую исключительность на недоказанном утверждении, что машина никогда не сможет чувствовать. Нам достаточно более строгой мысли: человеческая жизнь обладает переживаемой, телесной, исторической и межличностной структурой, которую нельзя свести к качеству внешнего результата. Любовь, сострадание, скорбь, доверие, сострадание и ответственность ценны не потому, что пока плохо автоматизируются, а потому, что образуют отношения между конкретными конечными существами.

Наконец, будущему следует вернуть его первоначальный смысл — быть пространством человеческого начинания, а не конечной точкой оптимального прогноза, как следует отказаться и от власти-знания как единственного вектора развития. Возможно, машина раньше нас найдет лекарства от болезней, которые мы считали неизлечимыми, вычислит устойчивые экономические режимы и предложит политические институты, которых не могли вообразить ни Мор, ни Кампанелла, ни Маркс. Возможно даже, что она сумеет описать общество, статистически более справедливое, безопасное и благополучное, чем любое из когда-либо созданных человеком.

Но именно здесь проходит граница, которую нельзя преодолеть одним увеличением вычислительной мощности. Из знания о том, как лучше устроить мир, еще не следует ответ на вопрос, зачем нам жить именно в таком мире. Самый совершенный алгоритм способен рассчитать последствия нашего выбора, но он не может вместо нас решить, какие последствия мы готовы принять; способен показать цену справедливости, свободы или солидарности, но не определить, какую цену мы согласны за них заплатить. Он может предложить нам будущее — возможно, гораздо более разумное, чем то, которое придумали бы мы сами, — но не может одним только совершенством расчета превратить его в наше будущее.

И, быть может, именно здесь человеку предстоит совершить самый парадоксальный поворот в своей истории. Тысячелетиями он доказывал свое особое положение способностью знать больше, предвидеть дальше и подчинять мир собственному замыслу. Теперь ему, возможно, придется искать основание своей уникальности не в превосходстве над другими агентами, а в способности существовать рядом с тем, кто превосходит его; не в безошибочности решения, а в ответственности за него; не в господстве над будущим, а в готовности придать ему человеческий смысл.

Потому что будущее начинается не там, где становится известно, что произойдет. Оно начинается там, где, зная, что может произойти, человек все еще способен сказать: это зависит от нас.

Аркадий Недель, профессор кафедры философских наук МГЛУ.

#АркадийНедель


¹Mithen, Steven. The Prehistory of the Mind: A Search for the Origins of Art, Religion and Science. Thames & Hudson, 1996.
² Donald, Merlin. Origins of the Modern Mind: Three Stages in the Evolution of Culture and Cognition. Harvard University Press, 1991.
³ Bloch, Ernst. The Principle of Hope. MIT Press, 1986; Arendt, Hannah. The Human Condition. University of Chicago Press, 1958.
⁴ Damasio, A. R. Descartes’ Error: Emotion, Reason, and the Human Brain. Putnam, 1994.