Когда машина задаст последний вопрос

философАркадий Недель

Останавливать развитие искусственного интеллекта бессмысленно. Единственный ответ на его превосходство — снова научить человека думать.

В своем недавнем интервью Сэм Альтман выбрал позицию, которая сегодня выглядит почти безупречно ответственной. На фоне новых тревог вокруг автономных AI-агентов, давления политиков и разговоров об экзистенциальном риске глава OpenAI заявил, что 2026 год — неподходящее время для выхода компании на биржу, и поддержал призыв руководителя Anthropic Дарио Амодеи замедлить наращивание возможностей наиболее передовых моделей. Reuters приводит его формулу предельно ясно: даже если предполагаемый риск катастрофы составляет не десять, а восемь или шесть процентов, это не меняет масштаба ответственности. «Мы не можем позволить эго или стремлению к прибыли встать у нас на пути», — говорит Альтман. В этой части с ним трудно спорить: безопасность действительно нельзя приносить в жертву капитализации, корпоративной гонке или тщеславию разработчиков. Но из правильной посылки вовсе не обязательно следует правильный вывод. Проблема начинается там, где контроль над риском постепенно подменяется идеей замедления самого познания.

НАУКА НЕ УМЕЕТ ОСТАНАВЛИВАТЬСЯ

История человечества плохо совместима с глаголом «остановить». Нельзя остановить вопрос после того, как он поставлен, отменить математическую проблему после того, как она сформулирована, или коллективным соглашением сделать неизвестным то, что уже превратилось в предмет исследования. Можно закрыть лабораторию, ограничить финансирование, засекретить результаты, запретить публикацию и даже преследовать исследователей, но нельзя отменить саму интеллектуальную возможность. Наука существует именно потому, что неизвестное оказывает на человеческий разум почти физическое давление. Как только становится ясно, что за очередной дверью есть пространство, которое можно исследовать, кто-нибудь эту дверь откроет. Поэтому идея добровольного замедления переднего края AI вызывает гораздо больше вопросов, чем кажется на первый взгляд.

Справедливости ради, Амодеи предлагает не запрет исследований. Его формула осторожнее: «Мы должны замедлить темп, с которым улучшаем возможности AI-моделей». Он предлагает независимые проверки, координацию ведущих лабораторий и международные механизмы безопасности, чтобы защитные меры успевали за ростом возможностей систем. Это серьезная позиция, и отмахиваться от нее было бы глупо. Однако опаснее конкретных технических мер может оказаться интеллектуальная привычка, возникающая вокруг этой дискуссии: представление о том, что слишком быстрое увеличение знания само по себе становится патологией. Между тем знание не является ни оружием, ни преступлением; опасными бывают способы его применения, институциональная среда и доступ к критическим системам. Именно здесь и должна проходить граница регулирования.

КТО ДОЛЖЕН ЗАМЕДЛИТЬСЯ?

Если OpenAI, Anthropic и несколько других западных компаний действительно договорятся двигаться медленнее, математические идеи не исчезнут, университетские лаборатории не закроются, независимые команды не перестанут экспериментировать, а государства, воспринимающие AI как стратегический ресурс, не откажутся от собственных программ. Амодеи сам признает геополитическую сторону проблемы и связывает координацию американских компаний с необходимостью не отдать технологическое преимущество Китаю. В этой оговорке заключен главный парадокс глобального торможения: технологию можно административно замедлить только там, где регулятор способен до нее дотянуться, тогда как интеллектуальную возможность замедлить нельзя. В результате наиболее прозрачные лаборатории рискуют ограничить себя, а менее прозрачные игроки получают дополнительное пространство для маневра. Это уже не контроль над технологией, а потенциальное перераспределение технологической инициативы.

Еще важнее другое. Требование замедлить AI незаметно переносит ответственность с человека на созданный им инструмент. Мы говорим, что машина развивается слишком быстро, и потому предлагаем машине развиваться медленнее. Гораздо неприятнее признать, что настоящая проблема может состоять в обратном: человек и созданные им институты интеллектуального воспроизводства развиваются слишком медленно. Система образования XXI века в своих базовых принципах поразительно похожа на систему века XIX. Ребенок годами воспроизводит информацию, которую машина извлекает за секунды; университет слишком часто проверяет способность запоминать и пересказывать именно тогда, когда запоминание и пересказ превращаются в самые дешевые интеллектуальные операции. Мы создали машину, способную за минуты обработать объем материала, на чтение которого человеку понадобились бы годы, и первой реакцией оказалось желание ограничить машину, но куда продуктивнее было бы радикально увеличить требования к человеческому интеллекту.

ЧЕЛОВЕЧЕСКОЕ ОБРАЗОВАНИЕ СЛИШКОМ СЛАБО

Конкуренция человека с AI в скорости обработки информации уже проиграна, но сама по себе эта потеря не является трагедией. Человек давно проиграл автомобилю в скорости передвижения, экскаватору — в физической силе, телескопу — в дальности зрения, калькулятору — в арифметике. Ни одно из этих поражений не уничтожило человека, потому что цивилизация научилась превращать превосходство инструмента в расширение собственных возможностей. Ошибка начинается тогда, когда мы продолжаем воспитывать школьника как несовершенную базу данных, а затем ужасаемся появлению настоящей базы данных. Если AI способен ответить на экзаменационный вопрос лучше студента, это может свидетельствовать не только о силе AI, но и о примитивности самого экзаменационного вопроса.

Образование эпохи искусственного интеллекта должно начинаться не с запрета ChatGPT или DeepSeek в аудитории, а с пересмотра того, что мы вообще называем интеллектуальной работой. Школа должна учить формулировать проблему и отличать аргумент от информационного шума; университет — различать проблему и псевдопроблему, видеть скрытые предпосылки и строить собственную исследовательскую позицию; наука — понимать границы метода; философия — спрашивать об основаниях самого вопроса. Если машина забирает у человека низшие этажи интеллектуальной работы, это может оказаться не катастрофой, а освобождением, но только при одном условии: освободившееся пространство должно быть занято более сложным мышлением, а не развлечением, интеллектуальной леностью и бесконечным потреблением готовых ответов.

Здесь особенно уместна позиция Эндрю Ына, одного из наиболее известных исследователей машинного обучения. В споре о регулировании он сформулировал вопрос, который меняет привычную оптику: «Будет ли миру лучше с большим или меньшим количеством интеллекта?» Его ответ состоит в том, что регулировать следует конкретные опасные применения, а не сам технологическую экосистему. И это различие принципиально. Мы вправе требовать, чтобы медицинская система была безопасной, кредитный алгоритм — проверяемым, автономный автомобиль — сертифицированным, а система, подключенная к критической инфраструктуре, — подконтрольной. Но из необходимости регулировать опасное применение не следует необходимость тормозить фундаментальное исследование. Наоборот, чем мощнее технология, тем больше нам нужны исследования ее устройства, границ и способов безопасного использования.

ГУМАНИТАРНЫЕ НАУКИ КАК ТЕХНОЛОГИЯ ВЫЖИВАНИЯ

Последние десятилетия гуманитарное знание систематически ставили в положение бедного родственника «настоящей» науки. Философский факультет должен был оправдываться перед инженером, филолог — объяснять экономисту, зачем обществу Данте и Пинчон, историк — доказывать чиновнику измеримую полезность своей работы, антрополог — переводить исследование человека на язык грантовых «компетенций». Искусственный интеллект способен радикально изменить эту иерархию. Чем сильнее становится машина в вычислении, поиске, классификации и обработке данных, тем важнее дисциплины, которые столетиями исследовали не вычислительную мощность человека, а условия человеческого существования: философия, литература, история, антропология, филология и искусство.

Речь не о наивной вере в то, что AI навсегда останется неспособным писать роман, анализировать Канта или рассуждать о смерти. Такая уверенность была бы очередной формой человеческого нарциссизма. Граница проходит глубже. Гуманитарное знание занимается вопросами, для которых скорость ответа не является критерием качества ответа: справедливость, свобода, достоинство, сознание, ответственность, историческая память, смысл смерти, природа понимания. Ответ на такой вопрос не становится лучше оттого, что получен за долю секунды вместо нескольких лет. Более того, мгновенная готовность отвечать иногда мешает понять, что именно спрашивается. Поэтому в мире AI гуманитарные науки из интеллектуальной роскоши превращаются в инфраструктуру цивилизационной безопасности: нам нужны люди, способные не быстрее машины отвечать, а глубже нее понимать, почему определенный вопрос вообще должен быть поставлен.

ПОСЛЕДНИЙ РУБЕЖ — НЕ ОТВЕТ, А ВОПРОС

Обычно спор об AI сводится к моменту, когда машина станет «умнее человека», но само слово «умнее» здесь почти бессодержательно без уточнения критерия. В скорости вычислений человечество проиграло давно, в памяти — тоже; в обработке гигантских массивов текста, поиске корреляций, программировании и оптимизации соревнование во многих областях уже теряет смысл. Сегодня все живущие чемпионы мира по шахматам вместе взятые едва ли выиграют матч у Stockfish’а — гибрида, который сочетает чрезвычайно мощный алгоритмический поиск с нейросетевой оценкой NNUE (Stockfish 19 использует новую архитектуру SFNNv16). У меня почти нет сомнений в том, что Stockfish их сделает как детей из старшей группы детского сада. 
Существует, однако, иной критерий интеллектуального превосходства — способность поставить вопрос, которого прежде не существовало, не подобрать ответ из пространства возможных ответов и не оптимизировать решение поставленной задачи, а увидеть, что сама задача сформулирована неверно. Философия начинается именно в этой точке.

Аристотель велик не потому, что располагал крупнейшей базой данных в Афинах. Кант важен не количеством прочитанных книг, Ницше не победил современников вычислительной мощностью, а Гуссерль не предложил человечеству более быстрый алгоритм. Они меняли конфигурацию вопросов, после них человек спрашивал иначе, думал иначе и иначе воспринимал мир. Возможно, именно здесь пока проходит наиболее серьезная граница между человеческим и искусственным интеллектом: не в способности производить безупречные предложения или строить сложные доказательства, а в способности настолько радикально переосмыслить интеллектуальную ситуацию, чтобы обнаружить изъян в самом способе постановки проблемы. Человеческий коллапс случится не тогда, когда AI напишет роман лучше писателя, поставит диагноз точнее врача, докажет теорему быстрее математика, заменит программиста или, наконец, докажет или опровергнет гипотезу Римана. Он случится тогда, когда искусственный интеллект научится ставить философские вопросы лучше человека.
Это будет момент качественного, а не количественного превосходства. Машина не просто ответит на наше «что такое сознание?», а сможет обнаружить, что несколько тысяч лет мы неверно формулировали проблему сознания; не предложит очередную теорию свободы, а поставит проблему свободы так, что история человеческой философии окажется частным случаем более общей конструкции; не перескажет нашу культуру, а увидит ее концептуальную слепую зону раньше нас. Тогда придется говорить уже не о конкуренции производительности, а о конкуренции форм разума. Именно поэтому стратегия человечества должна быть противоположна интеллектуальной панике: необходимо одновременно развивать два интеллекта — искусственный, максимально мощный и строго проверяемый там, где его применение способно причинить реальный вред, и человеческий, максимально образованный, концептуально смелый, исторически осведомленный и философски тренированный.

Давайте будем честны: наши страхи перед искусственным интеллектом происходят из банального и покамест мало адекватного переноса наших собственных демонов на AI: мы, и никто другой, творим зло в этом мире; на протяжении всей нашей недолгой истории мы, и никто другой, убиваем себе подобных в количествах, которые едва ли поддаются исчислению; мы, и никто другой, придумали пытку как способ «дознания», получения «истинных» признаний; мы, и никто другой, изобрели идеологии, ради которых сотни миллионов отправили на смерть. И теперь нам страшно, что кто-то может превзойти нас в степени и структуре нашего зла. 

БЕЗОПАСНОСТЬ — ДА, ИНТЕЛЛЕКТУАЛЬНАЯ КАПИТУЛЯЦИЯ — НЕТ

У этой позиции есть сильный союзник среди создателей современного AI — лауреат премии Тьюринга Ян Лекун. Обсуждая регулирование, он проводит ту же границу между технологией и ее применением: «Есть ли смысл регулировать исследования и разработку AI? Я так не думаю». Его аргумент не означает отказа от безопасности. Напротив, для лекарств, автомобилей, финансовых решений и других областей высокого риска уже существуют или должны существовать жесткие режимы проверки. Но объектом контроля должен быть риск действия, а не сам факт исследования. Опасный самолет обязан проходить сертификацию, однако из этого не следует запрет аэродинамики; новый препарат должен проверяться, но это не повод вводить мораторий на молекулярную биологию; ядерный реактор требует жесточайших норм безопасности, но эти нормы не отменяют физику ядра. С AI логика должна быть той же.

Контролировать доступ автономных систем к оружию, биологическим лабораториям, финансовым сетям и критической инфраструктуре необходимо. Нужны независимые аудиты, тестирование до развертывания, юридическая ответственность разработчиков и операторов, международные протоколы и технические механизмы аварийного ограничения. Именно в этом сильная сторона предложений Амодеи: постоянные внешние оценщики и общие стандарты способны сделать индустрию прозрачнее. Но безопасность превращается в интеллектуальную капитуляцию в тот момент, когда общество начинает считать сам рост интеллекта патологией. Нельзя решать проблему человеческой неподготовленности и наших собственных демонов искусственным ослаблением инструмента, особенно если этот инструмент способен ускорить медицину, фундаментальную науку, материаловедение, энергетику и само исследование безопасности.

ВМЕСТО МОРАТОРИЯ — УНИВЕРСИТЕТ

Если государства действительно готовы тратить огромные средства на защиту человечества от рисков AI, сопоставимые усилия следует направить туда, где решается более близкая и уже вполне реальная проблема: в школы и университеты. Нужно вернуть серьезное чтение, длинный текст, логику, историю идей и философию не как музей умерших мыслителей, а как практику постановки вопросов. Литература должна вновь восприниматься как тренировка способности входить в сознание другого, антропология — как дисциплина, показывающая историческую условность того, что человек принимает за естественное, история — как школа понимания необратимости решений. Образование должно научить ребенка спорить с машиной, студента — обнаруживать предпосылки ее ответа, исследователя — замечать то, что модель не увидела.

Самое важное изменение состоит в отказе от представления об образовании как о передаче информации. Информацию теперь действительно способна передавать машина, причем быстрее, дешевле и в большем объеме. Человеческое образование должно стать производством интеллектуальной самостоятельности: способности удерживать сложность, жить с неопределенностью, отличать доказательство от риторики, менять исходные предпосылки, формулировать новые категории и не принимать готовый ответ только потому, что он звучит убедительно. В этом смысле AI не уничтожает университет, а предъявляет ему счет. Он беспощадно показывает, сколько университетских процедур десятилетиями имитировали мышление там, где на самом деле проверяли память и дисциплину воспроизведения.

Решение Альтмана поэтому досадно не из-за его заботы о безопасности, а из-за символического сигнала, который оно посылает. Когда руководители наиболее мощных лабораторий начинают говорить языком «замедления фронтира», общество легко делает следующий, гораздо более грубый вывод: чем меньше AI, тем безопаснее мир. Это неверная формула. Безопаснее не мир с меньшим количеством интеллекта, а мир с лучшими институтами, более прозрачными технологиями, более образованными гражданами и более точным разделением между исследованием и опасным применением. Сам Альтман признает, что не знает, каким образом можно надежно получить цифру вроде десятипроцентной вероятности вымирания; при этом он справедливо настаивает, что даже неопределенный катастрофический риск требует ответственности. Ответственность, однако, не тождественна отказу от движения вперед.

Цивилизация не может гарантировать свое будущее, отказываясь исследовать неизвестное. Ни одна великая интеллектуальная эпоха не строилась на принципе «давайте узнавать немного медленнее». Поэтому ответ на страх перед искусственным интеллектом должен состоять не в интеллектуальном разоружении, а в двойном ускорении: развитии безопасного AI и развитии человека, способного жить рядом с ним. Модели следует проверять жестче, опасные применения регулировать строже, разработчиков заставлять отвечать за последствия, но одновременно необходимо повышать интеллектуальную планку школы, университета и публичной культуры. Главный риск в конечном счете состоит не в том, что искусственный интеллект станет слишком интеллектуальным, а в том, что человек добровольно согласится стать интеллектуально слабее.

Если однажды машина действительно поставит перед нами вопрос, который ни один философ не сумел поставить прежде, это будет не преступлением машины и не доказательством того, что исследования следовало остановить раньше. Это будет поражением нашей школы, нашего университета, нашей культуры, нашего собственного любопытства и в конечном счете нашей демонической природы. До этого момента у человечества есть куда более достойная стратегия, чем попытка тормозить конкурента: развивать способность к мышлению, которую нельзя свести к скорости вычисления. Искусственный интеллект не нужно учить думать медленнее; человека необходимо снова учить думать глубже.

Аркадий Недель, профессор кафедры философских наук МГЛУ.

#АркадийНедель

* Мнение автора может не совпадать с позицией редакции.