Пределы искусственного интеллекта

медиатехнологЕкатерина Набатникова

Технологические возможности искусственного интеллекта растут стремительными темпами, однако вместе с этим все чаще возникает вопрос о границах его применения. Почему даже самые совершенные нейросети не способны заменить человека, в каких сферах бизнесу нельзя полностью доверять алгоритмам и каким может стать следующий этап развития ИИ? Своим мнением с «Актуальными комментариями» поделилась медиатехнолог, член Экспертного клуба «Дигория», директор по развитию Корпорации AIR Екатерина Набатникова.

— Сегодня важно четко разделять технологические и фундаментальные пределы искусственного интеллекта.

Технологические ограничения связаны с «железом» и ресурсами: нехваткой вычислительных мощностей, колоссальным энергопотреблением дата-центров и дефицитом качественных данных для обучения. Эти проблемы в целом решаемы — это вопрос времени, инвестиций и инженерных прорывов.

Однако существуют и фундаментальные ограничения. Главное из них заключается в том, что современные нейросети (даже самые продвинутые LLM) не обладают сознанием, здравым смыслом и пониманием физического устройства мира. ИИ — это блестящий статистический имитатор, а не мыслитель. Он не понимает смысла слов, которые генерирует, а лишь математически предсказывает, какое слово должно идти следующим, опираясь на миллиарды прочитанных текстов.

Именно поэтому ИИ порой блестяще пишет программный код или сдает сложные медицинские экзамены, но при этом «спотыкается» на элементарных логических или пространственных задачах, понятных пятилетнему ребенку. У человека есть физический опыт и базовая логика: мы знаем, что вода мокрая, а яблоко, если его отпустить, упадет вниз. У ИИ такого опыта нет. Если в его обучающей выборке не было прямого описания какой-либо бытовой ситуации, он может начать «галлюцинировать» и выдавать абсурдные, но при этом очень уверенно звучащие ответы.

Где бизнесу нельзя доверять ИИ на 100%?

— Именно из-за склонности алгоритмов к галлюцинациям, а также отсутствия у них эмпатии и морали существует ряд сфер, где полная автоматизация сегодня недопустима. Бизнесу не следует передавать ИИ право финального решения в областях с высокой ценой ошибки.

Во-первых, речь идет о медицине и юриспруденции. ИИ может быть отличным помощником — своеобразным «вторым пилотом» — для врача при анализе снимков или для юриста при поиске прецедентов. Однако ставить диагноз, назначать лечение или выносить окончательный вердикт должен только человек.

Во-вторых, это управление критической инфраструктурой и финансовой сферой, где непредсказуемый сбой алгоритма способен привести к крайне тяжелым последствиям.

В-третьих, это HR и подбор персонала. Алгоритмы, принимающие решения о судьбе людей, нередко воспроизводят скрытые предубеждения (bias), заложенные в исторических данных.

Поэтому золотым стандартом для бизнеса сегодня становится принцип «человека в контуре» (human-in-the-loop), при котором ИИ готовит аналитику, а ответственность за итоговое решение остается за человеком.

Каким будет следующий этап развития?

— Постепенно мы приближаемся к пределу экстенсивного пути развития. Подход, основанный на принципе «давайте просто возьмем в десять раз больше видеокарт и скормим модели весь интернет», начинает буксовать.

Причин этому несколько. Во-первых, объем качественных текстовых данных, созданных людьми, ограничен. Во-вторых, масштабирование требует таких объемов электроэнергии, которые в обозримом будущем могут оказаться экономически и экологически неоправданными.

Именно поэтому следующий этап развития искусственного интеллекта будет связан не столько с механическим наращиванием вычислительных мощностей, сколько с поиском принципиально новых архитектур.

Отрасль уже движется в сторону нейросимволического ИИ — подхода, объединяющего нейросети, отвечающие за распознавание образов, и классические алгоритмы, обеспечивающие строгую логику. Еще одним важным направлением становятся малые языковые модели (SLM) — компактные, энергоэффективные и узкоспециализированные системы, которые можно запускать локально, непосредственно на смартфонах и ноутбуках пользователей, без постоянного подключения к гигантским облачным серверам.

Екатерина Набатникова, медиатехнолог, член Экспертного клуба «Дигория», директор по развитию Корпорации AIR.

#ЕкатеринаНабатникова