Светлое будущее без всякой конкретики
Вчерашнее эссе Альтмана «Век интеллекта» про победы ИИ. Задача понятна: продемонстрировать себя не просто миллиардером, а еще и мыслителем и визионером. В секте почитателей оно вызовет очевидные восторги. Нам же остается констатировать: в будущее человечество ведут люди с мышлением комиссара нашей Гражданской из гимназистов — немножко марксизма и много обещаний светлого будущего без любой конкретики.
Что есть?
Вольная цитата Энгельса без ссылки на «Происхождение семьи, частной собственности и государства» про то, что возможности человеку дает социальная эволюция, а не биологическая. Технологические новшества являются «подпорками» общественного развития, благодаря которым мы можем сделать больше, чем бабушки и дедушки, а дети смогут больше нас.
ИИ — одна из логичных инноваций, меняющих общественное устройство через расширение возможностей для развития. Что-то вроде приручения лошади, открытия железа или прялки Дженни. Да, это путь к совершенно новому этапу технологического развития, но сам этап — часть последовательного пути развития человечества. Трансформация от маркетинговых завываний про «полное изменение всего» через ИИ к вменяемой (относительно) оценке поступательного характера развития. Буквально, древние люди научились плавить песок, шли годы и вот мы уже делаем из этого же песка чипы, а чипы производят ИИ после тысяч поколений инноваций.
Куда идет человечество? К процветанию, разумеется. Потому что, повторяет Альтман снова и снова, ИИ создает возможности. Дальше два абзаца цитат из интервью Билла Гейтса про персонализированную медицину и возможности воспитания детей (старик с появлением внучки стал сильно акцентировать внимание именно на детей и Альтман — пусть и бездетный гей — не мог не воспроизвести буквально «дедушкину повестку» своего главного инвестора).
Как именно ИИ продуцирует процветание, не раскрывается. Постулируется: есть ИИ — есть процветание. Нет ИИ — возможны варианты. Цитата: «Я верю, что будущее будет настолько светлым, что никто не сможет описать его в полной мере, пытаясь написать о нем сейчас; определяющей характеристикой века интеллекта станет массовое процветание». ИИ исправит климат, покорит космос и «откроет всю физику».
Ключ ко всему — технологизированное «глубокое обучение». Цитата: «Человечество открыло алгоритм, который действительно может изучить базовые правила любого производства и распределения данных». То есть чем больше данных, тем лучше они «распределяются» — то есть ранжируются и обобщаются и тем точнее производится новая «дата» на их базе. И так до бесконечности. Надежда на AGI — сверхинтеллект — связана с тем, что машинка сначала сожрет все данные, произведенные человечеством, а потом — начнет сама производить новые (то самое открытие всей физики). Да, AGI — буквально кадавр профессора Выбегалло на новом технологическом этапе.
Есть и проблемы. Если не наладить производство чипов неограниченно и не открыть новые источники энергии (мостик к проектам открытия атомных станций опять же имени Гейтса, если говорить про США), то ИИ — будет инструментом богатых людей, а вовсе не порождающим исключительно процветание помощником каждого бедняка.
Бояться, что ИИ лишит кого-то работы — не надо. Изменение рынка труда будет, по мнению Альтмана, медленнее, «чем большинство людей думает». Поэтому представители старых профессий вымрут органически, и никто их отсутствия не заметит, как не замечают отсутствия «фонарщиков». Не смог Альтман удержаться от любимой всеми энтузиастами метафоры про «фонарщиков», «кучеров» и «телефонных барышень», игнорирующей начисто то, что в мире происходило в процессе отказа от кучеров и телефонных барышень вроде мировых войн, к примеру.
Автор, впрочем, понимает, что полное игнорирование как технических (и прежде всего критическое «замусоривание» данных нерелевантными искажениями в каждом прогоне алгоритма глубокого обучения), так и регуляторных, и социальных проблем и рисков, оставляет странное впечатление. Поэтому предупреждает: «Было бы ошибкой отвлекаться на конкретные проблемы». Вот это прямо мило и трогательно.
