Усугубление предвзятости и неравенства как последствие развития ИИ

аналитик Виктория Совгирь

Развитие искусственного интеллекта обещает революционные изменения в различных сферах жизни, однако наряду с его преимуществами усиливаются риски социальной и экономической несправедливости. Алгоритмы, обученные на предвзятых данных, могут не только воспроизводить, но и усиливать существующие неравенства, влияя на принятие решений в различных сферах. Более того, ИИ угрожает углублением глобального разрыва между развитыми и развивающимися странами, ограничивая доступ последних к технологическим возможностям. Важно своевременно осознать эти угрозы и выработать стратегии, позволяющие использовать потенциал ИИ для сокращения, а не усиления неравенства.

Алгоритмическая предвзятость

Предвзятость ИИ представляет собой достаточно серьезную проблему, так как алгоритмы не только отражают, но и усугубляют текущие социальные неравенства, подрывая доверие к технологиям. Одним из главных источников такой предвзятости является искажение в обучающих данных. Если в системе распознавания лиц преобладают изображения белых людей, точность идентификации представителей других этнических групп снижается, а в алгоритмах прогнозирования преступности, основанных на данных из районов с преимущественно темнокожим населением, возможна расовая дискриминация. Ошибки на этапе разметки данных также усугубляют проблему, например, в системах подбора персонала некорректная классификация или недостаточная репрезентация определённых социальных групп может привести к дискриминации квалифицированных кандидатов.

Когнитивная предвзятость, обусловленная человеческим фактором, также играет свою роль. Разработчики ИИ, опираясь на собственный опыт, могут не учитывать региональные и культурные особенности. Например, если модель обучена на данных из США, её применение в другой стране может привести к некорректным результатам. Национальный институт стандартов и технологий США подчеркивает, что влияние человеческого фактора на предвзятость ИИ до сих пор недооценено. Для решения этой проблемы необходимо расширить анализ, учитывая не только технические аспекты машинного обучения, но и социальный контекст, в котором используются алгоритмы.

Примеры реального воздействия предвзятости ИИ многочисленны. В сфере правосудия широко обсуждается алгоритм COMPAS, используемый для прогнозирования вероятности повторного преступления в США. Исследования ProPublica показали, что эта система ошибочно относила темнокожих обвиняемых к группе повышенного риска почти в два раза чаще, чем белых, даже при одинаковых обстоятельствах. В сфере трудоустройства ИИ также демонстрирует дискриминационные эффекты. Компания iTutor Group использовала алгоритм для отбора кандидатов, который автоматически отклонял заявки женщин старше 55 лет и мужчин старше 60 лет, что привело к судебному разбирательству и выплате компенсаций. Проблемы наблюдаются и в системах генерации изображений. Исследование Стэнфордского университета выявило, что алгоритм DALL-E при запросе «человек с инвалидностью, возглавляющий собрание» создавал изображения, в которых такие люди находились в подчиненных, а не руководящих ролях, что свидетельствует о недостатке репрезентативных данных в обучающей выборке.

Истоки глобального неравенства

В глобальном контексте ИИ может усугубить экономическое неравенство, увеличивая разрыв между развитыми и развивающимися странами. История показывает, что технологические революции часто приводили к укреплению позиций экономически сильных государств, и внедрение ИИ имеет аналогичный потенциал. Три основных фактора способствуют этому неравенству, создавая преимущества для одних стран и новые вызовы для других.

Во-первых, развитые страны располагают необходимыми ресурсами и инфраструктурой для эффективного внедрения ИИ. Их экономическая мощь позволяет инвестировать значительные средства в разработку технологий и создание передовых систем обработки данных. Так, в 2023 году США вложили в развитие ИИ $67,2 млрд, что в 8,7 раза превысило инвестиции Китая, находящегося на втором месте. В то же время в развивающихся странах цифровая инфраструктура остается слабой: лишь 27% населения стран с низким уровнем дохода имеют доступ к интернету, в государствах с уровнем дохода ниже среднего – 52%, тогда как в высокодоходных странах этот показатель достигает 93%. Более того, фиксированный широкополосный интернет в бедных странах значительно дороже относительно среднего дохода, что ограничивает их способность к цифровой трансформации. Подобное неравенство приводит к двум важным последствиям. Во-первых, экономически развитые страны укрепляют свои позиции в высокодоходных секторах, оставляя мало шансов развивающимся экономикам для конкуренции. Во-вторых, автоматизация делает труд низкоквалифицированных работников менее востребованным, ослабляя конкурентные преимущества стран, экономика которых основана на дешевой рабочей силе.

Во-вторых, у развивающихся стран отсутствуют эффективные механизмы смягчения социально-экономических потрясений, вызванных внедрением ИИ. Высокоразвитые экономики, несмотря на изменения на рынке труда, обладают социальными гарантиями и программами адаптации. В Германии, например, действуют активные инициативы по переподготовке кадров и социальной защите населения. В странах с низкими доходами подобные меры практически отсутствуют, а значительная доля теневой занятости делает работников особенно уязвимыми. Ограниченные финансовые ресурсы мешают модернизации системы образования и профессиональной подготовки, что только усиливает негативные последствия автоматизации.

В-третьих, ИИ подрывает традиционные модели экономического роста, на которых десятилетиями строились стратегии многих развивающихся стран. Экспортно-ориентированное производство исторически вовлекало сельское население в промышленный сектор и увеличивало производительность. Однако автоматизация снижает трудоемкость производства, уменьшая возможности для создания рабочих мест. В Бангладеше, например, ИИ активно используется в текстильной промышленности, что повышает эффективность, но одновременно угрожает занятости сотен тысяч работников. По прогнозам, к 2030 году автоматизация может сократить до 60% рабочих мест в текстильном секторе страны.

В условиях ослабления роли традиционной модели индустриального роста страны вынуждены искать альтернативные стратегии. Одним из перспективных направлений является развитие экспортно-ориентированного сектора услуг. Индия и Филиппины уже используют эту модель, создавая центры обработки данных и предоставляя аутсорсинговые бизнес-услуги. Однако ИИ способен автоматизировать многие процессы и в этой сфере. Если развитие ИИ продолжит подрывать трудоемкие отрасли, страны с низким и средним уровнем дохода столкнутся с серьезными препятствиями для устойчивого экономического роста, что замедлит процесс глобального экономического выравнивания.

Меры по сокращению разрыва

Тем не менее есть несколько направлений стратегического подхода к внедрению ИИ, чтобы минимизировать риски и использовать его потенциал. Одним из ключевых является развитие цифровой инфраструктуры, поскольку устойчивые интернет-сети и вычислительные мощности служат основой для технологического прогресса. Опыт Индии, реализующей программу «Цифровая Индия», демонстрирует эффективность подобных инициатив: подключение к высокоскоростному интернету сотен тысяч деревень способствует внедрению ИИ в образование и сельское хозяйство. Не менее значимым аспектом является обеспечение надежного электроснабжения. Ожидается, что к 2030 году энергопотребление дата-центров возрастет на 160%, что требует модернизации энергосистем и диверсификации источников энергии. Кения уже достигла прогресса в этом направлении, получая более 40% электроэнергии за счет геотермальных станций.

Изменения на рынке труда, вызванные развитием ИИ, требуют реформирования и образовательных систем. Улучшение STEM-образования и внедрение программ профессиональной переподготовки позволят формировать квалифицированные кадры для высокотехнологичных отраслей. Вьетнам активно интегрирует ИИ в образовательные программы, что позволяет стране готовить специалистов к требованиям цифровой экономики. Кроме того, международное сотрудничество способствует передаче знаний и ускорению локальных инноваций. Глобальные инициативы, такие как цифровое соглашение ООН, направлены на обеспечение инклюзивности и участие развивающихся стран в разработке международных стандартов регулирования ИИ.

Поддержка национальных стартапов, финансирование исследовательских проектов и создание благоприятных условий для технологического предпринимательства также помогут адаптировать ИИ к региональным нуждам. В Руанде внедряются программы обучения программированию и разработке ИИ, ориентированные на молодежь и женщин, что способствует росту числа специалистов и созданию местных цифровых решений. Автоматизация неизбежно приведет к структурным изменениям на рынке труда, создавая риск вытеснения работников, поэтому введение регуляторных механизмов, направленных на социальную защиту и переквалификацию, поможет смягчить негативные последствия. Пример Сингапура с программой SkillsFuture, предоставляющей гражданам возможности освоения новых навыков, демонстрирует эффективность подобных мер.

Виктория Совгирь, аналитик Центра политической конъюнктуры.

#ВикторияСовгирь