Искусственный интеллект изменит методы ведения войн

Возможности искусственного интеллекта делать прогнозы в последнее время серьезно расширились. Однако, по мнению специалистов Брукингского института США Джона Линдси и Ави Гольдфарба, это не обязательно означает, что машины могут заменить людей, принимающих решения. Эффективность искусственного интеллекта (ИИ) зависит не только от сложности его программных алгоритмов, но и от того, как люди используют его для решения конкретных задач. Вопросы военной сферы не столь однозначны, а надежных данных мало, и конфликты, которые ведутся с использованием ИИ, могут затянуться с неопределенными результатами и вызвать споры, а зависимость от ИИ сделает человеческий фактор в ведении войн еще более важным.

По мнению авторов доклада, машинное обучение удешевляет прогнозирование, а человеческая способность к оцениванию при развертывании автоматизированных военных сил приобретает большее значение. Если ИИ научится давать точные прогнозы, то противнику придется найти способы использовать слабые стороны ИИ — например, искажать данные, которые получает искусственный интеллект и на основе которых делает прогнозы, влиять на процессы машинного обучения, разрабатывать новую стратегию, которую трудно распознать, а также непредвиденным образом менять цели. Если в прогнозировании используется доступность данных, противники найдут способы манипулировать ими. Если прогноз позволяет более эффективно ставить цели, то противники будут представлять более опасные либо противоречащие моральным принципам цели, а в случае улучшения разведданных противники будут задействованы в более изощренной контрразведке.

Однако прогнозирование составляет только один компонент поиска решения. Весь процесс принятия решений включает четыре составляющие: данные, прогноз, оценку и действие. Искусственный интеллект может сделать прогноз, но не может дать оценку на основе данных, которые он получает. Эта роль в ведении боевых действий останется за человеком.

Искусственный интеллект может увеличить количество, точность, сложность и скорость прогнозов. Однако прогнозы зависят от данных не только с точки зрения их количества, но и качества. Если данные предвзяты относительно пола, способностей или других характеристик, то прогнозы будут неверными, отражая эти предубеждения. Если же противники или конкуренты искажают данные, то прогнозы в лучшем случае окажутся бесполезными.

При наличии достаточного количества и качества данных компьютеры могут структурировать их лучше, чем люди. В то же время машинам не хватает понимания того, почему какие-либо из их прогнозов имеют значение, или условий, при которых они не имеют значения. Непонимание прагматического контекста человеческой практики может привести к ошибкам в работе искусственного интеллекта и даже трагедиям. Если говорить о военной сфере, то речь идет о неправильной работе автоматического оружия, которое реагирует на ложные предупреждения или совершает ошибки в поражении целей. Большая часть литературы по военному искусственному интеллекту подчеркивает риски ошибки, которые возникают в результате неудачного автоматического прогнозирования.

Предыдущие эпизоды технологической замены в военной истории, как правило, делали человеческие навыки более важными. Человеческий труд не устранялся полностью, а переводился в процессы принятия военных решений. Проблема замещения человека искусственным интеллектом в настоящее время заключается в том, что процесс оценивания данных становится всё более сложным. И в этом случае вооруженным силам потребуется более образованный персонал.

Средства уменьшения неопределенности парадоксальным образом стали новыми источниками неопределенности. По мнению авторов доклада, нет оснований полагать, что внедрение ИИ изменит эти тенденции. Наоборот, они усилятся за счет усложнения военных операций.

Отдельную проблему составляет решение моральных вопросов, когда ставки — жизнь или смерть. Литература по политической психологии освещает многочисленные препятствия на пути к объективной оценке в таких вопросах. Авторы доклада приходят к выводу, что искусственный интеллект не заменит роль человека и не приведет к полной автоматизации войны. Наоборот, человеческая роль в ведении боевых действий приобретет еще большую значимость.