Статья
2797
1 февраля 2022 16:11
Оборона, творчество и безопасность: эксперты о роли ИИ в будущем
«Автоматизация имеет постоянные критические уязвимости, которые необходимо тщательно изучить и надлежащим образом устранить. Нынешние современные системы искусственного интеллекта на удивление „хрупкие“, то есть их легко обмануть, сломать, или они склонны к ошибкам при использовании», — говорят эксперты.
По их словам, такая неустойчивость является потенциально катастрофическим недостатком боевых систем. В частности, это подрывает ожидания, поскольку новые и кажущиеся способными системы превосходят существующие технологии при прямой оценке.
«Сторонники ИИ справедливо заявляют о крупных технологических достижениях, но часто не в состоянии адекватно признать их ограничения. Это, в свою очередь, чревато чрезмерным доверием к технологиям, которые могут значительно не оправдать ожиданий», — говорят Кролл и Ято.
По словам авторов статьи, утверждения об «успехе» основаны на экспериментах ограниченного масштаба и не обеспечивают надежного доказательства того, что такие системы готовы к развертыванию.
«Вместо этого необходимо тщательное изучение технологической реальности. Такое исследование должно учитывать подводные камни и уроки, извлеченные из последних пятидесяти лет реализации автоматизации в крупных системах критических областей таких, как авиация, производство и промышленные системы управления», — следует из публикации.
Кролл и Ято подчеркивают, что текущие заявления об ИИ слишком оптимистичны.
«Подобные утверждения раздувают ожидания относительно того, что может сделать эта технология, рискуя разочароваться, когда она не работает. ИИ — это не панацея, применимая во всех случаях, и не продукт, который можно просто купить и внедрить. Скорее, ИИ — это набор методов, которые изменяют проблемы и их решения», — считают они.
По их мнению, применение ИИ для решения военных задач или проблем национальной безопасности должно основываться на конкретных выводах, чтобы оправдать доверие к системе.
«Необходимо определить ограничения, которые следует преодолеть, и военные не должны спешить с внедрением новых технологий на основании неполных аргументов, игнорирующих фундаментальную техническую реальность. В противном случае он может оказаться в зависимости от хрупких инструментов, не подходящих для задач реальной войны», — пишут эксперты.
Кролл и Ято отмечают, что «распознавание человека» и «алгоритм распознавания целей» не эквивалентны и не сопоставимы напрямую.
«Люди понимают концепции и могут обобщать свои наблюдения за пределами ситуации, приблизительно измерять неопределенность в своих оценках идентификации цели и интерпретировать новые сценарии. По этой причине человеческое зрение и проницательность делают гораздо больше, чем алгоритм распознавания целей», — пишут они.
Эксперты подчеркивают, что алгоритмические системы просто интерпретируют и повторяют известные шаблоны. Такие системы не могут ни понять причины, по которым должны быть выбраны цели, ни обобщить, поскольку они запрограммированы. По их словам, если ситуация не будет соответствовать шаблонам, то указания ИИ будут безосновательными.
«Люди гораздо лучше справляются с искажениями изображения (например, грязь или дождь на объективе камеры, электрические помехи в видеопотоке, выпадение фрагментов изображения из-за ненадежной связи). Модели, обученные работе с определенными искажениями изображения, могут приблизиться к человеческим возможностям в отношении этого конкретного искажения или даже превзойти их, но улучшение не приводит к повышению производительности», — считают авторы публикации.
По их мнению, даже если в цикле принятия решений останется человек, где технологии будут под его строгим контролем, это не сделает ИИ более рациональным.
«К сожалению, команды „человек-машина“ также часто оказываются ненадежным. В июле 1988 года крейсер USS Vincennes (CG-49) случайно сбил иранский гражданский авиалайнер, вылетавший из промежуточной посадки в международном аэропорту Бандар-Аббас. Погибли 290 пассажиров и экипаж. Крейсер был атакован восемью иранскими катерами. В этот момент была обнаружена воздушная цель, которая ошибочно была принята за атакующий иранский истребитель F-14. Самолёт Iran Air Flight 655 в этот момент набирал высоту, его радиопередатчик находился в гражданском режиме Mode III, а не в военном Mode II, как определила БИУС Иджис крейсера», — приводят пример эксперты.
Кролл и Ято отмечают, что военные не должны относиться к ИИ как к автономному искусственному разуму, обеспечивающим четкие результаты, объединяющие все функции.
«Вместо этого ИИ должен быть расширением человеческого интеллекта и организационных возможностей. ИИ — это не независимый агент, а более эффективный инструмент, применяемый к конкретным аспектам существующих операций», — говорится в статье.
По из мнению, ИИ достигает наибольшего успеха, когда решает четкую, тщательно сформулированную проблему ограниченного масштаба, поддерживая текущую работу военных.
«В мире, в котором США предупреждают о риске потери конкурентного военно-технического преимущества, если страна не примет новейшие технологии, крайне важно, чтобы военно-морские лидеры понимали присущие ИИ ограничения, чтобы его внедрение в критически важные боевые возможности не повлекло за собой катастрофические последствия», — резюмируют Кролл и Ято.
В свою очередь исполнительный директор Института развлечений, СМИ, спорта и культуры Университета Пеппердайн Нельсон Гранадос в своей статье пишет, что искусственный интеллект может убить творчество.
«Новые поведенческие эксперименты Алока Гупты из Университета Миннесоты и Андреаса Фюгенера, Йорна Граля и Вольфганга Кеттера из Кельнского университета в Германии представляют собой поучительную историю об ИИ. Исследование, опубликованное в конце 2021 года, раскрывает риски и последствия чрезмерной зависимости от ИИ в бизнесе и творческих решениях», — подчеркивает Гранадос.
Согласно публикации, Гупта и его коллеги изучали, как люди и ИИ сотрудничают и дополняют друг друга при принятии решений. Ученые провели следующий эксперимент: люди должны были классифицировать изображения (породы собак). Далее проверялось, улучшает ли и каким образом принятие решений с помощью ИИ выполнение задачи.
«Их первый важный вывод заключается в том, что люди не очень хорошо понимают, когда они должны делегировать решения ИИ. Как следствие, они могут в итоге полагаться на ИИ, даже если он рекомендует неверный путь. Совершая такие ошибки, команда людей, использующая инструмент ИИ, может работать хуже, чем команда, которая этого не делает», — следует из статьи.
По словам Гранадоса, в творческих профессиях этот человеческий недостаток может иметь важные последствия. В частности, ИИ используется маркетологами для создания медиа- и развлекательного контента, а также для принятия важных креативных решений. Например, ИИ применяется для создания новостных сюжетов, персонализированной рекламы, а также для производства фильмов.
«Чрезмерная зависимость от ИИ при принятии решений в создании контента может повлиять на итоговый результат, поскольку потребители начинают отказываться от продукта из-за потенциальной монотонности. Гупта утверждает: „Использование ИИ для задач, которые он может выполнять более эффективно, — это неплохо, но чрезмерное доверие советам ИИ может привести к неправильным решениям, которые со временем только усиливаются“», — уточняет автор публикации.
Кроме того, он подчеркивает, что люди постепенно тупеют, теряя свои способности и уникальные знания, когда полностью полагаются на ИИ.
«Коллективный разум возникает у людей и общества, когда разные умы, имеющие доступ к разным источникам данных, объединяются для поиска решений проблем. Гупта и его коллеги показывают, что чрезмерная зависимость от ИИ может привести к уменьшению разнообразия мышления, что приведет к неоптимальной коллективной работе. Гупта добавляет: „По сути, люди начинают подражать ИИ и перестают нагружать собственный мозг“», — говорит Гранадос.
Между тем Директор BI.ZONE Дмитрий Самарцев и специалист по исследованиям и анализу Наташа Перучица отмечают, что ИИ способен улучшить кибербезопасность.
В публикации приводится отчет Всемирного экономического форума Global Cybersecurity Outlook 2022, где говорится, что 48% руководителей считают, что ИИ повлияет на кибертрансформацию в ближайшие два года.
«ИИ — это мощный инструмент как для киберпреступников, так и для экспертов по кибербезопасности. Хакеры используют ИИ, чтобы сделать свои атаки более изощренными и трудными для обнаружения, а специалисты по кибербезопасности находят способы интегрировать искусственный интеллект в корпоративные системы, чтобы минимизировать финансовые и репутационные потери», — пишут эксперты.
В частности, опрос руководителей 500 самых влиятельных компаний мира в 11 отраслях показал, что проблемы кибербезопасности будут самым большим риском для компаний в ближайшие три года.
«Это неудивительно, учитывая более широкий ландшафт угроз и глобальную нехватку специалистов по кибербезопасности, а также растущую частоту и серьезность кибератак. Перед лицом таких проблем ИИ может изменить правила игры», — отмечают Самарцев и Перучица.
Например, ИИ может помочь предприятиям обнаруживать кибератаки, выявляя уязвимости и подозрительное поведение. В настоящее время 91% кибератак не вызывают оповещения, и компаниям требуется в среднем 207 дней для выявления и 73 дня для пресечения нарушения. По словам экспертов, ИИ может быстро анализировать события, помогая специалистам по кибербезопасности не отставать от рисков и связанных с ними потерь.
«ИИ может помочь прогнозировать киберугрозы. Например, в финансовых учреждениях есть системы защиты от мошенничества, которые используют алгоритмы для сканирования больших пулов данных, выявления моделей типичного поведения и прогнозирования потенциального мошенничества. Такая информация может быть использована непосредственно при разработке систем для предотвращения кибератак. Эти системы также становятся обязательными для торговых площадок, авиакомпаний и всех компаний с программами лояльности клиентов», — следует из публикации.
По словам экспертов, за 2020-2021 годы стоимость утечек данных увеличилась на 10% с $3,86 млн до $4,24 млн. Такие нарушения подвергают риску компании и их клиентов и вызывают серьезные юридические проблемы и последствия. Организации, в которых есть искусственный интеллект и автоматизация безопасности, несут более низкие затраты из-за утечек данных по сравнению с теми, у кого их нет, говорят Самарцев и Перучица.
«ИИ также выводит биометрию на новый уровень. Например, показатели распознавания лиц всегда различаются — может быть разный угол наклона головы, разное расстояние между чертами лица, освещение или выражение лица. То же самое относится к распознаванию голоса и другим биометрическим данным. Невозможно установить фиксированные правила распознавания, поэтому ИИ анализирует эти отклонения метрик в заданных диапазонах, принимает соответствующие решения и непрерывно обучается», — следует из публикации.
Авторы статьи уточняют, что ИИ может помочь идентифицировать пользователей и отличить их от ботов и автоматических атак, анализируя уникальные поведенческие биометрические параметры, такие как нажатия клавиш.
«Заглядывая вперед, ИИ может открыть для бизнеса еще больше возможностей с точки зрения безопасности. Чтобы успешно противостоять киберугрозам, бизнесу необходимо быть на шаг впереди преступников», — резюмируют эксперты.
