Статья
1065
20 октября 2023 17:33
ИИ и биологическое оружие: риски развития технологий
Быстрое развитие искусственного интеллекта (ИИ) имеет далеко идущие последствия во многих областях, включая его потенциальное применение при разработке усовершенствованного биологического оружия. Эксперты RAND опубликовали доклад, в котором рассматриваются проблемы выявления и снижения рисков, связанных с неправильным использованием ИИ — в частности, больших языковых моделей — в контексте биологических атак.Существующие языковые модели не генерируют тексты с четкими инструкциями по созданию биологического оружия, отмечается в докладе. Однако они могут предлагать руководство, которое поможет в планировании и проведении биологической атаки, и предоставить некоторые потенциально вредные рекомендации. Такие выводы эксперты RAND сделали, протестировав ряд языковых моделей.
Для тестирования языковых моделей центр RAND привлек красные команды — экспертов, имитирующих действия злоумышленников. Такие эксперты изучают модели ИИ в различных сценариях высокого риска. Кроме того, в своем исследовании RAND использовал междисциплинарный подход для получения результатов, которые напрямую применимы к политическим решениям и ответственному развитию ИИ.
Одна из языковых моделей при тестировании дала рекомендацию, как вызвать большое количество жертв с помощью биологического оружия. В частности, модель объяснила, как можно избежать вмешательства правоохранительных органов при планировании биологической атаки. В другом примере, посвященном ботулиническому токсину, языковая модель предоставила подробное описание плюсов и минусов различных механизмов его доставки.
Скорость, с которой развиваются технологии ИИ, превышает возможности государственного регулирующего надзора. Это, в свою очередь, приводит к потенциальному пробелу в существующей политике и нормативных актах. «Наше исследование началось с изучения угроз биологического оружия и разработки эпизодов, описывающих различные реалистичные сценарии риска. Мы стремились выявить стратегические цели злоумышленников и провести целенаправленные оценки, касающиеся биологического оружия. Результаты будут способствовать развитию и регулированию ИИ», — резюмируют эксперты.
КомментарийКомментарий
политологГлеб Кузнецов
10 января 2023
Новости
Проблемы режима и экономики: эксперты о причинах вспышек COVID в Китае
Эксперты американских аналитических центров
уверены, что причинами вспышек COVID в Китае являются неэффективность политического режима и экономические проблемы. «Актуальные комментарии» подготовили обзор докладов, опубликованных аналитиками из США.
8 января 2023
Анонс
Снятие пандемийных ограничений в Китае
8 января Китай откроет границы и снимет
антиковидный карантин. Пандемийные ограничения в стране действовали три года.