Ученые боятся «потери контроля» над ИИ

Гонка технологических гигантов по разработке все более мощного искусственного интеллекта может иметь пагубные последствия, предупредил профессор Монреальского университета, лауреат премии Тьюринга Джошуа Бенжио перед саммитом ИИ в Париже.

В парижском университете ENS Бенжио представил первый в истории международный доклад о безопасности в сфере ИИ, составленный под его руководством. В подготовке доклада приняли участие около 100 экспертов из 30 стран, а также эксперты Организации Объединенных Наций и Организации экономического сотрудничества и развития.

В своем выступлении Бенжио указал на риски ИИ, которые уже широко признаны, например, его использование для создания поддельного или вводящего в заблуждение контента в Интернете, при этом добавил, что «постоянно появляются доказательства дополнительных рисков, таких как биологические атаки или кибератаки».

В долгосрочной перспективе эксперт опасается возможной «потери человеком контроля» над системами ИИ, которые могут быть мотивированы «стремлением ИИ к выживанию».

«Больше всего меня пугает возможность того, что человечество может исчезнуть в течение 10 лет. Это ужасает. Я не знаю, почему больше людей не осознают этого», — заявил Бенжио.

Когда два года назад появился ChatGPT, эксперт «почувствовал острую необходимость задуматься над вопросом безопасности». Появление недорогой и высокопроизводительной китайской модели ИИ DeepSeek «ускорило гонку, что не способствует безопасности», добавил Бенжио.

Эксперт призвал к ужесточению международного регулирования и проведению более масштабных исследований в области безопасности ИИ, на который пока приходится «ничтожная доля» всех инвестиций, вкладываемых в этот сектор. «Я не знаю, как мы справимся с этим без вмешательства правительств», — резюмировал он.