Новость
3154
4 апреля 2025 9:46
ИИ предсказал мировой хаос
Проект возглавляет бывший исследователь OpenAI Даниэль Кокотайло, который покинул компанию в прошлом году. Во время работы в OpenAI он писал подробные внутренние отчеты о том, как может развиваться гонка за общий искусственный интеллект (A.G.I.). После ухода он начал сотрудничать с исследователем ИИ Илаем Лифландом, который имеет опыт точного прогнозирования мировых событий. Результатом их совместной работы стал доклад «ИИ 2027», в котором предлагается вымышленный сценарий, описывающий, что может произойти, если системы искусственного интеллекта превзойдут уровень человека, что, по мнению авторов, произойдет в ближайшие два-три года.
«Мы прогнозируем, что модели ИИ будут совершенствоваться, и к концу 2027 года они станут полностью автономными агентами, которые будут лучше человека во всем», — считает Кокотайло.
В сценарии, описанном в докладе, вымышленная компания OpenBrain создает мощную систему искусственного интеллекта под названием «Агент-1». По мере того, как «Агент-1» становится лучше в кодировании, он начинает автоматизировать большую часть инженерной работы в OpenBrain, что позволяет компании двигаться быстрее и создать «Агента-2», еще более способного исследователя в области искусственного интеллекта. К концу 2027 года, когда сценарий заканчивается, «Агент-4» еженедельно совершает прорывы в исследованиях в области искусственного интеллекта и угрожает выйти из строя.
Некоторые эксперты раскритиковали доклад «ИИ 2027». Исполнительный директор Института искусственного интеллекта Аллена Али Фархади заявил, что доклад его не впечатлил: «Я сторонник прогнозов и предсказаний, но этот прогноз, похоже, не основан на научных данных и реальном развитии ИИ».
На подготовку доклада компания A.I. Futures Project потратила почти год.
Взгляды Кокотайло на развитие ИИ «экстремальны» и связаны с философским движением «эффективный альтруизм», популярным среди ученых, которые уже много лет выступают с «грозными предупреждениями об ИИ», пишет The New York Times. В прошлом году Кокотайло заявил, что, по его мнению, существует 70-процентная вероятность того, что ИИ «уничтожит человечество или нанесет ему катастрофический вред». В то же время в публикации The New York Times говорится, что некоторые из «безумных» предсказаний, сделанных о развитии ИИ в прошлом, уже сбылись — например, прогноз, что машины пройдут тест Тьюринга. А в 2021 году, за год до запуска ChatGPT, Кокотайло опубликовал в своем блоге пост под названием «Каким будет 2026 год», в котором изложил свой взгляд на развитие систем искусственного интеллекта. Ряд его предсказаний оказался верным.
