Злой ИИ: какие вопросы волнуют регуляторов

политологГлеб Кузнецов

Большое и интересное мероприятие прошло в Вашингтоне по ИИ.

Диалог «капитанов IT» между собой и с политическим начальством по поводу перспектив развития и регуляции ИИ. Были все, кто на слуху с общим капиталом в адово множество десятков миллиардов — Гейтс, Маск, Альтман, Цукерберг и так далее. Цукера с Маском рассадили в разные концы стола, чтоб не подрались.

Встреча была закрытой, пресса пишет о ней по отрывочным комментариям пожелавших высказаться участников, среди которых были и критики, эксперты, настроенные не оптимистично.

Организатор — лидер большинства в Сенате Чак Шумер — сказал потом, что присутствовали на мероприятии 2\3 состава Сената. 

Обсуждаемые вопросы:

• запрет генеративного ИИ в избирательных кампаниях и политике (один из самых эффективных способов регуляции ИИ с большими и позитивными последствиями — прекращение политической карьеры товарищей, использующих в политическом продвижении ChatGPT и аналогичные модели);
  
  
• защита труда людей — не только рабочих мест, но и earning power — способности зарабатывать на этих местах, доходность для работников. И это очень важный аспект, поскольку энтузиасты любят рисовать графики «увеличения числа работников отрасли благодаря ИИ», а на поверку оказывается, что там, где раньше работал условно два доктора наук, теперь планируется один младший программист и две уборщицы, что обеспечивает формальное увеличение числа работников на 50% при снижении расходов на з\п в разы; 
  
  
• регуляция использования ИИ как на страновом уровне США, так и на международном. Существуют предложения по созданию, учитывая объективную опасность ИИ для жизни людей при объективной невозможности остановить технологическое развитие, международного агентства типа МАГАТЭ;
  
  
• недостатки медицинских компетенций нынешних моделей (отдельно обсуждалось, что ChatGPT уступает даже «не взлетевшему» 15 лет назад Watson от IBM, при этом собственники «чата» не предпринимают ничего по этому поводу и, наоборот, поощряют интервенции ChatGPT в сферу, связанную с жизнью и здоровьем людей, не неся никакой ответственности);
  
  
• безопасность использования нынешних открытых моделей (отсутствующая) — приводится пикировка Цукерберга с одним из экспертов, который «за $800» нанял программиста, чтобы тот сломал все ограничения матавского аналога ChatGPT — Llama2. В результате за пару часов работы ограничения были сняты, и заказчик по запросу получил подробные пошаговые инструкции по изготовлению химического и бактериологического оружия из материалов, которые можно купить в открытой продаже. Цукерберг отвечал, что «все это есть в Интернете». Критик указывал на то, что есть, то оно есть, но существует разница между большим требующим специальной подготовки трудом по поиску решений и полученной в два клика страницей текста с инструкцией, понятной старшекласснику, где даже адреса ближайших мест покупки необходимого с ценами и ориентировочным сроком доставки указаны.
  

В ответ на это Цукерберг начал традиционно лепить горбатого про «демократичность открытого ИИ» и прогресс для человечества. Туда же подался дедушка Гейтс с глубокими мыслями, что ИИ позволит решить проблемы голода. 

Изнутри IT с адекватных позиций выступали только Альтман (он всегда был за регуляцию и «ответственность») и Маск, кровно заинтересованный в том, чтобы у среднего класса осталось «earning power» для покупки того, что производят его ориентированные на потребрынок компании типа «Теслы». 

Отдельно обсуждалось, что после десятков слушаний, встреч, мероприятий и попыток к чему-то прийти, не получается найти не то чтобы решения, а даже наметить дорожную карту по регуляции очевидно опасной технологии. Понятно, лоббисты с неограниченными деньгами будут сдерживать эту историю до крайней крайности.

Что тут скажешь? В очередной раз остается поиронизировать над нашими «энтузиастами», которые берут только бравурные презентации о «пользе человечества» и избегают любого обсуждения того, что на самом деле происходит вокруг ИИ-темы во флагманской для нее западной среде.

Источник