Статья
914 26 октября 2021 13:09

Большой брат: риски системы распознавания лиц и перспективы технологии

Российские школы начали тестировать системы распознавания лиц, сообщил гендиректор разработчика технологии NtechLab Андрей Теленков. По его словам, в школах применяются так называемые черные списки, чтобы люди, которые находятся в розыске, не проникли в учебное заведение. Кроме этого, некоторые регионы рассматривают технологии распознавания силуэтов, предполагающие обезличенный сбор информации о перемещениях по городу. «Актуальные комментарии» разбирались, когда эти системы будут внедрены повсеместно и какие риски они несут.

История разработки

Разработки в сфере искусственного интеллекта, распознающего лица, ведутся с 1960-х годов, первые эксперименты представил профессор Техасского университета в Остине Вуди Бледсо. В конце 1990-х годов Управление перспективных исследовательских проектов при Минобороне США и Национальный институт стандартов и технологий выпустили программу FERET с самой обширной базой лиц — более 14 тыс. изображений. Изначально ее использовали, чтобы находить и распознавать преступников по всему миру, но затем представили для открытого доступа.

С 2010 года Facebook начал использовать функцию распознавания лиц, чтобы находить пользователей на публикуемых фото и предлагать их отметить, а с 2014 года распознавание лиц используют в камерах смартфонов.

Самые масштабные разработки в области распознавания лиц — у Google, Apple, Facebook, Amazon и Microsoft (GAFAM).

Масштабы внедрения в России: школы, вузы, поликлиники

В России самыми крупными корпорациями на рынке распознавания лиц являются NTechLab, VisionLabs, Sensemaking Lab, Группа ЦРТ. Первая компания — разработчик приложения FindFace, которое использовали для поиска людей во «ВКонтакте» по фото. Сервис неоднократно оказывался в центре скандалов из-за нарушения приватности. Максимальная точность их алгоритмов для распознавания лиц — 99%. Компания также выступила подрядчиком для внедрения камер с распознаванием лиц в Москве, где в настоящий момент действует одна из крупнейших в мире сетей с распознаванием лиц.

Московскую систему видеонаблюдения использовали во время пандемии в 2020 году. С ее помощью выявили более 200 нарушителей карантина и самоизоляции, которым пришлось выплатить штрафы.

По словам гендиректора NtechLab Андрея Теленкова, система распознавания лиц уже внедрена или внедряется в настоящий момент в 20 регионах России, включая пилотные проекты. В частности, компания NtechLab тестирует в Самаре проект по распознаванию людей с оружием на подходах к школам.

«Что касается школ, то у нас появился проект в Кот-д’Ивуаре, где остро стоит проблема с похищением детей, и при этом дети могут добираться до школы достаточно долго. Наше решение будет автоматически присылать на мобильный телефон родителей уведомление, когда ребенок добрался до школы. Надо понимать, что видеоаналитика неизбежно будет становиться более массовой. Она уже сейчас гораздо точнее, чем человек, она допускает на порядок меньше ошибок», — сообщил гендиректор NtechLab.

Кроме этого, технологией заинтересовались в российских вузах: сервисы на базе распознавания лиц помогают во время онлайн-обучения: следят, чтобы ученик не отвлекался во время экзамена, не списывал и не пользовался устными подсказками. Также руководители учреждений планируют использовать ее для распознавания лиц и верификации личности студента на онлайн-экзаменах, а ряд регионов планирует ее использовать в поликлиниках для подсчета посетителей и детекции очередей.

«Проблемы очередей стоят остро, но объективной статистики нет. Сейчас мы с несколькими регионами говорим об этом. Я надеюсь, что в следующем году можно будет говорить о конкретных проектах. Интерес к видеоаналитике применительно к очередям огромный в розничной торговле», — отметил Теленков.

По данным инвестиционной компании J’son & Partners Consulting, к концу 2018 года доля технологий распознавания лиц в общем объеме российского биометрического рынка составила почти 50%.

Московский институт психоанализа внедрил решение по распознаванию лиц в систему обучения и тестирования студентов для удаленной идентификации. При использовании учебного портала студенты института получают доступ к материалам курса и к сдаче тестов и экзаменов, ранее это было невозможно из-за использования системой стандартного механизма доступа по паролю. По данным разработчика, около 5% студентов пытались использовать третьи лица для сдачи экзаменов, но система предотвратила все случаи мошенничества.

Законодательное регулирование

30 июня 2018 года в РФ вступили в силу изменения, внесенные в отдельные законодательные акты, позволяющие госорганам, банкам и иным организациям в предусмотренных законом случаях проводить удаленную идентификацию физлиц, основанную на использовании их биометрических персональных данных (Федеральный закон от 31 декабря 2017 г. № 482-ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации»). Форма согласия на обработку персональных данных и биометрических персональных данных утверждена Правительством РФ ( распоряжение Правительства РФ от 30 июня 2018 г. № 1322-р).

Кроме этого, России есть закон о защите персональных данных, он направлен, в первую очередь, на сохранность самих данных: их необходимо защищать, чтобы предотвратить утечки. Безопасность биометрических данных в частной сфере пока не регулируется, но у властей с 2019 года есть право использовать распознавание лиц без согласия граждан.

Мировой опыт

Европейская комиссия в начале 2020 года сообщала, что рассматривает запрет на использование распознавания лиц в общественных местах на срок до пяти лет, так как регулирующим органам необходимо время, чтобы решить, как предотвратить злоупотребление технологией. За этот период «может быть определена и разработана надежная методология оценки воздействия этой технологии и возможных мер по управлению рисками».

Комиссия изложила свои планы в документе, предполагающем, что будут введены новые правила, направленные на защиту конфиденциальности.

Противники распознавания лиц в Европе заявляют, что текущая технология часто совершает ошибки и нарушает право человека на неприкосновенность частной жизни. 5 октября 2021 года стало известно, что Европейский парламент поддержал мораторий на использование распознавания лиц в правоохранительных целях. Текст, одобренный депутатами Европарламента, призывает Европейскую комиссию ввести «запрет на любую обработку биометрических данных, включая изображения лиц, в правоохранительных целях, которая ведет к массовому слежению в общедоступных местах». Депутат Европарламента от Пиратской партии Германии Патрик Брейер приветствовал голосование как «исторический прорыв в предотвращении антиутопического будущего биометрического массового наблюдения в Европе в китайском стиле».

В Китае распознавание лиц используют повсеместно. Например, оно внедрено в аптеках Шанхая для людей, покупающих определенные лекарства, в частности, содержащие психотропные вещества. Таких покупателей просят подтвердить свою личность, отсканировав лицо. Кроме этого, биометрия является обязательной даже при регистрации телефонного номера.

В США нет федерального закона, который бы регулировал использование технологии. В некоторых штатах для полиции и других органов действуют ограничения на использование распознавания лиц — например, в Орегоне, Вашингтоне, Техасе, Иллинойсе, Массачусетсе, Вермонте.

В то же время в ряде штатов, включая Техас, Флориду и Иллинойс, ФБР разрешено использовать технологию распознавания лиц для сканирования фотографий водительских прав. Во многих аэропортах США Служба таможенного и пограничного контроля использует распознавание лиц для проверки пассажиров на международных рейсах. А в таких городах, как Балтимор, полиция использовала программное обеспечение для распознавания лиц, чтобы идентифицировать и арестовывать людей во время протестных акций.

Многие полицейские управления США стремятся использовать инструменты распознавания лиц, заявляя, что они могут помочь им более эффективно выявлять и арестовывать преступников. Например, в прошлом году полиция Мэриленда идентифицировать подозреваемого в нападении на редакцию газеты Capital Gazette, которое привело к жертвам. Министерство внутренней безопасности также утверждает, что эта технология может помочь правительству быстрее проверять путешественников и распознавать иммигрантов.

Более того, американское правительство намерено активизировать использование технологии распознавания лиц, несмотря на недовольство общественности. Так, Счетная палата США опубликовала отчет 24 августа 2021 года, в котором подробно описывается текущее и планируемое использование технологии распознавания лиц федеральными агентствами. Отчет был опубликован более чем через год после того, как Комитет по технологической политике США Ассоциации вычислительной техники призвал к немедленному прекращению практически любого государственного использования технологий распознавания лиц.

Экспертные оценки. Риски

Основным препятствием, тормозящим развитие технологии в России, являются проблемы безопасности и риски взлома системы: недостаточная точность, относительно высокая цена внедрения систем распознавания лиц, а также ощущение постоянной слежки у пользователей, отмечает проектный менеджер Кластера информационных технологий Фонда «Сколково» Дмитрий Стариков.

IT-эксперты обращают внимание на то, что система распознавания лиц часто ошибается. Так, 19 октября стало известно об инциденте с жестким задержанием режиссера и преподавателя русского языка Федора Ермошина в Москве по ошибке. Полицейские, опираясь на данные системы, перепутали его с вором, похитившим игровые приставки, и только доставив режиссера в отделение, выяснили, что алгоритмы системы обознались. Согласно их данным, Ермошин оказался на 70% похож на настоящего преступника.

«Мы же с вами не знаем, какой порог совпадений прописан в данной программе, какая там шкала. Например, система видеонаблюдения метро, я знаю, устанавливалась несколькими вендорами. Кроме того, есть много других факторов. Разное освещение, разное оборудование или качество „картинки“. Например, может быть и так, что степень похожести моего лица на свежем снимке и полгода назад будет оценена как раз на 70%», — рассказал гендиректор IT-компании «Наносемантика» Станислав Ашманов.

Более того, особое значение даже при цифровой идентификации, по мнению IT-специалистов, имеет человеческий фактор.

«Система проводит сверку, но при этом никогда не выносит конкретного решения. Она лишь выдает отчет, рекомендацию, сообщает, есть ли совпадение человека с входящего снимка с кем-то из базы. А вот что с этой информацией делать дальше, решает человек», — комментирует эксперт.

Руководитель компании VisionLabs Дмитрий Марков напомнил, что в системе можно настроить порог, после которого она будет идентифицировать человека на изображении с камеры и фотографию в базе данных. При этом всегда остается возможность «перекрутить» или «недокрутить» эту настройку.

«Настраиваемый порог схожести зависит от множества факторов. В нормальных, точнее идеальных, условиях рекомендуется ставить порог схожести не менее 95%. Однако нужно понимать, что в промышленной эксплуатации может быть множество нюансов, и тогда пороги необходимо настраивать индивидуально», — отметил Марков.

Что касается проекта по выявлению людей с оружием, то у его реализации могут возникнуть организационные сложности по части интеграции решения коммерческой компании в информационный контур МВД, считают эксперты.

«Технически же реализовать проект реально, хотя сложно. Необходимы камеры с высоким разрешением. К тому же нейросеть должна распознавать людей с оружием в плотном потоке горожан, а для этого она должна быть обучена на дата-сетах», — отмечает директор по продуктовой стратегии «Группы Т1» Сергей Иванов.

По мнению технического директора компании «Системы компьютерного зрения» Михаила Смирнова, процент срабатывания системы будет не очень высоким.

«Было бы правильнее выявлять людей, которые ведут себя нехарактерно: оборачиваются, нервничают, несут тяжелые сумки», — уверен эксперт.

Основная же сложность в том, что нужно распознавать не лицо человека, а оружие, которое, как правило, открыто не носят, говорит исполнительный директор Artezio Павел Адылин.

По  словам эксперта Академии управления финансами и инвестициями Алексея Кричевского, несмотря на то что система распознавания лиц эффективно выявляет преступников и нарушителей карантина, она может быть использована и с целью мошенничества: накладные усы и борода, надвинутая на глаза шапка и большие очки, а также другие современные решения могут противодействовать системе распознавания лиц. Кроме того, ее часто ругают за вторжение в частную жизнь и получаемый доступ к приватной информации о человеке.

Между тем, по словам Кричевского, технологии постоянно совершенствуются, и уже в ближайшем будущем, возможно, помехи для распознавания лица будут устранены. Эксперт добавил, что прогресс всё равно возьмет верх, как бы инженеры ни пытались обойти современные высокотехнологичные разработки, а алгоритмы научатся обходить препятствия.
Комментарии для сайта Cackle
30 ноября 2021 Новости
США призывают активнее вмешиваться в дела РФ
 США призывают активнее вмешиваться в дела РФ В преддверии саммита демократий в социальных сетях и СМИ распространяется статья бывшего посла США в России и наиболее влиятельного американского эксперта по РФ Майкла Макфола, в которой он заявляет о необходимости «положить конец всемирному спаду демократии».
6 декабря 2021 Анонс
Визит Путина в Индию
 Визит Путина в Индию 6 декабря Владимир Путин посетит Нью-Дели с рабочим визитом. Об этом сообщила пресс-служба Кремля. Глава государства проведет встречу с премьером Индии Нарендрой Моди, на которой планирует обсудить вопросы развития отношений между двумя странами и международную повестку дня. 
9 декабря 2021 Анонс
Саммит демократий
 Саммит демократий 9-10 декабря состоится всемирный саммит «лидеров за демократию», который собирается провести Джо Байден. Мероприятие пройдет в виртуальном формате, при этом на встречу приглашены главы государств и правительств, представители частного сектора и гражданского общества.
© 2008 - 2021 Фонд «Центр политической конъюнктуры»
Сетевое издание «Актуальные комментарии». Свидетельство о регистрации средства массовой информации Эл № ФС77-58941 от 5 августа 2014 года. Издается с сентября 2008 года. Информация об использовании материалов доступна в разделе "Об издании".