Законопроект, одобренный сенатом штата Калифорния, предусматривает трехлетний мораторий на использование полицией алгоритмов распознавания лиц. Защитники конфиденциальности хотят добиться постоянного запрета, пишет Wired.
В прошлом месяце члены законодательного органа Калифорнии стали предметом наблюдения в эксперименте, подготовленном Американским союзом гражданских свобод (American Civil Liberties Union, ACLU). Их портретные фотографии были загружены в программу распознавания лиц Amazon Recognition и сравнены с базой данных из 25 тысяч снимков с арестованными за стрельбу.
Двадцать шесть законодателей были неправильно определены как люди из этой базы. Среди них был член законодательного собрания Фил Тинг (Phil Ting), демократ из Сан-Франциско. Он решил, что это будет отличным призывом к поддержке его законопроекта «АБ 1215» о запрете распознавания лиц с камер, которые носят полицейские.
В прошлую среду парламент штата принял немного другой законопроект – не запрет, а мораторий на три года. Изменение произошло в последний момент внесения поправок до окончания сессии. Некоторые сторонники конфиденциальности обеспокоены тем, что трехлетний срок действия законопроекта даст компаниям, многие из которых признают недостатки своих технологий, время для улучшения алгоритмов и одержания победы над скептиками. Пройдут ли компании с технологиями распознавания лиц повторный тест Американского союза гражданских свобод через три года?
Законопроект, который для обретения статуса закона требует одобрения Ассамблеи штата и подписи губернатора, был расценен Американским союзом гражданских свобод как позитивный шаг. Мэтт Кейгл (Matt Cagle), адвокат ACLU из Северной Калифорнии, говорит, что нательные камеры, которые преподносились как инструменты подотчетности расстрелов невооруженных цветных людей, становятся инструментами наблюдения. «Это наживка и переключатель внимания», – говорит Мэтт. Законопроект предусматривает запрет использования алгоритмов распознавания лиц в реальном времени во время ношения нательных камер и запрет последующего судебного анализа отснятого материала. Такая формулировка создает исключение для телекамер, которые имеют функции обнаружения лиц, фокусировки на лицах и возможность их редактирования.
Мораторий вводится на фоне растущих опасений по поводу распознавания лиц в общественных местах. В таких городах, как Сан-Франциско и Окленд, были введены более обширные запреты на использование государством функции распознавания лиц, а штат Массачусетс рассматривает необходимость введения моратория на весь штат. Эти законопроекты были вызваны обеспокоенностью по поводу конфиденциальности и систематических ошибок, которые обусловлены техническими недостатками и были признаны компаниями – разработчиками технологии не готовыми к прайм-тайм.
Прошлой весной Microsoft заявила, что отказалась продавать свое программное обеспечение для распознавания лиц неназванному калифорнийскому полицейскому агентству. В июне Axon (крупнейший поставщик телекамер для правоохранительных органов) заявила, что не будет включать функцию распознавания лиц в свой продукт по рекомендации своего внешнего совета по этике. В некоторой мере это было признанием того, что технология просто-напросто не работает достаточно хорошо, по крайней мере, пока. В то время как распознавание лиц исторически использовалось для сопоставления лиц на четких изображениях, обращенных вперед, например, для сравнения снимка в профиль и анфас с базой данных арестов, сделать его в реальном времени гораздо сложнее. Офицеры часто оказываются в ситуациях с плохим освещением, запутанными путями или быстрым движением. Axon оставила за собой интерес к использованию технологии распознавания лиц в будущем.
Компании, такие как Amazon, утверждают, что распознавание лиц должно быть урегулированым, а не запрещенным. Компания опротестовала августовский эксперимент Американского союза гражданских свобод, заявив, что ложных распознаваний не было бы, если бы ACLU не требовала 99-процентного совпадения лиц (ACLU заявила, что использовала «заводские стандарты» для эксперимента). Фонд информационных технологий и инноваций (The Information Technology and Innovation Foundation) – отраслевая группа, которая получает поддержку от компаний, в том числе Microsoft и Amazon, выступает против законопроекта AБ 1215, утверждая, что технология по количеству искажений может противостоять людям, просматривающим видеоматериалы.
Однако самое громкое сопротивление было со стороны полицейских, которые утверждают, что инициатива лишает их ключевой технологии для обеспечения общественной безопасности. Законопроект «ошибочно допускает, что люди трезво оценивают возможный результат конфиденциальности», – написала Ассоциация шерифов Риверсайда в отзыве на законопроект.
По словам Тинга, переход от запрета к мораторию вызван обеспокоенностью законодателей, которые «хотели бы вернуться к вопросу по мере совершенствования технологии». Он говорит, что мораторий устанавливает надлежащий баланс, предоставляя чиновникам и разработчикам больше времени и возможность приспособиться. «Теперь, если вы соберетесь установить камеры в отдельно взятом городе, вас ожидает крупный публичный процесс. Сейчас же правоохранительные органы могут сделать это без публичного процесса и могут заставить эти камеры рыскать вокруг».
Но Джереми Джилла (Jeremy Gillula), технолог из Фонда электронных границ (Electronic Frontier Foundation), работающий в Совете по этике компании Axon, опасается, что истечение срока моратория может привести к «потоку распознавания лиц с помощью нательных камер», если государство не сможет продлить срок моратория. «Прямо сейчас намного легче использовать аргумент, что эту технологию не следует внедрять из-за имеющихся всевозможных недостатков», – говорит Джилла, подчеркивая, что он это заявляет от себя лично. «Я определенно волнуюсь, что через три года компании, работающие над нательными камерами, смогут заявить, что они решили эти недостатки».
В таком случае противники распознавания лиц должны будут больше полагаться на этические аргументы о слежке и праве на неприкосновенность частной жизни в общественных местах, что будет сложнее «продать» законодателям и общественности. Недавний опрос Pew (Pew Research Center) показал, что несмотря на недавние запреты и прения, большинство американцев доверяют использованию этой технологии полицией. На это Джилла отвечает, что планирует возражать против использования распознавания лиц правоохранительными органами даже тогда, когда государство или Axon решат, что они готовы. «Честно говоря, я не хочу жить в обществе, где после того, как я пройду перед полицейским, появится запись, где я был».
