Британская полиция на основе данных системы распознавания лиц задержала 26-летнего программиста азиатского происхождения по подозрению в краже со взломом в городе, где программист никогда не был – как выяснилось позже, система ошиблась, сообщает в среду The Guardian.
Британская полиция использует для распознавания лиц продукт немецкой компании Cognitec. В базе данных около 19 миллионов фото задержанных британской полицией.
Известно, что эта система распознавания даёт сбои, причём вероятность ошибки идентификации лиц европеоидов составляет 0,04%, для монголоидов и негроидов – 4% и 5,5% соответственно.
Фото невинно пострадавшего программиста оказалось в полицейской базе в 2021 году, когда он стал жертвой нападения.
Подобные ошибки, напомним, не редкость. В 2024 году шестидесятиоднолетний американец Харви Мёрфи (Harvey Murphy) подал в суд на ретейлера Macy’s и материнскую компанию сети магазинов по продаже солнцезащитных очков Sunglass Hut — эти компании использовали технологию распознавания лиц, которая ошибочно идентифицировала истца как вооружённого грабителя, после чего его отправили в тюрьму.
В России имел место арест гражданина на основании «опознания» его по фотороботу (!) разыскиваемого лица – при том, что вероятность ошибки идентификации составляла 45%.
Пострадавший британский программист провёл под стражей 10 часов и намерен подать в суд на полицию. Наш соотечественник в аналогичной истории провёл в заключении 10 месяцев.
См. также:
- Система распознавания лиц в полиции Британии даёт 81% ложных результатов – исследование
- Полиция в США арестовывает людей по ошибке из-за использования несовершенных ИИ-инструментов — СМИ
Вопрос непростой.
Думаю, полицейских тоже надо учить. Мы учим граждан ИТ-грамоте. Похоже, полиции тоже не хватает
чёткого понимания роли компьютеризированного инструмента. В конечном счёте решения по делу принимают следователь и судья, а не продавец ИИ или некая обученная структура в компьютере.
В то же время бенефициаром такого наивного доверия является продавец ИИ; и было-бы целесообразно пристально следить за его заявлениями.
Добавлю.
Можно системы распознавания лиц использовать только как ускоритель поиска. В таком случае сказанное мной ранее применимо.
В другом случае мы применяем системы распознавания лиц, как более точный инструмент, чем наша природная система распознавания. Тогда эта техническая система должна соответствовать каким-то очень важным критериям. Вероятно, в этом направлении уже исследования есть. Думаю, для этой цели инструменты ИИ должны различать, является ли изображение узнаваемым или нет. И этот выбор нужно учёным суметь спроектировать и запрограммировать.