ИИ-служба «Распознавание лиц» от Microsoft станет на этой неделе недоступна для новых пользователей сервиса, а к концу года — и для остальных клиентов, сообщила The New York Times во вторник.
Microsoft разработала новые стандарты ответственного использования искусственного интеллекта (Responsible AI Standard) и теперь намерена ввести более жёсткий контроль за своими ИИ-продуктами, чтобы убедиться, что ИИ-системы компании «не будут причинять вред обществу».
Помимо прочего, Microsoft закроет доступ к автоматизированным средствам, способным определять пол, возраст и эмоциональное состояние людей.
В компании посчитали, что «сделать подобные инструменты доступными для всех членов общества представляется проблематичным». В частности, так называемый классификатор пола в ИИ-системах был бинарным (делил граждан только на два пола — ред.), а «это идёт вразрез с ценностями компании».
Напомним, ранее Google разработал 10 градаций «фототипов» (т.е. цвета) кожи для своих приложений и устройств — Monk Skin Tone Scale. Применявшаяся ранее шкала Фитцпатрика (Fitzpatrick Skin Type, предполагает шесть градаций цвета кожи) приводила к сбоям ИИ-систем при обработке фото представителей рас, отличных от европеоидной. В частности, система распознавания лиц не относила людей с очень тёмной кожей к homo sapiens.
