Компания Apple разработала новую технологию обнаружения материалов, содержащих сцены сексуального насилия над детьми, на устройствах, подключённых к сервису iCloud – если компания найдёт подобные материалы, об этом будет сообщено полиции, пишет в пятницу silicon.co.uk.
Apple утверждает, что инструмент «поможет защитить детей от хищников, которые используют инструменты коммуникации для совращения и эксплуатации несовершеннолетних, а также ограничит распространение детской порнографии».
Как объяснили в Apple, специальная программа на устройстве будет сопоставлять фото пользователя с помощью некого Neural Hash (результат специального преобразования данных, условно говоря, цифровой слепок с фотографии, можно провести аналогию с технологией Face ID) с изображениями из базы фото, которые содержат сцены сексуального насилия над детьми.
Соответствующая информация предоставляется рядом организаций, специализирующихся на защите несовершеннолетних, включая National Center for Missing & Exploited Children (NCMEC). Она располагает самой большой в мире базой изображений, содержащих детскую порнографию.
Apple настаивает, что учитывает право пользователей на неприкосновенность частной жизни. На основании фото, хранящихся в телефоне, при их отправке в iCloud составляются наборы Neural Hash, которые используются для поиска детской порнографии по образцу.
При обнаружении детского порно Apple заблокирует аккаунт, сообщит об этом NCMEC, а та в – в правоохранительные органы.
Напомним, ранее в июле критике подверглось решение Европейского парламента одобрить закон, который разрешает IT-компаниям следить за личной перепиской пользователей продуктов этих компаний в ЕС с целью предотвращения распространения детской порнографии.
Некоторые специалисты считают, что алгоритм оценки изображений несовершенен, достаточно отправить фото семьи с детьми на пляже родственникам или друзьям, чтобы компьютерная программа просигнализировала об обнаружении педофила.
Напомним в этой связи, что фотографии и другие данные, попавшие в iCloud, неопределённо долгое время не удаляются оттуда физически и могут быть извлечены.
См. также: Как наши программисты нарвались на скандал с голыми знаменитостями >>>
