Подрядчики Apple, работающие над улучшением распознавания голоса для Siri, регулярно слышат записи разговоров пользователей с упоминанием конфиденциальной медицинской информации, разговоры о наркотиках, звуки, издаваемые владельцами смартфонов вовремя интимной близости, пишет The Guardian.
По информации Apple, небольшая часть записей голосового помощника Siri передается подрядчикам, работающим по всему миру. Однако информация об этом не указана в соглашении о конфиденциальности.
В задачу подрядчиков входит оценка Siri по ряду параметров. Например, был ли голосовой помощник активирован преднамеренно или случайно, и был ли ответ голосового помощника уместным.
Apple официально заявила, что голосовые данные «используются для того, чтобы помочь Siri лучше понимать вас и распознавать, что вы говорите». Однако компания не сообщала, что эту работу выполняют люди, которые имеют возможность прослушивать аудиозаписи.
Изданию компания Apple сообщила, что «небольшая часть ответов Siri анализируется для улучшения работы голосового помощника. Пользовательские запросы не связаны с Apple ID. Записи анализируются в защищенных помещениях, и все лица, прослушивающие записи, обязаны соблюдать строгие требования в отношении конфиденциальности». В компании добавили, что для оценки используется очень небольшая случайная выборка – менее 1% ежедневных активаций Siri, как правило, длиной всего несколько секунд.
Информатор, который попросил остаться анонимным, выразил обеспокоенность по поводу умалчивания этого факта, особенно учитывая частоту, с которой случайные активации Siri собирают чрезвычайно конфиденциальную персональную информацию.
Siri часто активируют случайно. Например, интервью в эфире BBC о Сирии было прервано Siri в прошлом году — робот решил, что человек обращается к нему. Однако «Siri часто распознает звук застегивания молнии на одежде как команду активации», сообщил информатор. Более того, Siri можно активировать и другими способами, например, если поднять Apple Watch и начать говорить».
Информатор добавил: «У подрядчиков Apple бесчисленное количество записей частных бесед между врачами и пациентами, деловых и преступных сделок, сексуальных контактов и так далее. Эти записи сопровождаются информацией о местоположении, контактной информацией и данными самого приложения».
В соглашении о конфиденциальности Apple утверждает, что данные Siri «не имеют связи с данными, которые Apple может получить при использовании вами других программных продуктов компании». Записи не имеют привязок к конкретным именам или идентификаторам и не могут быть легко связаны с другими записями.
Случайные активации Siri привели к сбору наиболее чувствительных данных, которые были отправлены в Apple. Несмотря на то, что Siri включена на большинстве устройств Apple, информатор выделил Apple Watch и умную аудиоколонку HomePod в качестве наиболее частых источников ошибочных записей. «Регулярность случайных срабатываний на часах Apple невероятно высока. Часы могут записывать фрагменты длиной 30 секунд – это не так долго, но позволяет сформировать представление о происходящем».
Иногда «вы можете слышать врача и пациента, обсуждающих историю болезни. Или вы можете услышать кого-то на фоне звука работающего двигателя автомобиля – судя по всему, это сделка с наркоторговцем, хотя вы не можете быть уверены в этом. Также вы можете услышать звуки, издаваемые людьми, совершающими половой акт, которых ошибочно записала умная колонка или часы».
Как заявил источник, сотрудникам компании-подрядчика было рекомендовано сообщать о случайных активациях Siri «только как о технической проблеме», без возможности борьбы со сбором и обработкой чувствительных записей. «Нас заставляют выполнять работу как можно быстрее. Единственная функция прослушивания записей – выявление технических проблем. Возможности сообщить о чувствительном контенте нет».
Информатор пожелал обнародовать информацию об этом не только из-за ощущения дискомфорта при прослушивании частной информации, но ещё из опасений, что такая информация может быть использована не по назначению. «Работников проверяют не очень уж тщательно, а информация, которую мы имеем, кажется довольно обширной. Будет несложно идентифицировать человека, которого вы слушаете, особенно по случайным триггерам – адресам, именам и т.д.
Apple заключает много субподрядных договоров, что не похоже на поощрение сотрудников заботиться о неприкосновенности частной жизни. Если бы среди работников был кто-то с гнусными намерениями, ему было бы нетрудно идентифицировать людей на аудиозаписях».
Информатор утверждает, что Apple должна сообщить пользователям о существовании данной практики и прекратить публиковать некоторые шутливые ответы на запросы Siri. Например, спросите Siri: «Ты всегда слушаешь?» — и она ответит: «Я слушаю только тогда, когда ты разговариваешь со мной». Но информатор говорит, что это ложь – случайные активации Siri слишком регулярны для такого беззаботного ответа.
Не только Apple использует людей для обучения голосового помощника. В апреле выяснилось, что Amazon нанимает сотрудников для прослушивания некоторых записей Alexa, а в начале этого месяца было обнаружено, что сотрудники Google делают то же самое для совершенствования Google Assistant.
Однако Apple несколько отличается от этих компаний. Во-первых, Amazon и Google позволяют пользователям отказаться от использования своих записей для анализа, а Apple не предлагает аналогичного выбора (кроме полного отключения Siri). Согласно Counterpoint Research, Apple занимает 35% рынка умных часов – это в три с лишним раза больше, чем у ее ближайшего конкурента Samsung, и больше, чем у следующих шести крупнейших конкурентов вместе взятых.
