О европейском вебинаре на тему рисков, которые создают ИИ-технологии для гражданского общества
В июле для сотрудников и стажёров Европейского совета по защите данных (European Data Protection Board, EDPB) и Европейского надзорного органа по защите данных (European Data Protection Supervisor, EDPS) состоялся учебный вебинар «Оруэлловское предвидение: обсуждение опасностей биометрического наблюдения» (An Orwellian Premonition: a discussion on the perils of biometric surveillance) – обсуждавшееся представляет определённый интерес не только для этих организаций и не только в пределах Евросоюза.
Европейская комиссия в апреле представила проект Регламента в области искусственного интеллекта (ИИ) (Artificial Intelligence Act). В «совместном мнении» Европейского совета по защите данных (European Data Protection Board, EDPB) и Европейского надзорного органа по защите данных (European Data Protection Supervisor, EDPS) относительно проекта подчеркивалось, что Artificial Intelligence Act может иметь важные последствия для защиты персональных данных и неприкосновенности частной жизни.
EDPS и EDPB призвали к общему запрету на любое использование ИИ для автоматического распознавания человеческих черт в общедоступных местах и на биометрическую классификацию, отметив, что ситуация, когда компьютер прогнозирует или классифицирует поведение человека без его согласия, несовместима с человеческим достоинством. Это и стало темой вебинара.
Риск возникновения тоталитарного режима
Во вступительном слове уполномоченный EC по защите данных Войцех Вивьеровский (Wojciech Wiewiorowski) обратил внимание на быстрое развитие принципиально новых технологий, в частности ИИ. По словам европейского чиновника, сегодня ИИ чаще всего понимается как синоним технологий машинного обучения (machine learning), однако в действительности технологии ИИ значительно разнообразнее – и законодательное определение ИИ не должно быть слишком предметным, «завязанным» на определённые технологии, иначе оно устареет еще до вступления закона в силу. Такое определение должно быть технологически нейтральным и учитывать возможное будущее развитие технологий.
Искусственный интеллект – это «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».
В то же время Вивьеровский обратил внимание, что ИИ обладает потенциалом влияния на права и свободы людей, который даже представить себе не могли Оруэлл и другие авторы антиутопий. Все технические средства для создания оруэлловского тоталитарного режима уже существуют, и ИИ многократно повышает риск его возникновения. Роль демократических институтов общества, законодательства, верховенства права состоит в том, чтобы направить мощь технологий в правильное русло.
Совместное заключение
Основную часть вебинара составила презентация совместного заключения EDPS и EDPB по проекту регламента в области ИИ, представленная Витором Бернардо (Vitor Bemado), сотрудником подразделения технологий и приватности (Technology & Privacy Unit) EDPS.
Он подчеркнул важность человеческого контроля над системами ИИ и недопустимость создания таких систем, которые могут выйти из-под контроля человека. Особый акцент был сделан на необходимости всеобъемлющего запрета на использования систем удалённого мгновенного распознавания людей в общественных местах по любым биометрическим признакам (походка, отпечатки пальцев, голос, манера нажатия клавиш и любых других индивидуальных признаков), а также классификации людей по таким признакам.
Неизбежный вред применения таких технологий значительно превышает потенциальную пользу. Доказаны многочисленные случаи предвзятости алгоритмов, ошибки распознавания. Такие системы заставят людей избегать общественных мест или вести себя там неестественно. Приводились соответствующие примеры из исследований надзорных органов Германии и Франции.
«Право на анонимность в общественном месте» – составная часть фундаментального права человека на неприкосновенность частной жизни и «права быть оставленным наедине с собой» (right to be let alone). Также в связи с технологиями удалённой идентификации людей необходимо уточнить таких понятия, как «режим реального времени» и «общестенное место».
Большинство участников панельной дискуссии в той или иной степени поддержали основные тезисы совместного заключения EDPS и EDPB. Особенно отмечена важность скорейшего установления регулирования ИИ, пока полный потенциал данной технологии ещё не раскрыт, и её использование в правовом вакууме не привело к непоправимым последствиям.
Человеческое достоинство
Особую важность имеют возможностей государства для ограничения использования ИИ, обеспечения прозрачности ИИ-систем, подотчётности разработчиков и эксплуатантов ИИ. Было также высказано мнение, что права и свободы человека должны служить критерием законности любой деятельности, связанной с ИИ.
Удалённое биометрическое распознавание человека в общественном месте, а также классификация гражданин (какой бы ни была система классификации), оскорбляет человеческое достоинство. Такие технологии могут быть разрешены только в строго определённых случаях, с ограничениями по месту, времени, кругу затронутых лиц и объёму обрабатываемой информации.
Каждый такой случай требует предварительного одобрения решением суда или независимого органа, которые в состоянии оценить необходимость таких мер и их соответствие целям, которые предполагается достигнуть. Затронутым лицам должны быть предоставлены эффективные средства правовой защиты.
По мнению участников вебинара, ЕС может противостоять широкому использованию ИИ-систем, чреватому нарушением прав человека, путём укрепления своего цифрового суверенитета (digital sovereignty), совершенствования кибербезопасности, усиления защиты персональных данных европейцев. Декларировано, что в ЕС права и свободы человека стоят выше любых нормативных актов любого уровня, и любая норма закона может быть оспорена и признана недействительной, если она противоречит правам и свободам человека.
С заключительным словом выступил Gwendal Le Grand (Гвендаль ле Гран), заместитель генерального секретаря (Deputy Secretary-General) национальной комиссия по информационным технологиям и гражданским свободам (надзорный орган Франции, Commission Nationale de l’lnformatique et des Libertes). Он отметил символичность того, что вебинар проводится в День республики (национальный праздник Франции, установленный в годовщину взятия Бастилии 14 июля 1789 года). По его словам, ценности и идеалы Великой французской революции, определённые в Декларации прав человека и гражданина 1789 года, её лозунг «Liberte, Egalite, Fraternite» («Свобода, Равенство, Братство») легли в основу современной европейской системы ценностей. Великая французская революция провозгласила автономию и достоинство личности, объявила народ источником государственной власти. Никто не может унижать человеческую личность в её правах и достоинстве, будь то другой человек, государство или – в наши дни – машина.