Развитие социотехнических систем: от PKI и TTP до аудита доверия к ИИ

Аннотация

Статья развивает и актуализирует ряд предыдущих публикаций (1, 2, 3, 4, 5, 6, 7) на D-Russia.ru, посвящённых проблематике цифровой трансформации экономики и управления. В статье делается акцент на обеспечении информационной безопасности (ИБ) в различных существующих и перспективных функциональных системах. Рассмотрено развитие решений от обеспечения безопасности формы представления информации (инфраструктура открытых ключей – ИОК, или PKI, а также доверенная третья сторона – ДТС, или TTP) – до аудита доверия к ИИ (АДИИ), как нового направления исследований и практической реализации. При этом инфраструктура АДИИ должна быть нацелена на обеспечение ИБ прикладных систем, реализующих обработку смыслов (контента, содержания) информации.

Предложена гипотеза о том, что все три инфраструктуры предназначены для поддержки социотехнических систем, необходимые и достаточные признаки выделения которых в отдельную категорию обосновываются далее.

Основные положения статьи изложены во временной ретроспективе, что создаёт предпосылки для формулирования последующих направлений работ в соответствии с новыми вызовами и угрозами цифровой трансформации российской экономики и управления. В этой, перспективной, части статья носит дискуссионный характер, намечаются только некоторые принципиальные положения для дальнейшего изучения и моделирования.

Основные термины и определения

Для целей настоящей статьи предлагаются следующие термины и их определения:

Социотехническая система — человеко-машинная система, в работе которой участвует неограниченное число граждан, вычислительных комплексов и средств защиты; существенным элементом социотехнической системы является юридически значимая регламентация поведения людей с помощью специальных институтов – таких, в частности, как электронная подпись, регламенты использования персональных данных, информационная и физическая безопасность IT-систем и других.

Смысл – информация высокого передела, извлекаемая из больши́х данных путём не-алгоритмической обработки. В отличие от данных, обрабатываемых по алгоритмам для управления отдельно взятыми организациями, смыслы обусловливают мотивы поведения как людей, так и машин, входящих в социотехническую систему. Примеры: медицинская диагностика и представлений об обстоятельствах возникновения болезней, влияние беспилотного транспорта на поведение водителей, «представления» судебной ИИ-системы о классификации юридических случаев и соответствующем правоприменении, мониторинг СМИ и социальных сетей.

Ролевая модель – состав и юридические правила взаимодействия участников социотехнической системы. Правила взаимодействия реализуются в форме регламентов, нормативных-правовых актов, технических стандартов, законов.

Предпосылки (на примере ЭЦП)

Первое практическое применение в России электронная цифровая подпись (ЭЦП) нашла в рамках создания системы защиты для передачи банковской платёжной информации после историй фальшивыми авизо. По такого рода авизо преступники получили более 4 триллионов рублей.

Проект ЭЦП реализовывался в 1993-1996 годах по поручению президента России силами подразделений Банка России и спецслужбы – ФАПСИ при президенте РФ. Во всех 1500+ районных расчётно-кассовых центрах были созданы региональные сети передачи конфиденциальной банковской информации, использующие ЭЦП «Верба». Решение показало свою эффективность.

Можно выделить отдельные характерные черты созданной системы:

  • функциональность – банковская система корпоративного типа;
  • институциональная составляющая на время реализации проекта отсутствовала, регулирование осуществлялось Банком России;
  • поставщиком сервисов ИБ выступала государственная организация – ФАПСИ при президенте РФ;
  • в стране тогда было представлено ограниченное количество решений СКЗИ отечественной разработки;
  • проект обеспечивал надёжную защиту электронной формы платёжного документа, но не затрагивал содержания банковской информации.

Можно констатировать, что проект, направленный на противодействие фальшивым авизо, был прообразом социотехнической системы в масштабе страны при отсутствии широкого круга поставщиков (рынка) безопасных средств криптографической защиты информации (СКЗИ) и государственного регулирования вопросов разработки, производства, реализации и эксплуатации, которое появилось значительно позднее.

Инфраструктура открытых ключей

По истории создания и развития инфраструктуры открытых ключей -ИОК или в английской терминологии Public Key Infrastructure – PKI имеется множество сведений. Здесь хотелось бы отметить только некоторые этапы практического построения и использования инфраструктуры открытых ключей в России, как социотехнической системы.

Как уже было сказано, первым масштабным практическим опытом создания системы защиты для передачи банковской платёжной информации был проект, реализованный в 1993-1996 годах силами Банка России и ФАПСИ при президенте РФ. При этом во всем мире и у нас в стране лавинообразно нарастала ведомственная и корпоративная информатизация, которая требовала (для отдельных наиболее критичных приложений) обеспечения юридической значимости электронного документооборота. Это в свою очередь диктовало необходимость формирования рынка решений СКЗИ и его регулирования (институциализации).

Импульсом, запустившим государственное регулирование нового рынка, стало принятие Федерального закона «Об электронной цифровой подписи» от 10.01.2002 N 1-ФЗ. Целью закона являлось обеспечение правовых условий использования ЭЦП в электронных документах, чтобы ЭЦП признавалась равнозначной собственноручной подписи в документе на бумажном носителе.

Можно отметить, что сформированные законодательные правовые условия, наряду с подзаконными актами назначенных государством регуляторов, могут рассматриваться в качестве правовой основы для предоставления информационно-безопасных сервисов в конкретных функциональных приложениях. К ним можно отнести различные системы электронного документооборота, например, в таможенной или налоговой сфере, а также в области государственных или корпоративных закупок. Эта правовая основа не затрагивает регулирования содержательных аспектов налоговых, таможенных или закупочных процедур, которые определяются отдельными законами, а относится только к форме представления информации, обеспечивая её юридическую значимость.

В 2004 году был образован специализированный уполномоченный орган в области использования ЭЦП в лице Федерального агентства по информационным технологиям (Росинформтехнологии). Функции регулирования в этой сфере были отнесены к ведению Министерства связи и информационных технологий России (с марта 2004 по май 2008). Вопросы формирования и реализации государственной и научно-технической политики в области обеспечения ИБ, в том числе с использованием инженерно-технических и криптографических средств, традиционно относятся к ведению ФСБ России.

Таким образом, можно констатировать, что в 2004 году были созданы необходимые нормативно-правовые и организационно-регулятивные условия для формирования и развития в России надёжной инфраструктуры открытых ключей для поддержки функционирования различных отраслей экономики и государственного управления.

Для формирования регулируемого рынка СКЗИ в рамках инфраструктуры открытых ключей Росинформтехнологии в 2004 году поддержало участников рынка СКЗИ о создании специализированной конференции, которая впоследствии получила название PKI-Форум. Этот форум сыграл значительную роль в развитии технологий и приложений с использованием PKI. В сентябре 2021 года в Санкт-Петербурге состоялась XIX международная конференция по проблематике инфраструктуры открытых ключей и электронной подписи, в работе которой приняло участие более 200 делегатов, представляющих российские и иностранные государственные органы и бизнес-структуры. Сформирован проект итоговой декларации.

Можно выделить отдельные характерные черты созданной и продолжающей развиваться инфраструктуры открытых ключей в России:

  • эта инфраструктура получила необходимые нормативно-правовые и организационно-регулятивные условия;
  • сформирован регулируемый рынок поставщиков ИБ-решений на основе СКЗИ, сочетающий деятельность уполномоченных регуляторов, общественных организаций и ежегодных конференций, а также заинтересованных коммерческих и государственных структур;
  • сфера применения решений электронной подписи является чрезвычайно обширной, следует говорить о создании массового сервиса.

Есть все основания отнести инфраструктуру открытых ключей вместе с поддерживаемыми прикладными приложениями в России к категории сложных социотехнических систем.

Трансграничное пространство доверия на основе доверенной третьей стороны (TTP)

В ноябре 2004 года на PKI-секции выставки «Охрана и безопасность» на территории Ленэкспо в Санкт-Петербурге Росинформтехнологии предложили польским участникам из компании «Unizeto Technologies S.A.» (в настоящее время компания Certum) реализовать пилотный проект по трансграничным электронным государственным закупкам с участием администрации Белгородской области на основе международного стандарта X.842. В последующие два года в рамках ФЦП «Электронная Россия» был создан макет программно-аппаратного комплекса TTP, который продемонстрировал работоспособность этой технологии не только на национальном, но и на международном уровне. Однако юридическая значимость трансграничного электронного документооборота не могла быть обеспечена в полной мере без соответствующей международной нормативно-правовой и организационно-регулятивной поддержки.

Это как раз тот случай, когда социотехническая система не может выйти на предоставление массовых сервисов без формирования соответствующих нормативно-правовых и организационно-регулятивных условий, в том числе в области стандартизации, формируемых не в национальном правовом поле, а для двусторонних или многосторонних отношений.

Работа по формированию таких условий была сначала проведена в рамках Евразийского экономического союза (ЕАЭС). Результатом стал вступивший в силу в 2015 году Договор о создании ЕАЭС, который предусматривал создание, функционирование и развитие такой новой правовой сущности, как трансграничное пространство доверия, основу которой составляет комплекс TTP. В последующем, в рамках Евразийской экономической комиссии, были разработаны и приняты протоколы, которые позволяют перейти к предоставлению массовых сервисов с использованием TTP. Однако следует отметить, что сам переход к массовым сервисам ещё не состоялся.

Важную роль в переходе к массовым сервисам с использованием TTP играет федеральный закон «Об электронной подписи» от 06.04.2011 N 63-ФЗ в котором появились введённые Федеральным законом от 27.12.2019 N 476-ФЗ:

  • статья 18.1. Доверенная третья сторона;
  • статья 18.2. Аккредитация доверенной третьей стороны.

Важная работа по внедрению приложений трансграничного электронного документооборота проводилась и в других региональных и глобальных международных форматах, таких как СНГ, БРИКС, АТЭС, Европейский союз, СЕФАКТ, ЭСКАТО, Европейская экономическая комиссия ООН, а также в двусторонних отношениях России с различными странами, в том числе с Китаем.

Особо следует отметить начатый в 2017 году проект, проводимый в рамках ЮНСИТРАЛ и нацеленный на решении масштабных задач – основываясь на общих принципах и терминологии, обеспечить единый (или по крайней мере единообразный) правовой режим для частных и публичных систем IdM (систем управления идентификационными данными), а также для широкого спектра сервисов доверия. Как было изложено в докладе доктора Игоря Фургеля на PKI-Форуме 2021 года, в рамках проекта рассматриваются такие правовые вопросы, как:

  • права и обязанности участвующих сторон (как связанных, так и не связанных договорными отношениями);
  • ответственность этих сторон;
  • надёжность сервисов, предоставляемых доверенными операторами, включая уровни их квалификации.

Кроме того, проект включает:

  • общее правило о юридическом признании систем IdM и результата, связанного с использованием сервисов доверия;
  • положения об обязательствах и ответственности поставщиков сервисов.

При этом учитывается баланс между априорным (ex-ante) назначением надёжных сервисов и определением их надёжности постфактум (ex-post), а также их соответствующие юридические последствия.

Отмечается, что при отсутствии глобально действующей международной правовой основы (например, конвенции) особенно важную роль играют трансграничные аспекты IdM и сервисов доверия.

Предыдущая сессия, на которой обсуждался проект положений, прошла в апреле 2021, следующая запланирована на ноябрь 2021. Документы можно см. на официальном сайте ЮНСИТРАЛ.

Приведённая выше информация позволяет выделить отдельные характерные черты создаваемой международной инфраструктуры цифрового доверия, в качестве одной из разновидностей социотехнических систем в контексте настоящей статьи:

  • технические решения и международные стандарты для создания такой инфраструктуры в основном имеются, они могут поддерживать широкий круг функциональных приложений;
  • создана определённая национальная (новые статьи, введенные ФЗ-476 от 27.12.2019) и региональная международная (договор о ЕАЭС) правовая основа для предоставления массовых сервисов доверия в рамках такой инфраструктуры;
  • запаздывает формирование глобальной международной институциональной основы, что отчасти объясняется громоздкой международной бюрократией и спадом глобальной экономической активности из-за пандемии коронавируса.

Тем не менее, трудности роста не мешают причислить трансграничное пространство доверия к категории социотехнических систем и сформулировать на этом примере основные признаки такого рода систем:

  • наличие специализированных технологий и решений в области национальной и/или международной информационной безопасности;
  • сформированная (или формируемая) институциональная основа национального, регионального и международного уровня;
  • предоставление (или наличие потребности в предоставлении) массовых доверенных сервисов, в том числе в трансграничном режиме.

Именно наличие таких системных компонентов, как а) нацеленность на эффективную организацию социума на основе институтов доверия, что предполагает некоторые ограничения по требованиям ИБ, а также б) наличие соответствующих доверенных технических решений, и определяет облик социотехнических систем.

Отметим ещё раз, что имеющиеся аналоги подобных систем работают только с формой представления данных, но не со смыслами, извлекаемыми из данных.

Новые вызовы и угрозы, связанные с широким применением ИИ

Глобальный тренд на всеобщую цифровую трансформацию ставит на повестку дня принципиально новые вызовы и угрозы, связанные с созданием сложных социотехнических систем, обеспечивающих не только безопасную форму представления и оборота информации, но и умеющую безопасно работать со смыслами, содержащимися в больших данных. Это – качественно новая задача. Представляется, что решать её можно по аналогии с формированием и функционирования других успешных (PKI) или ещё не завершённых (TTP) проектов, приведённых как пример в настоящей статье.

Безопасность работы со смыслами не должна отменять традиционные ИБ-технологии, созданные за последние десятилетия, а использовать их достижения для решения принципиально новых задач в рамках модели комплексной ИБ, упрощенная схема которой приведена на рисунке.

Развитие социотехнических систем: от PKI и TTP до аудита доверия к ИИ
Упрощенная модель комплексной ИБ.

При этом различные информационные системы не обязательно должны востребовать все три типа технологий ИБ. Большинство систем общего применения используют только связку логин-пароль для защиты от несанкционированного доступа, или другие иные системы идентификации и аутентификации. Представляется, что они не могут быть причислены к социотехническим системам, условия отнесения к которым были сформулированы выше, поскольку такие системы общего пользования не требуют обязательного нормативно-правового и организационно-регулятивного обеспечения.

Далее целесообразно рассмотреть ролевую модель в рамках проектирования создаваемой инфраструктуры для обеспечения ИБ-технологий, использующих ИИ (см. рисунок).

Развитие социотехнических систем: от PKI и TTP до аудита доверия к ИИ
Ролевая модель взаимодействия субъектов и объектов регулирования с использованием программно-технических средств.

Такая ролевая модель не привязана к конкретной ведомственной, корпоративной или общественной реализации. Логика предлагаемой ролевой модели основана на опыте создания и регулирования изложенных выше ИБ-инфраструктур, таких как PKI и TTP – так проще перейти к практическим шагам по формированию инновационных проектов (программ) в различных областях цифровой трансформации государства и бизнеса. При этом для каждой конкретной реализации потребуется соответствующая адаптация этой модели.

Ниже раскрываются отдельные элементы и взаимосвязи в рамках общей ролевой модели:

1. Важнейшую роль в модели играет регулятор, или совокупность регуляторов – по аналогии с PKI и TTP.

В отдельных случаях ИБ может трактоваться в широком плане, не только как безопасность технологий, но и как безопасность смыслов, что для ИИ-систем государственного масштаба может потребовать специфического регулирования. Это особенно актуально как ответ на рекомендательные сервисы цифровых платформ (не обязательно иностранных), которые не соответствуют социокультурным представлениям и нравственным ориентирам общества. Для реализации этой сложной, многоаспектной и деликатной задачи потребуется, вероятно, инновационный подход к регулированию.

Можно отметить, что роль регулятора в области обеспечения ИБ для прикладных систем с использованием ИИ (предмет регулирование здесь не просто данные, но и методы извлечения смыслов из данных) в России ещё не определены, и даже не вполне осознана необходимость создать такое регулирование.

Для корпоративных и публичных систем с использованием ИИ регулятивная ситуация будет выстраиваться в «облегчённой» версии. В большинстве случаев будет достаточно саморегулирования.

2. Регулятор (в какой бы форме ни осуществлялось регулирование) будет отвечать за работу институтов, обеспечивающих функционирование социотехнических систем любой сложности, и поддержку безопасности социотехнических систем специализированной ИБ-инфраструктурой. (Здесь снова уместна аналогия с темами PKI и TTP, как пример разработки и применения необходимых регулятору нормативно-правовых актов).

3. Важную роль играет оператор социотехнической системы, который может пониматься как юридическое лицо – собственник (владелец) системы в совокупности с категорией уполномоченных лиц, которые от имени оператора реализуют бизнес или административную логику процессов в соответствии с утвержденными (или рекомендованными) регламентами и иными положениями.

4. Необходима отдельная информационная система с условным название «ПАК Аудитор» – совокупность технических и программных средств, реализующих функции аудита доверия к ИИ. В широком плане это инфраструктура аудита доверия к прикладным системам на основе ИИ (АДИИ). Опять-таки уместна аналогия с национальной или международной инфраструктурой открытых ключей, обеспечивающих доверие к соответствующим системам электронного документооборота.

При этом отдельную прикладную системы с использованием ИИ можно упрощённо представить как обычную техническую систему, функционирующую таким образом, что на неё можно поставить набор датчиков, которые отслеживают по заданным извне алгоритмам соответствие определённым параметрам. «ПАК Аудитор» отслеживает выход параметров за установленные границы и сигнализирует об этом уполномоченным лицам оператора.

Здесь кроется едва ли не главная проблема. В обычных технических системах такой алгоритм аудита является тривиальным, но для ИИ-систем необходим будет период выработки таких контрольных параметров в отношении не данных, а смыслов.

Очевидно, что «ПАК Аудитор» должен строиться на основе платформ, использующих доверенную операционную систему и отечественную элементную базу, а также проходить процедуры сертификации (для технических решений) и аккредитации оператора. Подобного рода решения в России имеются. Они были бы обязательны только для систем общегосударственного значения. Для всех других систем возможно установить упрощённые процедуры.

В каком-то смысле «ПАК Аудитор» может рассматриваться, как «удавка» или ограничитель для ИИ-систем на случай их «абнормального поведения», которое может быть вызвано сбоями или целенаправленным воздействием извне. Возможны также инциденты, связанные и с некорректной работой уполномоченных лиц оператора. Их действия должны протоколироваться, и инциденты могут рассматриваться в комиссии по инцидентам.

5. Разработка модели угроз и нарушителя является начальным и традиционным этапом в процедурах обеспечения ИБ. Для отдельных систем может выделяться модель рисков, которая формируется ролевым собственником рисков, если он будет закупать на аутсорсинге ИКТ-сервисы и ИБ-сервисы. Так поступают, например, многие банковские структуры.

6. Выше были сформулированы признаки социотехнических систем (наличие технологий, институциональность, массовые сервисы). «Массовые сервисы» в контексте статьи – это средства анализа массивов больших данных. По мере развития такие средства могут сформировать отдельный рынок

7. Представленная универсальная ролевая модель вполне может стать основой (по крайней мере – фрагментом) целевой модели национальной цифровой экономики.

Выводы

  1. Описанная ролевая модель социотехнических систем, создаваемых с ограничениями в виде требований ИБ, является универсальной, применимой для многих предметных областей.
  2. Требования и рекомендации ИБ к таким системам должны быть гибкими в зависимости от сферы применения – государственной, корпоративной или общественной.
  3. Важнейшая проблема разработки и применения социотехнических систем – кадры. Требования к квалификации участников таких разработок сейчас высоки как никогда.

Об авторе: Алексей Домрачев, советник руководителя Научно-технического центра ФГУП «ГРЧЦ».

Следите за нашим Телеграм-каналом, чтобы не пропускать самое важное!

Поделиться:

ОСТАВЬТЕ ОТВЕТ

Пожалуйста, введите ваш комментарий!
пожалуйста, введите ваше имя здесь