Роботы и юриспруденция – что России взять из международного опыта

Эксперты тематической рабочей группы «Киберфизические системы» центра компетенций и рабочей группы по нормативному регулированию при АНО «Цифровая экономика» рассмотрели подходы к развитию регулирования более чем в 50 странах мира, современную правовую проблематику в сфере производства и использования роботов, ответственности их создателей, безопасности соответствующих систем и технологий и организации государственного управления для стимулирования развития и распространения соответствующих технологических решений.

Итоги исследования в области развития законодательства о робототехнике и киберфизических системах (КФС) были одобрены на прошлой неделе, сообщили D-Russia.ru в АНО «ЦЭ».

Как следует из материалов исследования, первоначальное регулирование использования роботов и искусственного интеллекта (ИИ) существует уже в десятках стран мира. Большинство действующих правовых актов направлены на создание максимально благоприятных условий для инноваций и исследований. Существуют примеры общих норм и точечного регулирования конкретных типов роботов (например, беспилотный транспорт).

Эксперты делают вывод, что Россия не может напрямую заимствовать существующие правовые решения конкретных проблем или копировать нормы права других государств. Конкретные регуляторные правила требуется выработать с учетом особенностей национальной правовой системы. Однако Россия может заимствовать существующий позитивный опыт разработки и реализации инструментов поддержки и развития робототехники.

Сфера и предмет регулирования

Наиболее актуальной в краткосрочной перспективе (до одного года) является разработка следующих нормативных актов:

  • Стратегия развития робототехники и технологий ИИ.
  • Федеральный закон с основами законодательства о робототехнике и технологиях ИИ.
  • Нормативные акты, направленные на регулирование
  • сферы высокоавтоматизированного колесного
  • транспорта, а также БЛА.

Во всех случаях разработки НПА приоритетом должен стать баланс между скоростью технологического развития и безопасностью новой техники.

Ключевая цель принятия любых НПА в этой сфере в ближайшие пять лет – не затормозить, а способствовать развитию индустрии, говорится в исследовании.

Терминология и классификация

Авторы работы отмечают, что в российском законодательстве существует отраслевое определение термина «робот» (ГОСТ), однако оно не универсально. Применительно к конкретной сфере понятие «робот» может потребовать уточнения. Также в документе подчёркивается важность разделения роботов на обычных и «умных» (отличительный критерий «умных» роботов – способность к самообучению); предлагается выделение категории «роботы повышенной опасности».

В исследовании идентифицированы основные группы участников отношений в связи с использованием роботов и ИИ, а также предложена их классификация. Для каждой группы обозначены общие и специальные права и обязанности.

Субъекты робоправа
  • Исследователь
  • Разработчик
  • Лицо, осуществляющее финансирование исследований и разработок
  • Производитель (КФС в целом и отдельных их компонентов в частности)
  • Собственник
  • Владелец
  • Оператор
  • Уполномоченный орган государственной власти
  • Пользователь
  • Иные лица, взаимодействующие с роботами и КФС

Основной состав прав и обязанностей субъектов предлагается закрепить на уровне основ законодательства.

Предлагается использовать существующий позитивный иностранный опыт правового регулирования отдельных групп субъектов. Например:

  • установление особого [налогового] режима для лиц, финансирующих исследования и разработки в сфере робототехники и ИИ (Корея);
  • закрепление обязанности за операторами обязанность хранить и предоставлять определённую информацию о деятельности некоторых видов роботов (Германия, Эстония).

В исследовании констатируется существование по меньшей мере пяти самостоятельных теоретико-правовых подходов к решению в связи с робототехникой вопроса о правосубъектности, каждый их которых имеет свои преимущества и недостатки:

  1. Status Quo: роботы и ИИ продолжают рассматриваться как объекты права
  2. Концепция «робот как животное»
  3. Концепция «робот как юридическое лицо»
  4. Концепция «робот как человек»
  5. Концепция «робот как электронное лицо (агент)» (новый вид субъекта права).

Изменение законодательства в сторону признания роботов и систем ИИ субъектами права представляется гипотетически возможным, однако вероятнее всего только в перспективе от пяти лет.

Принципы регулирования

Предлагается ввести режим дифференцированного регулирования, учитывающего степень общественной опасности конкретного вида роботов, посредством установления универсального и специального правового режима, что позволит избежать избыточного регулирования, надеются авторы исследования.

Универсальные принципы (применимы ко всем типам роботов):

  • принцип безопасности и приоритета безопасности роботов;
  • принцип информированность об опасности (или безопасности) роботов;
  • принцип конструктивная безопасность;
  • принцип проектируемой конфиденциальности;
  • принцип осуществления контроля робота со стороны человека;
  • принцип запрет на причинение вреда по инициативе роботов.
Законы робототехники Айзека Азимова

Термин «робот» ввёл в обиход, как известно, Карел Чапек. Во второй половине прошлого века Айзек Азимов разработал тему подробнее других. Азимов, в частности, сформулировал три правила, которым обязан подчиняться робот (законы робототехники):

  1. Робот не может причинить вред человеку действием или бездействием.
  2. Робот должен повиноваться человеку, если это не противоречит закону №1.
  3. Робот должен заботиться о своей безопасности, если это не противоречит законам №1 и №2.

Азимов, как видим, идеализировал людей – как только позволило технологическое развитие, они приступили к разработке военных роботов.

Специальные принципы предлагается комбинировать для создания особых правовых режимов отдельных видов роботов. Так, для роботов повышенной общественной опасности может быть целесообразно обязательное применение дополнительных правил (черный ящик, красная кнопка, отмена действия, переход в аварийный режим и др.). Безусловно необходим контроль над рекурсивным самосовершенствованием (читай: самообучением) роботов.

В отношении многих видов роботов существует фрагментарное регулирование. Оно в подавляющем большинстве случаев не учитывает специфику конкретного вида робота.

Рекомендуется принятие законодательства, регулирующего отдельные виды роботов, прежде всего, высокоавтоматизированного колёсного транспорта (в краткосрочной перспективе). В среднесрочной перспективе может потребоваться регулирование таких типов роботов, как медицинские роботы, роботы-курьеры, роботы для ухода за пожилыми людьми, боевые роботы. Рекомендуется избегать избыточного регулирования, чтобы не создавать необоснованных препятствий в развитии робототехники.

Проблема ответственности

В ближайшей перспективе роботы сами по себе не могут нести ответственность за причиненный вред. Предлагается исходить из того, что за каждым действием робота стоит человек.

Результаты анализа различных подходов к решению проблемы ответственности обобщены в виде «шкалы ответственности». В России применяется смешанный режим, когда в определённых случаях ответственность будет являться безвиновной (потребительские отношения), а в других случаях – в зависимости от степени вины.

В краткосрочной перспективе рекомендуется инициировать обсуждение доработки действующей системы страхования в связи с развитием роботов с участием представителей страховых организаций и отраслевых компаний.

Персональные данные

Выявлен ряд намечающихся юридических проблем в сфере использования ПД и связанных с развитием КФС. Сформулирован ряд общих рекомендаций для дальнейшего развития законодательства. Рекомендации, однако, предполагают проведение более серьёзного междисциплинарного исследования, выходящего в том числе за рамки робототехники, отмечают авторы исследования.

Рекомендации

Адаптировать информационное законодательство, включая терминологию и правовые нормы, ориентированные на информационные ресурсы в Интернете «классического этапа». Это позволит избежать коллизий, вызванных наличием информационной составляющей КФС и формально-юридической применимости к ним норм, не полностью предназначенных для этого.

Разработать концепцию гармонизации практики построения КФС с действующим законодательством в области ПД, а также защиты иных видов конфиденциальной информации как в России, так и за рубежом, с учетом возможности экстерриториального применения законодательства (концепция «privacy by design» для роботов).

Обработка и сбор ПД роботами и КФС должны осуществляться на основе действующих принципов (прозрачность, законность и др.). Робот может обрабатывать и собирать ПД в той же степени и в том же порядке, в каком правопорядок допускает это для его владельца.

Для КФС могло бы иметь особую актуальность право на переносимость данных (right to data portability), закреплённое в новых правилах обработки данных ЕС (GDPR).

КФС может быть представлена единой сетью различных устройств, которые обмениваются данными пользователей. Возможность для пользователей давать согласие на такой обмен позволит избежать многократного получения повторных согласий. Авторы отчёта утверждают также, будто такое решение позволит «повысить контролируемость данных пользователями».

Содействие развитию КФС

Рекомендуется создание единого федерального Центра развития робототехники. Целесообразно использовать позитивный опыт работы аналогичных институтов (KIRIA в Кореи, RRI в Японии).

Возможные функции Центра развития робототехники:

  • сбор статистических данных о российском рынке робототехники совместно с отраслевыми ассоциациями;
  • исследование рынков, ведение открытой базы российских компаний и робототехнических продуктов;
  • организация мероприятий в области робототехники, в том числе международных
  • развитие международного сотрудничества, в том числе в области науки и экспорта российских продуктов;
  • создание условий кооперации между научными организациями, разработчиками, производителями и интеграторами для проведения НИОКР и разработки продуктов, отвечающих на запросы заказчиков;
  • курирование территорий тестирования и демонстрации, реализации пилотных проектов;
  • курирование вопросов подготовки кадров в соответствии с потребностями бизнеса, обновление образовательных стандартов;
  • популяризация робототехники, распространение информации о лучших практиках использования роботов.

Механизмы государственного контроля

По результатам анализа констатировано отсутствие специальных механизмов государственного контроля в сфере робототехники и ИИ.

Для эффективного выстраивания и функционирования системы государственного контроля за различными видами роботов рекомендуется создание специализированного государственного органа в сфере робототехнике и ИИ.

Система регистрации и учёта может быть актуальной для некоторых видов КФС: беспилотные летательные аппараты, роботы-курьеры, отдельные медицинские роботы, умные роботы. Разработка рекомендуется в среднесрочной перспективе (от одного года).

Система лицензирования может применяться для тестирования отдельных видов роботов, что уже осуществляется в ряде стран мира применительно к беспилотным автомобилям.

Внедрение отдельных элементов национального режима для создания льготных условий отечественной индустрии может быть определено в стратегии развития отрасли, говорится в документе.

Защита рабочих мест от роботов

В настоящий момент отсутствуют исследования, убедительно обосновывающие эффективность конкретной меры социальной защиты населения от роботизации. Вместе с тем сделан вывод о том, что введение «налога на роботов» является крайне опасной мерой, которая может иметь фатальное последствие для индустрии. Аналогичным образом не рекомендуется рассматривать в качестве такой меры выплату безусловного базового дохода.

К потенциально эффективным мерам относятся изменения в образовательных и профессиональных учебных программах для представителей индустрии, а также развитие институтов страхования ответственности за вред, причиненный КФС.

Необходимо создание системы регулярного мониторинга занятости в робототехнической отрасли и смежных отраслях, где роботы применяются. Эта система может администрироваться федеральным Центром развития робототехники и/или уполномоченным федеральным органом, считают эксперты.

Для отрасли необходим комплексный документ стратегического планирования, аналоги которого уже приняты в большинстве развитых стран мира. Само регулирование данной сферы должно быть прикладным и ориентированным на существующие сейчас точечные проблемы и не создавать новых барьеров для развития.Виктор Наумов, член рабочей группы по нормативному регулированию при АНО «Цифровая экономика», руководивший исследованием

ВАШ КОММЕНТАРИЙ:

Please enter your comment!
Please enter your name here

9 + 1 =