Что ждать от стратегии развития искусственного интеллекта в РФ: критический взгляд

Президент поручил к 30 июня разработать национальную стратегию развития технологий в области искусственного интеллекта (ИИ). Документ определит задачи страны относительно важной технологии, в развитии которой России нельзя отстать от геополитических контрагентов.

Риски, связанные с технологиями ИИ, известны: этические проблемы, потенциальные катаклизмы на рынке рабочей силы, потеря контроля над ИИ-системами и пр. Однако сейчас, на заключительном этапе разработки стратегии, главный риск, связанный с ИИ, состоит в потенциальных ошибках при определении принципов развития технологий ИИ и целей, которые должны быть достигнуты.

Одна из таких целей очевидна: не проиграть технологическую гонку, не попасть в зависимое положение, подобное тому, в которое Россия попала в сфере IT из-за отсутствия собственного стека информационных технологий.

Определение ИИ

Термин «искусственный интеллект» долгое время использовался для обозначения IT-систем, решающих задачи, которые до поры считались доступными только человеку. По мере решения таких задач компьютерами содержание понятия «ИИ» менялось. Это хорошо иллюстрируют слова Михаила Донского, чья «Каисса» в 1974 году выиграла первый чемпионат мира по шахматам среди компьютерных программ: «Шахматное программирование перестало быть искусственным интеллектом, как только компьютер обыграл человека».

В настоящее время, однако, смысл термина «ИИ» стабилизировался. Если укладывать его в одно слово, этим словом будет «нейросеть». ИИ сегодня – это построенные на «обученных» нейросетях (для обучения нужны массивы заранее накопленных данных) неалгоритмические IT-системы, демонстрирующие способность к принятию решений, которые ведут к достижению поставленной цели в сложной, не до конца формализованной предварительным описанием обстановке.

В стратегии развития искусственного интеллекта понятие «ИИ» должно быть определено, разумеется, яснее. Велик соблазн дать более конкретное определение через прикладные задачи, решаемые ИИ-системами: беспилотное вождение автомобилей по дорогам общего пользования, идентификация человека по антропологическим признакам и изображению лица, ранняя диагностика тяжёлых болезней и т.п., однако это обеднит документ, ограничит стратегию развития ИИ в России перечнем задач, который наверняка окажется неполон.

Другая крайность – сказать «ИИ – это IT-системы, способные вычленять из данных информацию подобно тому, как это делает человек». Да, это верное определение, но оно начисто лишено как новизны (именно так ИИ и понимали на протяжении более чем полувека), так и конструктивности, зато таит опасность развернуть исследования ИИ в сторону поиска ответа на бессмысленный для инженера вопрос о том, как работает человеческий мозг.

Интересно посмотреть, как разработчики стратегии справятся с задачей определения ИИ. Хотелось бы, чтобы они избежали определения ИИ через прикладные задачи. ИИ – универсальная технология, в этом качестве её и надо развивать. А какие задачи с помощью этой технологии придётся решать, сказать заранее сложно, если не невозможно.

Иностранный и международный опыт

Интуитивно понятно, что технологии ИИ необычны, с таким человечество ещё не сталкивалось. Главная особенность в том, что ИИ-системы невозможно эффективно контролировать – даже создатель нейросети не знает, как именно она работает после обучения. ИИ-системы, бывает, приносят разочарования своим создателям – например, тщательно разработанная (и весьма дорогостоящая) IBM Watson, ИИ-система, рассчитанная на применение в медицинской диагностике, как помощник практикующих врачей не прижилась.

В настоящее время в странах, развивающих ИИ-технологии, идёт активное осмысление перспектив и рисков использования ИИ-систем. Уже существуют принятые на международном уровне рекомендации.

В февральской конференции высокого уровня Совета Европы под названием «Governing the Game Changer», посвящённой влиянию ИИ-систем на «права человека, демократию и верховенство права», участвовали представители 47 стран. Изучение материалов конференции приводят к выводу, что де факто в Европе ИИ-системами считается всё, что действует «как человек» и способно заменить человека на рабочем месте – например, в таких областях, как правосудие, бухгалтерия, управление транспортом и др.

Должны быть, полагают в Совете Европы, созданы эффективные надзорные механизмы и демократические контрольные (наблюдательные) структуры по вопросам проектирования, разработки и внедрения ИИ. «Демократические процессы должны предполагать существование независимой, информированной общественности, а также поощрять открытые и инклюзивные дискуссии», «права человека являются основной ценностью демократических обществ, их защита и распространение требует активного участия всех заинтересованных сторон, уделяя при этом особое внимание потребностям уязвимых групп, которые могут столкнуться с маргинализацией», — таковы, в частности, положения итогового документа Governing the Game Changer.

В апреле в Пекине состоялась ещё одна конференция, International Conference on Artificial Intelligence and Education. Её итоговый документ (русский перевод) содержит забавные пункты о «признании отличий человеческого интеллекта» [от ИИ] и «необходимости изучения [несмотря на пришествие ИИ] базовых навыков, таких, как грамотность и счёт». Важным представляется положение о невозможности заменить учителя ИИ-системой.

Как и ранее в Хельсинки, пекинская конференция констатировала необходимость контроля ИИ-систем человеком. Этот принцип создания и применения ИИ-систем стал общепризнанным.

В мае Организация экономического сотрудничества и развития (Россия членом этой организации не является) приняла «новые принципы искусственного интеллекта ОЭСР». Рекомендации ОЭСР унифицируют по американскому образцу правила регулирования национальных экономик стран-участников, и не только участников. Так, под «новыми принципами искусственного интеллекта ОЭСР» подписались, в частности, Бразилия и Румыния, в ОЭСР не входящие. В «новых принципах ИИ» от ОЭСР констатируется «необходимость стабильной политической среды, способствующей ориентированному на гуманизм подходу к ИИ», причём правительствам рекомендовано «выполнять рекомендации ОЭСР … в их национальной политике и в международном сотрудничестве».

США, Китай, ЕС – различие стратегий в отношении ИИ

Безусловным мировым лидером в глобальной IT-индустрии вообще и технологиях ИИ в частности остаются США. Только у этой страны есть полный набор («стек», на профессиональном жаргоне) технологий, от разработки и производства процессоров до обработки больших данных (примеры – упомянутая ИИ-система IBM Watson, разведывательная система Palantir, промышленно применимые ИИ-технологии Google, Microsoft и др. компаний).

Стратегия США в отношении ИИ состоит в сохранении технологического лидерства, о чём прямо сказано в опубликованной менее года назад «Национальной киберстратегии США». Практика, как показывают действия американского правительства против Huawei, такова: США готовы для достижения этой цели действовать любыми средствами, в том числе грубой силой.

Китай идёт вторым и быстро сокращает разрыв со США. Развитие технологий ИИ для КНР вытекает из общей национальной задачи – как можно быстрее вернуть стране положение, которое она занимала бо́льшую часть своей истории (а Китай бо́льшую часть своей истории был технологическим лидером). Ради этого в КНР тоже готовы использовать любые доступные средства.

Китайские компании не чувствуют себя стеснёнными этическими ограничениями по европейскому образцу, они не стесняются в средствах доступа к большим данным, которые представляют ключевой ресурс для создания эффективных ИИ-систем. Чтобы убедиться в этом, достаточно прочесть пользовательские соглашения о сервисах для владельцев мобильных устройств упомянутой Huawei – хранение персональных данных (например, из фитнес-приложений) на территории КНР, пусть и в обобщённом виде, там прямо указывается. Государство компаниям в сборе данных как внутри страны, так и за её пределами, как минимум не препятствует.

Располагающий неисчерпаемыми человеческими ресурсами Китай активно и массово готовит математиков и программистов высшей квалификации – на чемпионатах мира по спортивному программированию среди студенческих команд (ICPC) китайцы последние годы заслуженно считаются фаворитами, они почти на равных соревнуются командами из России. Дело ещё и в том, что в не-китайских командах на ICPC очень много студентов из Китая – это бросается в глаза.

Европейский подход существенно отличается от ИИ-стратегий в КНР и США, которые стремятся прежде всего к развитию технологий. Благополучную Европу, привыкшую к жизни по веками отработанным правилам, более всего заботит сохранение статус-кво в обстановке, быстро меняющейся под давлением новых технологий. «Жить по-старому в новых условиях» – негласный девиз ЕС. Подтверждают это не только материалы и впечатления участников упомянутой выше конференции в Хельсинки, но и то, что государственное финансирование ИИ-исследований в ЕС значительно уступает финансированию в США и Китае.

Какая ИИ-стратегия нужна России

Такая, которая, как уже было сказано, позволит не проиграть ИИ-гонку США, КНР и ЕС. При этом принципиально важно понимать, что технологическая гонка не означает изоляцию – в отдельно взятой стране невозможно построить промышленно применимые ИИ-системы. Если национальная стратегия ИИ хотя бы намёком обозначит такую возможность, это будет означать саботаж.

В стратегии развития ИИ в России должен быть описан результат, к которому идёт страна, инвестируя по дороге огромные суммы бюджетных, т.е. народных, денег. Если только, не дай бог, стратегия развития ИИ в качестве результатов зафиксирует характерные словеса вроде «Процент заводов, использующих ИИ-системы для выпуска продукции – N», «Средний индекс Хирша для изданных в России научных работ, посвящённых ИИ, не ниже – M» и пр. в этом роде, можно будет с уверенностью считать, что попытка создать в России собственные ИИ-системы провалилась. Она не даст ничего, кроме более или менее бессмысленной траты упомянутых уже народных денег и возможности для ответственных товарищей безболезненно отчитаться за «исполнение» планов.

Опасность подобного – псевдостратегического – мышления хорошо видна в сравнении с космическими программами. Нельзя представить критерием успеха индекс цитирования или количество печатных трудов конструкторов, а не успешный полёт космического аппарата. В истории с «Бураном» вообще имела место обратная ситуация: когда ведущим конструкторам по итогам проекта в обход установленной процедуры (которая предполагает публикацию научных результатов) присвоили учёные степени, это вызвало протесты в академическом сообществе.

Результат исполнения стратегии должен быть описан совсем иначе – ясно и в содержательных терминах. Например, результатом может быть создание стека технологий ИИ, с достаточно подробным объяснением того, что в него должно войти.

Уместно вспомнить, что в мае по итогам совещания, посвящённого ИИ, президент РФ в связи с приоритетами национальной стратегии развития ИИ прежде всего сказал, что «Россия должна стать одной из ключевых площадок для решения сложнейших научных задач с участием учёных со всего мира», и что «эта работа может идти и в рамках международных математических центров», которые будут открыты в Москве, Санкт-Петербурге и Сочи.

Кроме этих будущих центров в стране есть действующие Федеральные исследовательские центры. Их участие если не в разработке, то как минимум в экспертизе «нижних» – связанных с фундаментальными исследованиями – слоёв технологического стека, очевидно, обязательно.

Наконец, стратегия развития ИИ-технологий должна конструктивно указывать национальные преимущества России и объяснять, как их надлежит использовать и усиливать, а также чем и как следует парировать наши национальные слабости – с полным перечислением и тех, и других.

От стратегии также требуется специальное внимание к умелому регулированию инновационных компаний как условию создания в России эффективных ИИ-систем, поскольку, скорее всего, реализация стратегии потребует иной, инновационной нормативной базы для развития ИИ.

Этические вопросы развития технологий ИИ, уже хорошо проработанные и признанные десятками стран, в российской стратегии развития ИИ также обязательны.

О национальных данных

Защиту данных как национального достояния следует прямо объявить условием реализации стратегии развития ИИ. Речь не только о ПД (хотя и о ПД, разумеется, тоже). Не менее, а то и более важны данные, порождаемые реальной экономической деятельностью. С появлением IoT появится и новый источник огромной массы ценных сведений, на которых можно обучить множество ИИ-систем решению множества задач.

За эти сведения предстоит борьба с другими государствами. Лучший способ её выиграть – соблюдать внутренние законы и международные обязательства России в этой области, а также принцип «доступ к данным граждан и компаний РФ возможен только на территории страны». Независимо от того, насколько этот результат достижим, стремление к нему принципиально, оно прямо связано с реализацией стратегии. Пример: многие данные системы государственной статистики и в доцифровые времена открыто не публиковались, были секретными, и понятно, почему. Времена изменились: большие данные, дающие при правильной обработке богатейший, недостижимый прежде статистический материал, не засекретишь, всё, что тут можно и следует сделать – наладить контроль доступа к национальным данным.

О главном

Осталось заметить в заключение, что всё, о чём сказано выше – стек технологий ИИ, а ещё кадры специалистов, просвещение и переквалификация граждан, чьи профессии модифицируются ИИ, контроль над обученными нейросетями, защита национальных данных и пр. – задачи промежуточные. Основная цель развития ИИ для России – это, очевидно, не мировое технологическое господство. Нам нужна обеспечивающая в обозримом будущем национальную безопасность технологическая независимость, место в международном разделении высокотехнологичного труда и, главное, рост эффективности. Производительности труда, если ещё точнее, и вместе с ней – благосостояния граждан.

ВАШ КОММЕНТАРИЙ:

Please enter your comment!
Please enter your name here