Этические вопросы технологий искусственного интеллекта – как избежать судьбы Вавилонской башни

С любезного разрешения авторов D-Russia.ru публикует статью профессора Максима Фёдорова и Юрия Цветкова, вышедшую в среду на сайте для руководителей по цифровой трансформации cdo2day.ru.

Технологии искусственного интеллекта (ИИ) в современном мире являются полем активной рыночной конкуренции и нарастающего геополитического соперничества. В связи с этим вопросы возможных этических пределов «цифровизации» и «ИИ-зации» общества сейчас стоят особенно остро.

Однако одним из основных препятствий для создания общепринятых этических норм разработки и использования искусственного интеллекта является тот факт, что ИИ – область, отличающаяся высокой онтологической неопределенностью. Сегодня одновременно существует более 100 определений «искусственного интеллекта», причем некоторые из них противоречат друг другу. Причин для этого много – назовем только несколько из них.

Во-первых, сам англоязычный термин «artificial intelligence» можно толковать по-разному – и как «искусственный разум», и как «искусственные системы сбора и обработки данных», что, кстати, гораздо ближе по смыслу к изначальному значению термина, в том виде, как он был предложен на знаменитой Дартмутской конференции в 1956 году.

Вторая причина в том, что в последнее время в сферу ИИ пришло много людей с гуманитарным образованием, не привыкших оперировать предельно выверенными и безупречными с технической точки зрения формулировками.

В-третьих, это результат попыток ряда интересантов (прежде всего, из числа крупных транснациональных корпораций) «переписать» устоявшуюся регуляторную базу информационно-коммуникационных технологий (ИКТ) под предлогом введения «новых старых» определений. В частности, под некоторые из предлагаемых определений искусственного интеллекта сейчас можно подогнать практически любую ИКТ. По этой причине процесс формирования регуляторной базы ИИ и особенно выработки общих норм этики разработки и использования ИИ сейчас подвержен значительной «турбулентности». Действительно, с точки зрения технического специалиста, сложно регулировать «то, не знаю что». Таким образом, на наш взгляд, сейчас ситуация в нормативном поле ИИ напоминает строительство Вавилонской башни на его позднем этапе…

В качестве показательного примера стоит отметить тот факт, что в тексте проекта Рекомендации по этике ИИ, разработанной ЮНЕСКО, отсутствует четкое определение искусственного интеллекта под предлогом того, что «определение ИИ будет меняться с течением времени» (см п. I.2 Рекомендации).

В ООН и в других международных организациях, например, в Совете Европы, сейчас ведется активная работа по созданию международной нормативной базы по этике ИИ, однако доминирующее мнение пока не сформировалось. На практике же крупные международные IТ-компании лоббируют сохранение текущего status quo или принятие международными организациями минимально возможных ограничений. Их цель проста: не допустить демонополизации рынка и роста конкуренции, а также появления легальных барьеров, позволяющих ограничить пока еще относительно свободный доступ на национальные цифровые и ИИ-рынки.

С другой стороны, некоторые инициативы ООН (в том числе ЮНЕСКО) по международному регулированию соблюдения этических норм в сфере ИИ порой явно опережают события и не учитывают должным образом разный технологический потенциал стран. Так, в тексте вышеупомянутого проекта Рекомендации по этике ИИ прямым текстом содержатся указания на создание некой общемировой цифровой платформы по мониторингу этического использования и разработки ИИ-технологий с обязательным предоставлением данных от всех государств-членов ЮНЕСКО.

Как представляется, вопросы ИИ в ряде международных организаций стремительно политизируются, опережая при этом развитие технологической базы многих стран мира, что с точки зрения технических специалистов выглядит довольно странно. Действительно, по своей сути, современные технологии ИИ не представляют из себя ничего сверхъестественного. В упрощенном виде современный искусственный интеллект (часто называемый «слабый ИИ») можно охарактеризовать как область ИКТ, которая является стеком технологий сбора, хранения и обработки больших массивов данных, к которым добавляются специальные вычислительные архитектуры, алгоритмы машинного обучения и поддерживающие технологии (например, Интернет вещей). Таким образом, с технической точки зрения, бóльшая часть устоявшейся нормативной базы ИКТ вполне применима для регулирования ИИ, в том числе и большинства связанных с ним этических аспектов.

Безусловно, появился ряд новых важных вопросов, связанных с глобальностью охвата, быстрой скоростью обработки данных, фейковыми новостями, активным использованием чатботов и пр., но они могут быть успешно решены шаг за шагом и без лишней спешки.

Остается еще так называемый сильный ИИ (эквивалент «искусственного разума»), но он пока обитает только в научно-фантастических произведениях, так что регулировать тут на сегодняшний день нечего. Здесь уместно разве что сослаться на классиков научной фантастики, таких как Станислав Лем и Айзек Азимов, которые еще в прошлом веке подробно разобрали в своих произведениях многие этические вопросы, связанные как с «сильным», так и со «слабым» ИИ.

На этом фоне вызывают определенные опасения такие тренды, как, например, навязывание рядом международных организаций определенных шаблонов и методик по задействованию возможностей ИИ-систем в образовании, искусстве и культуре. В качестве иллюстрации достаточно упомянуть настойчивые призывы международных чиновников привлекать технологии ИИ к созданию творческого контента или внедрять их в процесс обучения работников сферы образования.

К сожалению, мало кто на международном уровне акцентирует внимание на необходимости соблюдения человекоцентричного подхода к регулированию ИИ. Казалось бы, чего уж проще – зафиксировать во всевозможных документах тезис о том, что человек имеет право на любом этапе разработки, внедрения или применения ИИ отменять или запрещать любые действия или решения, принимаемые ИИ. При этом за государством остается приоритет в обеспечении своих граждан таким правом.

Кроме того, нетрудно отметить в соответствующих документах и важность баланса между развитием новейших технологий и защитой общечеловеческих ценностей и в целом понятия «человечность» (в которое входят конфиденциальность, эмоции, спонтанность, интуиция, духовность и т.д.). Однако в комплексном виде этого не происходит, поскольку в угоду политической конъюнктуре и новомодным веяниям «выдергиваются» лишь отдельные права, не посягать на которые ИИ будет обязан (та же пресловутая гендерная проблематика, хотя с технической точки зрения ИИ не имеет половой принадлежности и сама постановка вопроса лишена смысла).

Помимо прав человека, весьма острые дискуссии ведутся по вопросам создания новой или модернизации существующей международной платформы (например, Форум ООН по управлению Интернетом) по выработке общемировой ИИ-регуляторики. Активно обсуждается вопрос о создании некоего международного «супервайзера» по искусственному интеллекту, аккумулирующего и анализирующего информацию, поступающую от стран-членов ООН/ЮНЕСКО, а также осуществляющего надзорные функции в сфере соблюдения «режима применения ИИ» в мире (своего рода аналог ОЗХО или МАГАТЭ).

Многие государства, включая Россию, придерживаются незыблемости фундаментального права выбора, сохраняющего за ними возможность «идти своим путем». Особенно это актуально для развивающихся стран, не готовых в настоящее время поддерживать в своей среде высокие технологические стандарты и требования к ИИ-системам. При этом вполне допускается выход на некие глобальные договоренности, не посягающие на цифровой суверенитет стран.

Насколько актуальным является для России следование новомодным мировым тенденциям по обособлению тематики ИИ в самостоятельное направление с созданием соответствующей регулятивной базы, в том числе и по этике ИИ?

Вопрос, несомненно, актуальный, и не зря руководство России уделяет ему большое внимание. Свое отражение эта тема нашла как в национальной стратегии ИИ, так и в федеральном проекте по искусственному интеллекту национальной программы «Цифровая экономика». Стоит также отметить, что в 2020 году в России создан Национальный Комитет по этике искусственного интеллекта при Комиссии Российской Федерации по делам ЮНЕСКО.

Сейчас главное для России в этой области – сформировать и предложить мировому сообществу методически грамотный, консолидированный междисциплинарный подход к регулированию интеллектуальных систем на основе искусственного интеллекта. У России есть уникальный культурный, исторический, философский, методологическиий и научный задел в этом направлении, который можно развивать высокими темпами благодаря поддержке со стороны ФП по ИИ. Кроме того, Россия сейчас, по сути, единственная страна, которая систематически подчеркивает на всех уровнях необходимость научного подхода к выработке международной и национальной регуляторики ИИ.

Однако эту задачу возможно решить только за счет скоординированных усилий представителей государства, инженеров-технологов, юристов, ученых в области математики, физики, информатики, философии, социальной психологии, медицины, других специалистов на стыке наук, включая исследователей в области природоподобных и НБИК-технологий (НБИК-технологии — синергетический комплекс нано-, био-, информационных и когнитивных технологий).

Об авторах

Максим Фёдоров – профессор, директор Центра по научным и инженерным вычислительным технологиям для задач с большими массивами данных Сколтеха.

В 1998 году окончил Воронежский государственный университет, где работал в ВГУ до конца 1999 года инженером, после чего поступил в аспирантуру ИТЭБ РАН (Пущинский Научный Центр). Там в 2002 году защитил кандидатскую диссертацию. Позднее вёл исследования и преподавал в ведущих отечественных (ИТЭБ РАН, НИЦ «Курчатовский Институт») и зарубежных (Дублинский Университет, Кембриджский Университет, Институт Макса Планка) научных и образовательных организациях.

В бытность в Кембридже (2005-2008) защитил (2007) докторскую диссертацию в ИХР РАН. После Кембриджа перешёл на работу в Институт математических приложений в естественных науках Общества Макса Планка (Max Planck Institute for Mathematics in the Science) в Лейпциге, где до 2011 года заведовал лабораторией (Group Leader on Associate Professor level).

С января 2010 по конец 2011 года преподавал (Privat-Dozent в University of Duisburg-Essen) в университете Эссена. С октября 2011 года — полный профессор (заведующий кафедрой) в Университете Стратклайд в Глазго, Великобритания (University of Strathclyde, Glasgow, UK). C января 2012 года по 2016 год – директор суперкомпьютерного центра Западной Шотландии (Director of the West of Scotland Academia-Industry Supercomputer Centre), расположенного в Глазго.

С начала 2016 года основное место работы — Сколковский институт науки и технологий, директор центра науки, инноваций и образования по научным и инженерным вычислительным технологиям для задач с большими массивами данных. Руководит магистерской и аспирантской программами в Сколтехе по наукам о данных, математическому моделированию, вычислительным технологиям и машинному обучению. В 2017 году выбран председателем образовательного комитета Сколковского института науки и технологий.

Член экспертной группы ЮНЕСКО по выработке рекомендаций этических принципов разработки и использования искусственного интеллекта.

Источник

Юрий Цветков – российский дипломат, в системе министерства иностранных дел Российской Федерации с июля 2008 по май 2020.

В 2007 году с отличием окончил юридический факультет Российского государственного гуманитарного университета (РГГУ), Москва. Аспирант кафедры международного права РГГУ (2007-2008).

В 2013 году получил степень бакалавра по экономике в Институте экономики и управления – ЭКОМЕН (Majanduse ja Juhtimise Instituut – ECOMEN), Таллин.

На должности первого секретаря департамента информации и печати МИД (2019-2020) занимался, в частности, информационной проблематикой (манипуляция информацией в цифровой среде, управление Интернетом, регулирование искусственного интеллекта) на площадках ведущих международных организаций.

До этого работал секретарём посольств России в Республике Намибия и Эстонии, секретарём департамента общеевропейского сотрудничества МИД России.

Имеет дипломатический ранг 1 секретаря II класса.

Следите за нашим Телеграм-каналом, чтобы не пропускать самое важное!

Поделиться:

ОСТАВЬТЕ ОТВЕТ

Пожалуйста, введите ваш комментарий!
пожалуйста, введите ваше имя здесь