Popeline

1084

В субботу римско-католическая церковь, Microsoft, IBM, FAO (продовольственная и сельскохозяйственная организация ООН) и правительство Италии подписали документ «Rome Call for AI Ethics» (Римский призыв к этике ИИ).

«Нам нужны люди, способные сделать работу, чтобы закрыть разделяющие нас пробелы [в представлениях о том, как использовать ИИ на благо людям] – с мыслью об этом я смотрю на католическую церковь, на компании, подобные Microsoft, и говорю: а почему бы и нет?», — цитирует Би-Би-Си папу Франциска.

Rome Call for AI Ethics состоит, условно, из двух частей (идущих не в последовательности друг за другом, а присутствующих в тексте одновременно, и тем не менее явно разделяющихся по смыслу): «декларативной» и «технологической».

Декларативная часть базируется на всемирной декларации прав человека – документ изобилует отсылками к ней. ИИ «вызывает глубокие изменения в жизни людей», и не факт, что это изменения к лучшему, поскольку «высок риск воздействия на права человека». В качестве примера такого воздействия приводится распознавание лиц. Точно так же декларируется необходимость защиты иных фундаментальных прав человека от высокотехнологичных посягательств.

Технологическая составляющая присутствует лишь формально. Авторы документа не дают забыть, что ведут речь об ИИ, и употребляют этот термин на каждой странице. Однако ИИ в тексте вышел абстрактной «инновационной технологией». Связь этой технологии с декларативными заявлениями о правах человека не прослеживается, она лишь объявляется существующей. Для добрых католиков, кто мало знает об ИИ как технологии (не знает, например, что принципиальная особенность ИИ-систем состоит не только и даже не столько в их алгоритмической конструкции, сколько в данных, на которых нейросеть проходит обучение), римский призыв останется сводом добрых пожеланий. Замени в документе «ИИ» на «паровой двигатель» и перенеси его в Англию конца XVIII века – римский призыв и там не потеряется, будет вполне актуален. Однако появления работных домов не предотвратит, как не предотвращает сегодня использование ИИ в военных целях.

Авторы, собственно, сами в этом признаются, заключая перечень предлагаемых ими принципов этичного применения ИИ словами «эти принципы имеют фундаментальное значение для любых хороших инноваций» (These principles are fundamental elements of good innovation).

Упомянутые принципы – главное, что есть в римском призыве. Их шесть:

  • прозрачность – человек должен понимать, как работает ИИ-система, её действия должны быть объяснимы;
  • инклюзивность: ИИ обязан быть полезным для всех без людей без изъятия;
  • ответственность: разработчики ИИ-систем должны понимать меру своей ответственности перед другими людьми;
  • беспристрастность: ИИ-системам запрещена любая предвзятость по отношению к людям;
  • надёжность (раз уж важные задачи доверяют ИИ-системам, они не должны ломаться);
  • безопасность и конфиденциальность: ИИ-системы должны уважать конфиденциальность пользователей.

Принципа «при любых обстоятельствах человек важнее ИИ», который в российской национальной стратегии развития ИИ имеет основополагающее значение, в римском призыве нет.

Нет там и откровений, которых и разработчики ИИ-систем, и далёкий от IT обыватель вправе ждать от римско-католической церкви – старейшего института, возникшего и существующего благодаря христианской этике. Читатель вправе был ждать отсылок не только к декларации прав человека, но и к священному писанию. Но нет.

Не вполне ясно, зачем эта история потребовалась папе. Почему он взял в компаньоны только Microsoft и IBM? Почему римский призыв написан без светских учёных – они что, хуже Microsoft разбираются в философии? Фактически официальное признание равноправия транснациональных компаний и государств (Италия и Ватикан + IBM и Microsoft) по отношению к соблюдению прав человека – разве это нормально? Если так пойдёт, жалобы на нарушение прав придётся подавать не в полицию, а программистам.

Зато понятно, зачем это нужно Microsoft и IBM. Технологические компании, решением этических проблем никогда не занимавшиеся, теперь если не получили благословение, то, во всяком случае, продемонстрировали миру, что главный на планете носитель христианских воззрений с ними солидарен. Полезно для бизнеса.

Мнение автора может не совпадать с позицией редакции

Следите за нашим Телеграм-каналом, чтобы не пропускать самое важное!

Поделиться: