Палата британских лордов начала регулирование ИИ с публикации пяти этических принципов

527

Скандал с утечкой данных из Facebook в Cambridge Analytica подчёркивает необходимость регулирования сферы искусственного интеллекта, считают в комитете по искусственному интеллекту (ИИ) палаты лордов (верхняя палата парламента Великобритании), пишет The Guardian.

Британия должна лидировать в области регулирования ИИ и впредь не допускать, чтобы такие компании, как Cambridge Analytica, создавали прецеденты опасного и неэтичного использования технологии, считает глава комитета Клемент-Джонс (Clement-Jones).

Комитет опубликовал пять рекомендаций, они же этические принципы, которые, по словам лорда, должны применяться в разных секторах, на национальном и международном уровнях:

  • ИИ должен развиваться для общего блага и пользы человечества;
  • использование ИИ должно опираться на ясное понимание [того, как ИИ работает,] и добросовестность;
  • ИИ не должен быть использован для нарушения цифровых прав или тайны частной жизни отдельных лиц, семей или социальных групп;
  • граждане должны иметь право на образование, чтобы развиваться умственно, эмоционально и экономически одновременно с развитием ИИ;
  • автономные системы, направленные на причинение вреда, уничтожение или обман людей, никогда не должны обладать ИИ.

Цель, по мнению британских лордов, состоит не в том, чтобы вписывать эти принципы непосредственно в законодательство, а, скорее, в том, чтобы они служили в качестве «маяка» для регулирования ИИ. «Например, в области финансовых услуг регулятор будет наблюдать, как страховые компании используют алгоритмы для оценки возмещений, как банки принимают решение о выдаче ипотечных кредитов и т.д.».

«Регуляторы должны установить связь с этическими принципами», – сказал Клемент-Джонс.

Издание также упоминает опубликованный в понедельник доклад комитета «ИИ в Великобритании: готовы, хотим и способны?», в котором описывается ряд угроз. Одна из проблем заключается в создании крупными транснациональными компаниями «монополий данных». Речь, в частности, об американских и китайских компаниях, таких, как Facebook, Google и Tencent. Они могут обладать контролем над большими данными и создавать более совершенный ИИ, чем кто-либо другой, что приводит к неспособности небольших компаний и стран с ними конкурировать.

В докладе комитет призывает к предотвращению создания монополий данных и рекомендует управлению по конкуренции и рынкам активно прорабатывать вопросы потенциальной монополизации [рынка больших] данных крупными технологическими компаниями, действующими в Великобритании.

В этой связи уместно напомнить о трёх законах робототехники Айзека Азимова (в 1942 году, когда Азимов формулировал эти законы, термин «ИИ» ещё не вошёл в обиход, однако азимовский робот несомненно обладает тем, что теперь называют искусственным интеллектом):

1. Робот не должен причинять вред человеку или допускать, чтобы что-то другое причинило человеку вред.

2. Робот должен исполнять приказы человека, если эти приказы не противоречат первому закону робототехники.

3. Робот должен заботиться о собственной безопасности в той мере, в какой это не противоречит первым двум законам робототехники.