Опубликован «римский призыв» к этичному развитию ИИ

1204

В субботу опубликован документ Rome Call for AI Ethics (Римский призыв к этике ИИ), подписанный в Риме главой римско-католической церкви папой Франциском, FAO (продовольственная и сельскохозяйственная организация ООН), правительством Италии, представителями IBM и Microsoft.

Папа Римский Франциск в обращении, которое не смог зачитать лично из-за болезни, высказал обеспокоенность по поводу бесконтрольного распространения технологий ИИ. Он предупредил об опасности использования ИИ для извлечения данных в коммерческих или политических целях, часто без ведома тех, кому эти данные принадлежат, сообщает Reuters.

«Эта асимметричная ситуация, из-за которой немногие избранные знают о нас всё, в то время как мы ничего не знаем о них. … Неравенство резко усиливается, знания и богатство накапливаются в немногих руках с серьёзными рисками для демократических обществ», — сказано в папском послании.

В качестве примера опасного использования ИИ папа приводит опыт полиции, которая использовала системы распознавания лиц, и компаний из списка Fortune 500, которые использовали ИИ при отборе кандидатов на замещение вакансий.

IBM и Microsoft заявили в свою очередь, что отказывались от сделок, если заказчик намеревался использовать предлагаемые ему технологии ИИ таким образом, который казался IBM и Microsoft сомнительным.

Принципы использования ИИ, предлагаемые римским призывом к этичному ИИ, таковы:

  • прозрачность (объяснимость поведения ИИ-систем);
  • инклюзивность: ИИ-системы должны быть полезны для всех без людей;
  • ответственность (разработчиков ИИ-систем – ред.);
  • беспристрастность: ИИ-системы должны одинаково относиться ко всем людям;
  • надёжность;
  • безопасность и конфиденциальность.

На эту тему см. также колонку Андрея Анненкова Popeline

Следите за нашим Телеграм-каналом, чтобы не пропускать самое важное!

Поделиться: