В субботу опубликован документ Rome Call for AI Ethics (Римский призыв к этике ИИ), подписанный в Риме главой римско-католической церкви папой Франциском, FAO (продовольственная и сельскохозяйственная организация ООН), правительством Италии, представителями IBM и Microsoft.
Папа Римский Франциск в обращении, которое не смог зачитать лично из-за болезни, высказал обеспокоенность по поводу бесконтрольного распространения технологий ИИ. Он предупредил об опасности использования ИИ для извлечения данных в коммерческих или политических целях, часто без ведома тех, кому эти данные принадлежат, сообщает Reuters.
«Эта асимметричная ситуация, из-за которой немногие избранные знают о нас всё, в то время как мы ничего не знаем о них. … Неравенство резко усиливается, знания и богатство накапливаются в немногих руках с серьёзными рисками для демократических обществ», — сказано в папском послании.
В качестве примера опасного использования ИИ папа приводит опыт полиции, которая использовала системы распознавания лиц, и компаний из списка Fortune 500, которые использовали ИИ при отборе кандидатов на замещение вакансий.
IBM и Microsoft заявили в свою очередь, что отказывались от сделок, если заказчик намеревался использовать предлагаемые ему технологии ИИ таким образом, который казался IBM и Microsoft сомнительным.
Принципы использования ИИ, предлагаемые римским призывом к этичному ИИ, таковы:
- прозрачность (объяснимость поведения ИИ-систем);
- инклюзивность: ИИ-системы должны быть полезны для всех без людей;
- ответственность (разработчиков ИИ-систем – ред.);
- беспристрастность: ИИ-системы должны одинаково относиться ко всем людям;
- надёжность;
- безопасность и конфиденциальность.
На эту тему см. также колонку Андрея Анненкова Popeline
