Сведения о системах искусственного интеллекта, применяемых в столицах Нидерландов и Финляндии, приводятся на сайтах algoritmeregister.amsterdam.nl (Амстердам) и ai.hel.fi (Хельсинки), информация о самих реестрах опубликована на этой неделе.
Цель создания реестров и публикации их в открытом доступе – информировать граждан о применяемых в городах ИИ-системах и собрать отзывы о работе этих систем, сделать городские ИИ-системы «человекоцентричными». Разработку выполнила финская компания Saidot.
Реестры пока что содержат сведения о небольшом числе ИИ-систем. В Амстердаме действуют система управления парковкой; система сообщений граждан городским властям (пример сообщения – необходимость убрать мусор, ИИ-система сама пытается правильно адресовать такие сообщения); контроль соблюдения правил предоставления туристам жилья в аренду.
В Хельсинки ИИ-системы, вошедшие к настоящему времени в реестр, представляют собой чат-роботов, консультирующих, в частности, по вопросам парковки и о медицинских услугах. Одна из систем «заведует» библиотечным фондом, который совместно используется городскими библиотеками – ИИ контролирует и пытается оптимизировать перемещения книг.
И финны, и голландцы называют ИИ-системы «алгоритмами», что, строго говоря, неверно – системы искусственного интеллекта алгоритмическими не являются; эта терминологическая особенность закрепилась, однако, в западных официальных документах и СМИ. Принципиальная проблема практического применения ИИ-систем состоит именно в том, что они не алгоритмичны, и в том, следовательно, что даже их разработчик не может ни объяснить результаты работы ИИ-систем, ни тем более контролировать их работу.
Поэтому публикация реестров ИИ-систем Амстердама и Хельсинки, попытка создания механизма общественного наблюдения за поведением искусственного интеллекта является важным событием – даже если единственным результатом будет привлечение внимания к названной проблеме.
Напомним, что в России в соответствии с «Национальной стратегией развития искусственного интеллекта на период до 2030 года», утверждённой указом президента, защита прав и свобод человека, безопасность и прозрачность ИИ-систем считаются основными принципами их разработки и использования.
