Минобороны США официально приняло ряд принципов, «гарантирующих этический подход к разработке и применению систем искусственного интеллекта», заявили представители Пентагона в понедельник.
Эти принципы базируются на рекомендациях совета Минобороны по инновациям, представленных осенью 2019, и сводятся к следующему.
Ответственность. Сотрудники Минобороны, отвечающие за разработку, внедрение и использование ИИ, должны будут проходить тренинги, поднимающие их «здравомыслие и внимательность» на «должный уровень».
Соразмерность. Пентагон предпримет необходимые шаги для минимизации «непредумышленной предвзятости» ИИ-систем.
Доступность для анализа. ИИ-системы Пентагона будут разрабатываться и внедряться так, чтобы эксплуатирующий их персонал обладал необходимым пониманием технологии, процесса разработки и методов работы с ИИ, включая прозрачные, контролируемые методы [контроля работы ИИ-систем], источники данных, процедуры разработки и документирования.
Надёжность. Сферы применения военных ИИ-систем будут описаны ясно и однозначно; безопасность, защищённость и эффективность систем будет проверяться и испытываться в процессе всего жизненного цикла.
Управляемость. Минобороны будет разрабатывать ИИ-системы, способные обнаруживать «непредвиденные последствия» своей работы, с возможностью «деактивировать» системы, демонстрирующие «незапланированное поведение».
Этические принципы использования ИИ-систем американскими военными, как ожидается, должны применяться во всех процессах, относящихся к «киберсфере» — от сбора данных до тестирования [программ и устройств]. Но для соблюдения принятых принципов необходимо будет разработать более конкретные руководства. Также пока остаётся открытым вопрос – на ком будет лежать ответственность в каждой ситуации.
«Следует весьма вдумчиво относиться к вопросам – откуда берутся данные (очевидно, речь о данных, используемых в обучении ИИ-систем – ред.), каково их происхождение, как эта информация использовалась в прошлом, иначе можно невольно впасть в предвзятость и получить на выходе алгоритм, существенно отличный от того, что был задуман», — сказал IT-директор Пентагона Дана Дизи (Dana Deasy).
