Банк России опубликовал во вторник методические рекомендации, которые помогут финансовым организациям обеспечить информационную безопасность при использовании технологий искусственного интеллекта (ИИ).
Как сказано в сообщении Центробанка, это первый документ регулятора, в котором систематизированы риски применения ИИ, описаны возможные тактики атак злоумышленников на системы ИИ и даны рекомендации по мерам защиты. Так, например, если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платёжных операциях – рекомендуется, чтобы операцию подтверждал сотрудник.
ЦБ рекомендует участникам рынка разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. За подготовку этих внутренних документов отвечает заместитель руководителя организации по вопросам защиты информации.
Модель угроз должна учитывать угрозы безопасности информации, специфичные для технологий ИИ, в частности:
- нарушения функционирования («обхода») средств, реализующих технологии ИИ;
- искажения («отравления») обучающих данных;
- раскрытия информации о модели ИИ;
- хищения обучающих данных;
- модификации модели ИИ, в том числе изменения архитектуры,
- приведения модели ИИ в состояние «отказ в обслуживании»;
- манипуляции поведением модели ИИ;
- подмены модели ИИ.
Ранее, напомним, ЦБ рассказал о планах по мягкому регулированию ИИ для применения на финансовом рынке.
