Зампред ЦБ рассказал о рисках использования искусственного интеллекта
Использование искусственного интеллекта (ИИ) связано с рядом серьезных рисков, заявил заместитель председателя ЦБ РФ Василий Поздышев в интервью РИА Новости.
«Во-первых, даже самую сложную нейросеть можно взломать», – пояснил Поздышев. Он привел в пример ситуацию, когда большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово STOP, то некоторые нейросети переведут эту картинку из категории «лица» в категорию «дорожные знаки».
«Во-вторых, нейросети способны создавать фейковую реальность». По словам Поздышева, нейросеть, если ей создать такую задачу, может создать миллионы лиц несуществующих людей, включая полный набор несуществующих биометрических данных. Другие же нейросети будут воспринимать их как реальных людей. Таким же образом можно создать несуществующие юрлица и транзакции.
«Третий риск связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к элементам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может «вытащить» из обучающей выборки».
По словам Поздышева, «бенефиты для общества от использования новых технологий абсолютно понятны». «Но в этом мире никогда не бывает бенефитов без рисков, и эта «ложка дёгтя» может оказаться вовсе не ложкой и вовсе не дёгтя», – добавил зампред ЦБ.