За последний год объём данных, отправляемых в общедоступные нейросети, вырос в 30 раз, при этом около 60% российских организаций до сих пор не имеют формализованных политик, регулирующих работу с ИИ, что создаёт критические риски для бизнеса, к такому выводу пришли аналитики ГК «Солар».
Для исследования анализировался трафик 150 компаний из различных секторов экономики – из госсектора, финансовой, промышленной, ретейл, e-commerce, телеком и IT-отраслей – на предмет утечек корпоративной и чувствительной информации в ИИ-сервисы.
«Массовое и часто неуправляемое использование сотрудниками публичных ИИ-сервисов превратилось в новый, практически невидимый канал утечек корпоративной информации и заражения инфраструктуры», – сказано в сообщении компании.
Сотрудники массово загружают в нейросети конфиденциальную информацию: от презентаций и стратегий до аналитических таблиц и фрагментов кода ПО. При этом злоумышленники осваивают ИИ гораздо быстрее, чем защищающиеся стороны успевают выстраивать оборону. Если раньше на перестройку DDoS-атаки уходило до часа, то с помощью ИИ это время сократилось до минуты, и уже в ближайший год можно ожидать появления принципиально новых векторов атак.
Риски, связанные с бесконтрольным использованием ИИ, по-разному проявляются в различных отраслях, но затрагивают практически всех, сообщает «Солар».
В финансовом секторе и страховании, где работа связана с персональными данными и банковской тайной, ИИ стал новым, неконтролируемым каналом утечек, который необходимо защищать наравне с электронной почтой и веб-трафиком.
В IT-компаниях и разработке ПО разработчики массово используют LLM для помощи в написании кода. Это создает высокий риск утечки исходных текстов программ, бизнес-логики и API-ключей – код не должен покидать защищённый периметр компании.
На промышленных предприятиях инженеры и аналитики обращаются к ИИ для ускорения расчётов и подготовки технической документации. Это создаёт прямой риск утечки технологий, разработок и данных о производственных процессах, что равносильно утрате интеллектуальной собственности.
В ретейле и e-commerce маркетологи и аналитики активно применяют ИИ для работы с клиентскими данными. Здесь возникает вопрос, под чьим контролем находятся огромные массивы информации о покупателях, и кто несёт ответственность за их сохранность.
В госсекторе и окологосударственных организациях действуют строгие требования к данным, однако ИИ часто используется «полулегально», без формальных правил и средств контроля, что значительно повышает риск инцидентов.
Проблема заключается не в самой технологии, а в отсутствии инструментов контроля и управления. Полный запрет ИИ-сервисов лишает сотрудников полезного инструмента и снижает их эффективность. Решение состоит в построении политик безопасности, которые позволяют разрешать, ограничивать или запрещать использование конкретных нейросетей, контролировать входящий и исходящий трафик, тип передаваемых данных, а также блокировать опасные ответы ИИ-систем.
Напомним, что опасность общедоступных инструментов генеративного ИИ уже ощутили в таких крупных компаниях, как южнокорейская Samsung, японские Softbank и Fujitsu и американская Apple. Еще в 2023 году они запретили своим сотрудникам использовать в работе ChatGPT и подобные. Причина – данные, загружаемые на ИИ-сервисы, подобные ChatGPT, обрабатываются на внешних серверах.
От себя добавим информацию, услышанную на одном из IT-мероприятий, проведённом в прошлом году IT-«дочкой» Газпромбанка. Так, IT-специалисты рассказывали, что созданная непосредственно для нужд определённой компании нейросеть может значительно увеличивать производительность труда – составлять конкурсные документы, пересказывать большие тексты и пр. Но чтобы хорошо обучить ИИ-сервис под конкретную компанию, нужен минимум год и миллионные затраты (от пяти миллионов рублей и до бесконечности, по открытым источникам – зависит от задач и объёма данных).
См. также: Как ChatGTP снижает мыслительные способности человека – исследование
