ИИ-сотрудник без иллюзорной автономности: как перейти от чат-ботов к управляемым цифровым ролям

75
Сергей Семёнов (с) фото предоставлено автором
Сергей Семёнов (с) фото предоставлено автором

Об авторе: Сергей Семёнов — основатель и CEO RECOMO AI, занимается методологией внедрения искусственного интеллекта в бизнес-процессы, AI Operating Model и управляемыми цифровыми ролями Human + AI.

За последние два года искусственный интеллект стал доступен практически любой организации. Модель можно подключить за день, корпоративный чат — за несколько дней, пилотный проект – за недели. Но доступность технологии создала новую проблему: компании научились быстро начинать эксперименты, однако гораздо хуже умеют превращать результаты этих экспериментов в устойчивые рабочие процессы.

Главный вопрос 2026 года уже не «может ли ИИ написать текст, проанализировать документ или подготовить отчёт». Может. Главный вопрос – что происходит после этого: кто отвечает за результат, к каким данным имеет доступ система, какие действия она вправе совершать сама, где требуется подтверждение человека, как фиксируются ошибки и как понять, что внедрение вообще приносит экономический эффект.

Именно здесь заканчивается эпоха «чат-ботов для сотрудников» и начинается более сложная задача – проектирование цифровых ролей внутри организации.

Российский бизнес уже использует ИИ, но до автономности ещё далеко

В июне 2026 года D-Russia приводила результаты совместного исследования УЦСБ и ГК «Солар» среди 102 организаций из промышленности, финансов, госсектора, энергетики, транспорта, торговли, медицины и других отраслей. 59,6% опрошенных компаний уже применяли различные формы ИИ, 33,3% — современные генеративные модели и их комбинации. При этом полностью автоматизированные решения использовали лишь 3% респондентов.

Показательно и другое: 32,5% компаний, которые пока не внедрили ИИ, указали на отсутствие понятных и экономически обоснованных сценариев применения. То есть дефицит сегодня не столько в моделях, сколько в методике перехода от технологии к процессу.

Это совпадает с более широкой международной практикой. В управлении ИИ всё чаще акцент смещается с возможностей самой модели на governance – правила, роли, контроль, измерение рисков и человеческий надзор. Например, NIST AI Risk Management Framework строится вокруг четырёх непрерывных функций: govern, map, measure, manage. Для генеративного ИИ отдельно подчёркивается необходимость человеческого контроля, документирования и управления правами и рисками.

Для бизнеса из этого следует простой вывод: нельзя начинать внедрение с вопроса «какую модель купить?». Начинать нужно с вопроса «какой процесс мы хотим изменить?».

Сначала процесс, потом ИИ

Типичная ошибка — взять существующий процесс и механически добавить в него нейросеть. Если процесс перегружен согласованиями, дублирующими действиями и ручной передачей информации между подразделениями, ИИ способен не исправить проблему, а автоматизировать хаос.

Следует проанализировать:

• Что является входом: письмо, заявка, документ, звонок, событие в информационной системе.

• Какие решения принимаются по ходу процесса.

• Какие данные и источники нужны для каждого решения.

• Что сегодня делает человек вручную.

• Где возникают очереди, ожидание, ошибки и повторная работа.

• Как выглядит конечный результат процесса.

• Какими показателями можно измерить его качество и стоимость.

Только после этого имеет смысл решать, какую часть работы оставить человеку, какую усилить ИИ, а какую полностью автоматизировать.

Например, в обработке входящей B2B-заявки ИИ может извлечь параметры запроса, найти связанные документы, проверить полноту данных, сформировать проект ответа и передать его специалисту. Это уже полезный производственный контур. Но право изменить цену, принять нестандартное обязательство или отправить юридически значимый документ может остаться у человека.

Таким образом, граница проходит не между «человек» и «ИИ», а между различными типами действий и уровнем допустимого риска.

Что такое цифровая роль

Цифровая роль – это не красивое имя для чат-бота. Это ограниченный набор функций, контекста, инструментов и прав, привязанный к конкретной бизнес-задаче.

Для определения цифровой роли надо знать:

• Назначение — какую проблему она решает.

• Входы — какие данные и события запускают работу.

• Рабочий контекст — какие базы знаний, документы и системы доступны.

• Инструменты — что система умеет читать, создавать, изменять или отправлять.

• Ограничения — какие действия запрещены.

• Правила эскалации — когда задача обязательно передаётся человеку.

• Контрольные точки — где требуется human approval.

• Метрики — как измеряется качество и эффект.

• Журнал действий — что именно сделала система и на основании каких данных.

Без этого «цифровой сотрудник» быстро превращается либо в игрушку, либо в источник операционного риска.

Автономность должна быть ступенчатой

Одна из самых опасных идей — пытаться сразу сделать ИИ максимально автономным. Гораздо безопаснее рассматривать автономность как лестницу.

  • Уровень 0 — советник. Система анализирует информацию и предлагает варианты, но ничего не меняет во внешних системах.
  • Уровень 1 — подготовка действия. ИИ создаёт проект письма, документа, заявки, отчёта или решения. Человек проверяет и запускает действие.
  • Уровень 2 — ограниченное исполнение. Система самостоятельно выполняет заранее разрешённые, обратимые и низкорисковые действия — например, классифицирует запросы, обновляет внутренние поля, создаёт задачи, собирает сводки.
  • Уровень 3 — управляемый процесс. ИИ может выполнять цепочку действий в рамках заранее определённых лимитов, но критические точки остаются за человеком.
  • Уровень 4 — высокая автономность. Возможна только там, где хорошо измерены риски, действия обратимы либо защищены дополнительными механизмами, а организация действительно понимает последствия ошибок.

Большинство корпоративных задач сегодня не требуют уровня 4. Огромный эффект можно получить уже на уровнях 1-3.

Human approval – это не недостаток системы

В дискуссии об ИИ человеческое подтверждение часто воспринимается как компромисс, будто «настоящая» автоматизация должна работать без людей. На практике approval gate – такой же элемент архитектуры, как права доступа или журнал аудита.

Где участие человека необходимо:

• Внешние публичные коммуникации.

• Договорные и юридически значимые обязательства.

• Платежи и банковские операции.

• Изменение цен и коммерческих условий.

• Кадровые решения.

• Операции с персональными и чувствительными данными.

• Изменение прав доступа.

• Действия в государственных информационных системах.

• Удаление или необратимое изменение данных.

Задача системы – не убрать человека любой ценой, а сделать так, чтобы человек подключался только там, где его решение действительно необходимо.

Принцип минимальных прав нужен ИИ так же, как сотруднику

Если новый сотрудник выходит на работу в финансовый отдел, ему обычно не дают в первый день доступ ко всей корпоративной почте, всем банковским счетам, CRM, кадровой системе и административной панели сайта. С ИИ почему-то иногда поступают совершенно иначе.

Для цифровой роли должен действовать принцип минимально необходимых прав. Если задача – анализ входящих заявок, системе не нужен доступ к исходящим платежам. Если задача – подготовка публикаций, ей не требуется право самостоятельно менять договоры. Если ИИ работает с внутренней базой знаний, это не означает, что он должен видеть весь корпоративный диск.

Особенно важно разделять право прочитать, предложить изменение и совершить изменение. Это три разных уровня полномочий.

Чем выше автономность, тем у́же должен быть контекст конкретного действия и тем лучше должны быть механизмы контроля.

ИИ должен оставлять след

У человека есть рабочая переписка, история изменений документов, банковские журналы, CRM-события. У цифровой роли должен быть сопоставимый уровень наблюдаемости:

• Какая задача была поставлена.

• Какие данные использованы.

• Какая версия модели или системы выполняла действие.

• Какие инструменты были вызваны.

• Что ИИ предложил.

• Что реально выполнил.

• Кто подтвердил критическое действие.

• Какой получен результат.

• Была ли ошибка или ручная корректировка.

Без этого невозможно нормально анализировать инциденты, качество и экономический эффект.

Отдельная инженерная проблема – повторные действия. Если агент отправляет письмо, создаёт платёжную заявку или записывает данные во внешнюю систему, простой повтор команды после технической ошибки может привести к дубликату действия. Поэтому для необратимых операций нужны механизмы идемпотентности: система должна уметь однозначно определить, было ли конкретное действие уже выполнено, прежде чем повторять его.

Для классического чат-бота это мелочь. Для ИИ, который получает реальные исполнительные полномочия, – обязательная часть архитектуры.

Не «сколько сотрудников заменили», а что произошло с процессом

Самая слабая метрика ИИ-проекта – количество внедрённых агентов. Чуть лучше – количество сэкономленных часов. Но и это часто вводит в заблуждение.

Экономику следует считать относительно baseline — состояния процесса до внедрения, сравнивая:

• Время полного цикла.

• Время ожидания между этапами.

• Количество ручных операций.

• Процент ошибок и возвратов.

• Доля задач, требующих старшего специалиста.

• Стоимость обработки одной операции.

• Скорость ответа клиенту.

• Конверсия на коммерческом этапе.

• Количество необработанных задач в очереди.

• Время, которое квалифицированные специалисты тратят на поиск информации и подготовительную работу.

После пилотного проекта сравниваются фактические показатели, а не обещанные проценты эффективности.

Это важно ещё и потому, что хороший ИИ-проект не всегда приводит к сокращению людей. Он может позволить той же команде обрабатывать больше запросов, быстрее выводить продукты, уменьшать количество ошибок или переносить время специалистов с рутины на задачи более высокой ценности.

Пилотный проект должен проверять гипотезу, а не демонстрировать технологию

Пилот часто превращается в презентацию: показать, что модель умеет отвечать на вопросы компании. Для перехода в production этого недостаточно, для этого необходимо анализировать:

• Baseline.

• Конкретную гипотезу эффекта.

• Набор разрешённых данных.

• Границы полномочий ИИ.

• Критерии качества.

• Список рисков.

• Точки человеческого контроля.

• Условия остановки системы.

• Показатели, по которым будет принято решение о масштабировании.

Затем технология должна работать не на подготовленном демонстрационном наборе, а на реальном потоке задач. Именно там становятся видны исключения, плохие данные, неоднозначные инструкции и организационные проблемы, которые невозможно увидеть в презентации.

Главный барьер — не модель, а организация

Чем сильнее становятся модели, тем меньше конкурентное преимущество даёт сам факта доступа к ним. Один и тот же класс технологий постепенно становится доступен тысячам компаний.

Разница возникает в другом: насколько быстро организация умеет превратить модель в рабочий процесс:

• Описывать процессы на уровне решений и данных.

• Проектировать цифровые роли.

• Определять границы автономности.

• Управлять доступами.

• Строить базы знаний.

• Тестировать качество.

• Измерять эффект.

• Разбирать инциденты.

• Обучать сотрудников работе в связке Human + AI.

Поэтому внедрение ИИ нельзя полностью делегировать IT-департаменту. Не он должен отвечать за изменение операционной модели компании.

Почему вопрос стал стратегическим

Национальная стратегия развития искусственного интеллекта до 2030 года задаёт очень высокую планку: доля работников с навыками использования ИИ должна достигнуть 80%, а доля приоритетных отраслей экономики с высоким индексом готовности к внедрению ИИ – 95%. Затраты организаций на внедрение и использование технологий ИИ к 2030 году должны существенно вырасти.

За этими цифрами стоит более важная вещь. ИИ меняет стоимость координации внутри организации. Поиск информации, подготовка документов, анализ, контроль, коммуникации и часть управленческих операций могут выполняться значительно быстрее. Компания, которая научится перестраивать вокруг этого процессы, будет принимать решения и запускать изменения с другой скоростью.

Конкурентный разрыв поэтому может возникать незаметно. Организация продолжает работать нормально, клиенты остаются, выручка не исчезает за один день. Но конкурент постепенно быстрее отвечает на запросы, быстрее готовит предложения, быстрее анализирует рынок, быстрее обучает сотрудников и быстрее запускает новые продукты.

Через несколько лет это уже не «преимущество от ИИ». Это новая базовая производительность бизнеса.

Поэтому главная опасность для российских компаний – не в том, что они не создадут собственную фундаментальную модель. Большинству компаний это и не нужно. Опаснее другое: использовать ИИ только как персональный чат для отдельных сотрудников и не перенести технологию на уровень процессов и управления.

Не автономная компания, а управляемая система Human + AI

Будущее организации вряд ли сводится к простой формуле «ИИ заменит людей». Реалистичнее другая модель: часть функций выполняют люди, часть – алгоритмы и агенты, а между ними появляется новый слой управления.

Человек остаётся владельцем целей, ответственности, ценностей, сложных исключений и решений с высокой ценой ошибки. ИИ берёт на себя поиск, обработку информации, подготовку вариантов, рутинные операции и постепенно – ограниченные исполнительные контуры.

Главный актив такой компании – не количество агентов и не название используемой модели. Главный актив – архитектура: кто что делает, на основании каких данных, с какими правами, под каким контролем и с какой измеримой экономикой.

Именно поэтому в 2026 году бизнесу стоит перестать спрашивать: «Какой ИИ нам внедрить?»

Более полезный вопрос звучит иначе: «Какой наш процесс должен работать принципиально по-другому, если рядом с человеком теперь может работать цифровая роль?»

С этого вопроса и начинается настоящая трансформация.

Чтобы не пропустить самое интересное, читайте нас в Max и Телеграм

Поделиться: