Как учитывать сопровождение, безопасность и расходы после запуска ИИ-решения

ИИ-решение запущено, сотрудники начали им пользоваться, первые результаты получены. Может показаться, что основные работы и расходы уже позади.

Но после внедрения начинается другой этап. Необходимо поддерживать работоспособность системы, обновлять информацию, контролировать качество, защищать данные и оплачивать использование технологий. Эти задачи не всегда заметны во время пилота, но именно от них зависит дальнейшая польза для бизнеса.

Поэтому оценивать ИИ-решение стоит не только по стоимости разработки. Важно понимать, что потребуется для его повседневной работы и останется ли применение экономически оправданным после запуска.

1. Определить, что входит в сопровождение.
Формулировка «поддержка включена» сама по себе мало о чём говорит. За ней может скрываться как полноценное обслуживание, так и только исправление ошибок, допущенных при разработке.

После запуска компании могут потребоваться:

• Устранение сбоев и восстановление работы.
• Консультации пользователей.
• Обновление подключений к другим системам.
• Актуализация документов и данных.
• Проверка качества после изменений.
• Настройка доступа и подключение сотрудников.

При этом сопровождение и развитие - не одно и то же. Поддержание согласованных функций стоит отделять от добавления новых возможностей, подразделений и сценариев использования.

Например, восстановить загрузку документов после сбоя - задача сопровождения. Научить систему обрабатывать новый тип документа - возможная доработка, объём которой нужно оценить отдельно.

Что необходимо сделать: Согласовать перечень работ, часы поддержки, каналы обращений и порядок обработки проблем. Отдельно определить сроки реакции и восстановления: ответ на обращение ещё не означает устранение неисправности.

Вопрос собственнику: Понятно ли, какую помощь компания получит после запуска и за что придётся платить дополнительно?

2. Контролировать не только доступность, но и качество.
Система может работать без технических сбоев и при этом давать неудовлетворительные результаты.

Например, помощник быстро отвечает на вопросы сотрудников, но использует устаревшие инструкции. Или обработка документов завершается успешно, однако часть значимых сведений извлекается неверно.

Поэтому контроль эксплуатации должен охватывать доступность, скорость и содержательное качество ответов.

Что необходимо сделать: Выбрать несколько показателей, по которым можно заметить ухудшение работы. В зависимости от задачи это могут быть:

• Доля результатов, требующих исправления.
• Количество существенных ошибок.
• Время выполнения операции.
• Доля задач, переданных человеку.
• Время сотрудников на проверку.

Определить периодичность проверок и действия при отклонениях. Для внутреннего помощника может подойти выборочная оценка ответов. Для операций с серьёзными последствиями потребуется более строгий контроль.
Важно, чтобы замечания пользователей не терялись в переписке, а попадали в единый список для анализа и исправления.

Вопрос собственнику: Как компания узнает, что качество работы ухудшилось, до того как это станет серьёзной проблемой?

3. Предусмотреть обновление данных и проверку изменений.
После запуска меняются не только технологии. Компания обновляет цены, договоры, инструкции и правила обслуживания. Появляются новые продукты и исключения из привычных процессов.

Если ИИ-решение продолжает работать с прежней информацией, его ответы могут оставаться убедительными, но перестать соответствовать действительности.

Что необходимо сделать: Определить, какие источники использует система, кто отвечает за их содержание и как изменения попадают в рабочую версию.

Например, после утверждения новых условий обслуживания нужно не просто загрузить документ, но и проверить, что помощник использует актуальную версию, а старые условия больше не выдаются как действующие.

Изменения модели, настроек или подключённых систем также стоит проверять на заранее подготовленном наборе типовых и сложных задач. Для существенных обновлений нужно предусмотреть возможность возврата к предыдущей рабочей версии.

Не каждое изменение требует повторения всего пилота. Объём проверки должен соответствовать тому, что изменилось и к каким последствиям может привести ошибка.

Вопрос собственнику: Предусмотрены ли время и ресурсы на поддержание актуальности системы, а не только на устранение поломок?

4. Организовать защиту данных и ограничить полномочия.
Безопасность не заканчивается согласованием сервиса перед запуском. После внедрения появляются новые пользователи, документы, подключения и способы применения.

Для рабочего решения важно понимать весь путь информации: что сотрудник передаёт системе, где это обрабатывается, что сохраняется и кому доступен результат.

Что необходимо сделать: Совместно с профильными специалистами определить:

• Какие сведения разрешено использовать.
• Где они обрабатываются и хранятся.
• Кто получает к ним доступ.
• Каковы сроки хранения и порядок удаления.
• Использует ли поставщик данные для обучения и на каких условиях.
• Как отзывается доступ сотрудников и подрядчиков.

Проверять нужно не только исходные документы, но и сохранённые запросы, ответы, журналы работы и резервные копии: в них тоже может оказаться чувствительная информация.

Например, помощник по внутренним документам не должен предоставлять сотруднику сведения, к которым у него нет доступа в исходной системе.

Если ИИ может выполнять действия - отправлять сообщения, изменять записи или создавать заявки, - ему следует предоставить только необходимые полномочия. Для значимых операций стоит предусмотреть подтверждение человеком.

Размещение системы внутри компании само по себе не заменяет этих мер.

Вопрос собственнику: Известно ли, какие данные доступны ИИ и какие действия он может выполнять без дополнительного согласования?

5. Подготовить порядок действий при сбое или инциденте.
Зависимость от ИИ-инструмента постепенно растёт. Сотрудники привыкают к нему, а прежний способ работы может перестать использоваться.

Поэтому заранее нужно определить, что произойдёт при недоступности сервиса, существенном ухудшении качества или подозрении на утечку данных.

Что необходимо сделать: Подготовить краткий порядок действий:

• Кто принимает сообщение и оценивает ситуацию.
• Кто вправе ограничить или приостановить работу.
• Как подразделение продолжает выполнять задачи.
• Кто восстанавливает систему и проверяет результат.
• Кто разрешает возобновить использование.

Резервный порядок должен быть выполнимым. Если предполагается ручная обработка, важно понимать, справятся ли сотрудники с объёмом и какие задачи получат приоритет.

Не каждой системе нужна круглосуточная поддержка. Требования следует соотносить с последствиями простоя для конкретного процесса.

Вопрос собственнику: Сможет ли подразделение продолжить работу, если ИИ-инструмент станет недоступен на день?

6. Рассчитать полную стоимость эксплуатации.
Цена подписки или обращения к модели - только часть расходов.

Для планирования стоит разделить затраты на три группы.

• Регулярные: лицензии, инфраструктура, хранение данных, поддержка и проверки безопасности.
• Зависящие от использования: обработка запросов и документов, дополнительные вычисления, проверка результатов сотрудниками.
• Периодические: обновление интеграций, подготовка новых данных, обучение пользователей, существенные доработки и переход на другую платформу.

Отдельно нужно учитывать внутренние трудозатраты. Если действующие сотрудники сопровождают систему без увеличения фонда оплаты труда, это не новый денежный платёж, но занятое рабочее время.

Что необходимо сделать: Составить расчёт хотя бы на ближайший год и проверить несколько сценариев нагрузки - обычный, повышенный и пиковый.

Не стоит считать, что расходы всегда растут пропорционально числу пользователей. Например, одна задача интеллектуального агента может включать несколько обращений к модели и внешним сервисам.

Полезно установить уведомления о превышении бюджета и ограничения потребления. При этом нужно заранее решить, как продолжится работа при достижении лимита.

Вопрос собственнику: Сколько будет стоить эксплуатация при реальной нагрузке, включая работу сотрудников и необходимые обновления?

7. Сопоставлять расходы с полезным результатом.
Рост затрат не всегда означает проблему: возможно, инструментом стали пользоваться чаще. Но и низкая стоимость сама по себе не подтверждает пользу.

Поэтому помимо общей суммы полезно оценивать стоимость выполненной задачи с приемлемым качеством.

Например, в условном расчёте ежемесячные затраты составляют 100 тысяч рублей, включая оценку внутреннего труда. За месяц с помощью системы обработано 2 тысячи документов с требуемым качеством. Средняя стоимость составляет 50 рублей за документ.

Это ещё не доказывает выгодность внедрения. Нужно сравнить результат с прежним способом работы, учитывая сопоставимый объём, проверку и исправления. Первоначальные вложения при этом отдельно учитываются в оценке окупаемости.

Освободившееся время также не следует автоматически считать денежной экономией. Важно понять, как компания его использует: увеличивает объём работы, сокращает переработки или откладывает дополнительный найм.

Что необходимо сделать: Регулярно сопоставлять расходы, качество, фактическое использование и пользу. На этой основе принимать решения о настройке, расширении или сокращении применения.

Вопрос собственнику: Компания оплачивает измеримый полезный результат или просто сохраняет работающую подписку?

Что стоит зафиксировать до запуска.
Для начала достаточно краткого плана эксплуатации, в котором указаны:

• Состав и условия сопровождения.
• Показатели качества и порядок проверок.
• Правила обновления данных и системы.
• Ограничения доступа и использования информации.
• Действия при сбоях и инцидентах.
• Бюджет при разных объёмах нагрузки.
• Порядок пересмотра расходов и результатов.

Этот план не должен оставаться формальностью. Его нужно обновлять при изменении задач, числа пользователей и роли системы в бизнес-процессах.

Стоимость ИИ-решения не заканчивается внедрением. Его долгосрочная польза зависит от того, насколько компания готова поддерживать качество, обеспечивать безопасность и управлять расходами после запуска.