Риски внедрения ИИ: как их увидеть до старта проекта

Риск в ИИ-проекте — это не только «модель ошиблась». Это доступы, отданные внешнему сервису, зависимость от одного поставщика, промпты, которые ушли вместе с подрядчиком, и сотрудники, научившиеся обходить систему. Половина рисков внедрения ии не техническая, и закрывается она договором, регламентом и лимитами, а не сменой модели.

Ниже — карта из восьми рисков с вероятностью и ущербом в рублях на 2026 год, отдельный разбор агентов с доступом к 1С и CRM, договорные ловушки и то, как документ с концепцией на старте снимает большую часть угроз.

Ключевые выводы

• Самые дорогие риски внедрения ии — утечка данных и зависимость от подрядчика: ущерб от 0,5 до 15 млн ₽ плюс 2–9 месяцев потерянного времени.
• Ответы с ошибками встречаются в 5–15% диалогов и снижают конверсию на 3–8%, но обходятся дешевле утечки — 0,2–1,5 млн ₽ выручки в год.
• Права «только чтение» и лимиты на операции снижают ущерб от ошибки агента в 3–5 раз по сравнению с полными правами.
• Закладывайте 15–25% бюджета на непредвиденное: интеграции, повторную разметку и доработки после пилота.
• Код, промпты, база знаний и журналы диалогов должны принадлежать вам: передача проекта другой команде стоит 150–350 тыс. ₽ и 3–6 недель.
• Концепция внедрения ИИ на 8–15 страниц стоит 150–350 тыс. ₽ и снимает 60–70% рисков, связанных с данными, доступами и приёмкой.

Карта рисков: вероятность, ущерб, что делать

Восемь рисков закрывают почти всё поле проекта: данные, безопасность, качество, зависимости, люди, деньги и юридические последствия. Считать их удобнее не по ощущениям, а в таблице — с оценкой вероятности и суммы ущерба.

Смотрите на таблицу парами: риск с высокой вероятностью и дешёвым ущербом закрывают регламентом, риск с низкой вероятностью и крупной суммой — техническими ограничениями и договором. Эффекты внедрения ии и риски считают в одном документе: проект с годовой выгодой 1,2 млн ₽ и потенциальной утечкой на 5 млн ₽ требует отдельного контура обработки данных, а не «как-нибудь потом».

Риски внедрения ИИ-агентов: доступы, автономность, качество

Агент опаснее чат-бота: у него есть инструменты, и цена ошибки измеряется не испорченным настроением клиента, а проведёнными операциями — возвратами, списаниями, созданными заказами. Первое, что ограничивают в проекте, — права и лимиты, а не качество ответов.

• Первая версия работает только на чтение: показывает статусы и суммы, ничего не меняет.
• Запись включается по одному действию, с лимитом: возврат до 5 000 ₽, не больше трёх операций в час.
• Стоп-условия отправляют диалог человеку: претензия, упоминание суда, сумма выше лимита, повторный вопрос.
• Каждый вызов инструмента логируется с параметрами и результатом — без журнала инцидент невозможно разобрать.
• Повторный вызов не должен создавать второй документ: идемпотентность проверяют на тестовом контуре.
• Агент не имеет прав на изменение цен, справочников и реквизитов — только на операции, описанные в регламенте.

Риски внедрения ии агентов отличаются от рисков обычных ботов тем, что часть ошибок необратима: возврат денег или отправленный клиенту документ нельзя «откатить» одним обновлением промпта. Отсюда правило: сначала месяц в режиме предложения, когда действие подтверждает оператор, и только потом автономность.

Часть проблем внедрения ии лежит в людях, а не в коде: операторы, чью работу измерили, начинают осторожничать и перекладывать сложные случаи на бота. Лечится прозрачными метриками: оценивают не число закрытых диалогов, а долю решённых с первого обращения и число возвратов к теме.

Деньги и договор: где теряются бюджеты

Бюджет утекает в трёх местах: недооценённые интеграции, бесконечная доработка качества и переменная стоимость токенов. В договоре эти зоны закрываются тремя пунктами: метрика приёмки, предел бесплатных доработок и порядок расчёта за инференс.

1. Метрика приёмки. Фиксируется до старта: доля верных ответов на 300 эталонных примерах, время ответа, доля эскалаций. Если цель внедрения искусственного интеллекта не выражена в числе, приёмка превращается в переговоры о вкусах и стоит 2–6 недель.
2. Предел доработок. Обычно 10–15% бюджета включено в этап, дальше — по ставке 2 500–4 500 ₽ за час. Без этого пункта «улучшение качества» может длиться бесконечно.
3. Инференс. Либо фиксированная ставка за 1 000 запросов, либо прозрачный расчёт по токенам. При 30 000 обращений в месяц разброс — 45–180 тыс. ₽, и он должен быть виден в отчёте.
4. Права на результат. Репозиторий, промпты, база знаний, журналы диалогов и документация передаются вам по акту. Иначе передача проекта новой команде обойдётся в 150–350 тыс. ₽.
5. Поручение на обработку данных. Если подрядчик касается персональных данных, нужна отдельная бумага с перечнем данных, целями и сроком — по требованиям 152-ФЗ.

Два риска, которые недооценивают. Повторное «внедрение внедрения ии» после смены подрядчика: новая команда тратит 3–6 недель на разбор чужой архитектуры, и всё это время система работает без развития. И смена учётной системы — «внедрение внедрения 1с» — во время ИИ-проекта почти гарантирует срыв сроков: два проекта конкурируют за одни и те же справочники и за время одних и тех же людей.

Как концепция внедрения ИИ снижает риски

Концепция внедрения ии — документ на 8–15 страниц, который фиксирует процессы, данные, роли, границы и метрики до начала разработки. Стоит 150–350 тыс. ₽ и 2–4 недели, а закрывает большую часть рисков из таблицы выше.

Что в него входит:

• Список процессов с объёмом операций и базовой метрикой по каждому.
• Перечень данных: где лежат, кто владелец, какие категории персональных данных затрагиваются.
• Архитектура: модели, контур обработки (внешний или локальный), интеграции, журналирование.
• Матрица доступов: что агент читает, что меняет, какие лимиты и стоп-условия действуют.
• Критерии приёмки и план пилота с двумя контрольными точками.
• Бюджет с резервом 15–25% и план действий при недостижении метрики.

Как это работает на практике: концепция превращает спорные вопросы в решения на бумаге, когда они стоят день, а не месяц. Порядок работ, при котором агент расширяет права постепенно — от чтения к записи, — снижает ущерб от ошибки в разы и не требует переписывать систему.

Честная граница: концепция не нужна для пилота на одном узком сценарии стоимостью до 300 тыс. ₽ — там достаточно технического задания на 3–5 страниц. Но если проект затрагивает деньги, персональные данные или несколько отделов, экономия на этом документе почти всегда обходится дороже.

Частые вопросы

Какие риски внедрения ИИ самые опасные?

Утечка данных и зависимость от подрядчика: ущерб измеряется миллионами рублей и месяцами простоя. Ошибки в ответах заметнее и раздражают клиентов, но стоят дешевле. Начинать стоит с закрытия двух первых.

Можно ли внедрить ИИ без риска утечки данных?

Полностью исключить риск нельзя, но можно снизить его до приемлемого: обезличивать данные перед отправкой во внешнюю модель, ограничивать выгрузки, работать через российских поставщиков с договором или разворачивать модель в своём контуре.

Кто отвечает за ошибку ИИ-агента?

Отвечает владелец процесса и компания: юридически агент — это программа, а не субъект. Поэтому в регламенте фиксируют лимиты, стоп-условия и обязательное подтверждение человеком для операций с деньгами.

Сколько закладывать на непредвиденные расходы?

15–25% бюджета проекта. На практике добавляются интеграции с неожиданной системой, повторная разметка эталонов и доработки после пилота. На проекте за 1,2 млн ₽ резерв составляет 180–300 тыс. ₽.

Как проверить подрядчика перед стартом?

Запросите три вещи: доступ к журналам диалогов на похожем проекте, схему разграничения доступов и договор с пунктом о передаче кода. Если хотя бы одного пункта нет, риск зависимости от подрядчика резко растёт.

Что делать дальше

Соберите таблицу рисков по своему проекту: вероятность, ущерб, действие. Отдельно отметьте пункты, которые закрываются договором, — их можно снять до старта без единой строки кода. Оставшиеся перенесите в план пилота как контрольные точки.

Как ограничивать доступы и не потерять управление агентом, разобрано в статье безопасность ИИ-агента, типовые сбои проекта — в материале проблемы внедрения ИИ. О том, как ИИ меняет работу с клиентской базой, — статья CRM и ИИ. Из каких этапов состоит работа и как считается смета, смотрите на страницах ИИ-агенты и чат-боты и внедрение CRM.

Статья основана на практике проектов НейроДела и данных Яндекс Вордстата по кластеру «ИИ-агенты и ИИ-боты». Основной запрос материала — «риски внедрения ии» (368 показов в месяц). Если у вас другая ситуация — напишите, разберём.