Как не терять лиды: ИИ-обработка заявок на своём железе

Заявки почти никогда не теряются целиком. Их теряют по одной: человек написал в 23:40, ответ пришёл в обед, к тому моменту он уже поговорил с конкурентом. В CRM при этом всё прилично — карточка есть, статус «в работе». Ниже схема, по которой я собираю ИИ-обработку заявок на своём железе: без облачных подписок, с локальной моделью и с жёсткими рамками, чтобы она не начала выдумывать цены.

Что на самом деле ломается

Три вещи, и ни одна из них не про «клиент нецелевой».

Скорость первого ответа. Сорок минут молчания — это не «немного подождал», это решение, принятое без вас. И в отчётах это не видно: лид не потерян, он просто остыл.

Ночь, выходные, отпуск менеджера. Заявка живёт в чужом часовом поясе или в чужом графике. Кто ответил первым, тот и разговаривает.

Квалификация наугад. Ответили бодро, но не спросили бюджет, сроки и кто принимает решение. Дальше менеджер тратит час на человека, у которого «просто интересно».

Есть и четвёртая, техническая: один человек пишет в Telegram, потом в WhatsApp, потом на почту — три карточки, три менеджера, никто не видит целого.

Гибрид, а не «бот с нейросетью»

Главная ошибка, которую я вижу в чужих внедрениях, — дать модели общаться с клиентом с первой секунды. Красиво на демо, дорого в продакшене: модель болтает, уводит разговор, обещает то, чего нет.

У меня работает гибрид: сначала человека ведёт обычная воронка, а модель подключается там, где она реально нужна — на вопросах по базе знаний и на глубокой квалификации. Вот четыре шага.

Шаг 1. Мягкая квалификация: три вопроса и польза за ответ. Бот спрашивает регион, сроки и бюджет. Не «заполните анкету», а обмен: выбрал регион — получает чек-лист по своему региону, выбрал бюджет — три подходящих примера работ. Контакт просят уже после того, как человек что-то получил. Отдавать данные «просто так» никто не любит, а за пользу — нормально.

Шаг 2. Сложный вопрос вместо кнопки. Человек не хочет кликать, он пишет абзацем. Здесь бот проверяет подписку на канал. Не подписан — честный ответ: «вопрос переслал менеджеру, но мгновенный ответ от ИИ-инженера можно получить сразу, если подпишетесь». Подписался — разговор продолжается уже с моделью. Побочный эффект: подписчик стоит ноль рублей.

Шаг 3. Консультант с лимитом. Модель отвечает строго в контексте компании: услуги, цены, сроки, условия. И с лимитом — например, десять запросов на человека. Хватает закрыть все вопросы по делу, не хватает, чтобы бесплатно писать диплом.

Шаг 4. Тиски. То, что чаще всего называют «дообучением», на самом деле решается системным промптом: роль, что можно, что нельзя, обязательный формат ответа, обязательная эскалация. Модели без тисков нельзя давать телефон клиента.

Как это выглядит в n8n

Telegram Webhook → нормализация → контекст из базы знаний → локальная LLM
      → JSON-решение → CRM + уведомление менеджеру + напоминание

Четыре детали, без которых схема живёт неделю.

Модель возвращает структуру, а не текст. На выходе JSON: намерение, регион, бюджет, срочность, следующий шаг, звать ли человека. n8n ветвится по полям. Свободный текст ветвить нечем, и красивый ответ бота воронку не двигает.

Низкая температура и короткий ответ. temperature 0.1–0.3, ограничение длины, обязательный формат. Модель, которой разрешили «поговорить свободно», начинает придумывать скидки.

Идемпотентность по chat_id + message_id. Без неё ретраи вебхука создают дубли сделок — и вы получаете ровно ту проблему, которую пришли решать.

Мягкая деградация. Модель недоступна или ответ не прошёл валидацию — диалог немедленно уходит человеку с пометкой в чат. Молчание хуже глупого ответа.

Сколько железа нужно на самом деле

Для квалификации и ответов на два-три предложения большие модели не нужны. Рабочая прикидка по памяти: 0,5–0,6 ГБ на миллиард параметров в квантовании Q4 плюс запас под контекст.

7–8B в Q4 — около 5–6 ГБ, то есть хватает видеокарты на 8 ГБ;
14B в Q4 — 10–12 ГБ, здесь уже нужна карта побольше;
без GPU 7B на процессоре выдаёт 3–8 токенов в секунду. На короткий структурированный ответ хватает, на живой диалог — нет.

Из моделей беру Qwen2.5-7B/14B-Instruct, Llama 3.1 8B, gemma2-9b — все достаточно держат русский. Рантайм: Ollama, чтобы попробовать за вечер, llama.cpp или vLLM, когда нужна плотная нагрузка и параллельные запросы.

Требование не к модели, а к латентности: ответ клиенту за 2–5 секунд. Не укладываетесь — сокращайте контекст и длину ответа, а не покупайте вторую видеокарту.

Где ИИ ломается

Этот раздел в чужих статьях пропускают, а у меня на него уходит половина времени сборки.

Галлюцинации про цены. Лечится не промптом, а архитектурой: цифры только из вашего прайса через поиск по базе, иначе — «уточню у специалиста». Модель физически не должна уметь называть цену.

«Бот хамит». Почти всегда это не характер модели, а отсутствие правил: когда можно шутить, когда нельзя, в какой момент звать человека. Проверяется на десятке реальных диалогов до запуска, а не после жалобы клиента.

Забывает контекст. Окно диалога плюс короткое резюме в сделку. Менеджер должен открыть карточку и понять, о чём говорили, не читая переписку.

Дубли и повторы. Идемпотентность плюс дедупликация по контакту: один человек — одна активная сделка.

Тишина при сбое. Health-check на модель и вебхук, алерт в чат. Скучно, но именно это спасает репутацию в понедельник утром.

Экономика: подписка против своего сервера

Считаю на пальцах, цифры примерные — подставьте свои тарифы.

Статья	Подписки и API	Локальный стек
Ежемесячно	3 000–10 000 ₽ и растёт с объёмом	100–300 ₽ электричество (или 500–1 500 ₽ аренда сервера)
Разово	0	0, если железо есть; 60 000–150 000 ₽, если покупать GPU
Предельная стоимость заявки	заметная	почти нулевая

При маленьком объёме подписка честно дешевле, и делать вид, что это не так, смысла нет. Свой стек выигрывает в трёх случаях: объём вырос, данные нельзя отдавать наружу или оплата зарубежных сервисов превратилась в отдельный проект. При подписках на 5–10 тысяч в месяц железо окупается за 6–18 месяцев, дальше стоимость обработки заявки падает почти до нуля.

Чек-лист на первые две недели

Выписать три сценария заявок, которые дают основную выручку. Не все — три.
Собрать вопросы, которые менеджер задаёт всегда: это будущий сценарий квалификации.
Положить в базу знаний прайс, условия, регламенты. Без этого ассистент начнёт фантазировать.
Поднять n8n и локальную модель, вручную прогнать двадцать реальных диалогов.
Описать JSON-схему ответа и правила ветвления.
Подключить CRM и проверить, что дублей нет.
Настроить уведомления, напоминания и алерт при сбое.
Две недели читать диалоги и править сценарий. Каналы расширять после.

Частые вопросы

Нужен ли программист?

Настройка n8n и промптов — работа инженера, но не разработка с нуля. Если вы собирали интеграции и понимаете, что такое вебхук и JSON, справитесь сами.

Придётся ли менять CRM?

Нет, бот пишет через её API. Менять имеет смысл только если в текущей нормального API нет — тогда это отдельный разговор.

Что с персональными данными?

Локальный контур здесь сильная сторона: переписка и контакты не уходят третьим лицам. Юридическая часть всё равно нужна — политика обработки, уведомление в Роскомнадзор, разумные сроки хранения.

А если модель ошибётся в цене?

Значит, она не должна иметь права называть цену. Цифры берутся из базы, нет цифры — эскалация человеку. Это настраивается до запуска, а не после инцидента.

Что дальше

Вторая половина той же задачи — техподдержка, где теряется не выручка, а время дорогих экспертов: ИИ в техподдержке без облака.

Хотите разобрать свою схему — напишите боту: три вопроса, дальше я смотрю задачу и присылаю план.