ИИ, который отвечает по документам компании
Подключаем модель к документам, базам знаний, CRM и внутренним системам. Сотрудник спрашивает обычными словами и получает ответ со ссылкой на источник — вместо часа поиска по папкам и переписке.
Аудит источников — 1–2 недели. Пилот с измеренным качеством — 4–8 недель
Знания в компании есть,
но добраться до них нельзя
RAG нужен не потому, что это модно, а потому что поиск по документам руками перестаёт работать на объёме.
Знания есть, найти их нельзя
Регламенты в PDF, решения в переписке, опыт в головах. Новый сотрудник месяц спрашивает коллег то, что уже написано.
Обычный ChatGPT не знает вашу компанию
Модель отвечает общими словами, потому что не видит ваших документов, продуктов и ограничений. Ответ звучит уверенно и оказывается неверным.
Ответ без источника бесполезен
Если систему нельзя проверить, ей не будут доверять в вопросах, где цена ошибки высокая — а именно там она и нужна.
Пилот на десяти документах ничего не доказывает
На маленькой выборке работает почти всё. Проблемы начинаются на реальном объёме, версионности и противоречиях между документами.
Что мы делаем
при внедрении RAG
Качество RAG определяется данными и поиском, а не выбором модели. Поэтому работа устроена именно в таком порядке.
Подготовка корпуса знаний
Разбираем, что и где лежит: документы, базы, CRM, вики, переписка. Приводим к единому виду, режем на фрагменты, убираем устаревшее и дубли.
Источник правды →Гибридный поиск по знаниям
Векторный поиск в связке с полнотекстовым и фильтрами по метаданным: отделу, продукту, дате, уровню доступа.
Находит то, что нужно →Генерация со ссылкой на источник
Модель отвечает только на основе найденных фрагментов и показывает, откуда взят ответ. Не нашла — так и говорит, а не придумывает.
Ответ можно проверить →Evals и регресс-тесты
Набор эталонных вопросов и автоматическая проверка ответов. При смене модели или промпта сразу видно, стало лучше или хуже.
Управляемое качество →Разграничение прав
Сотрудник видит в ответах только то, к чему у него есть доступ. Права наследуются из ваших систем, а не настраиваются отдельно.
Безопасно по умолчанию →On-premise и закрытый контур
Локальные модели и хранилище внутри вашей инфраструктуры, если документы нельзя отправлять наружу.
Данные не покидают периметр →Как измеряется качество
RAG без замеров — это красивое демо. Ниже показатели, которые мы фиксируем до и после.
Цифры появляются после замеров на вашем корпусе документов. До этого честный ответ один: зависит от того, в каком состоянии знания. Поэтому мы начинаем с аудита данных, а не с обещаний.
Этапы внедрения
Аудит источников знаний
Смотрим, где лежат документы, в каком они состоянии, кто ими владеет и какие вопросы задают сотрудники чаще всего.
1–2 неделиПилот на одном домене
Берём один отдел или продукт, собираем корпус, поднимаем поиск и генерацию, готовим эталонный набор вопросов и меряем качество.
4–8 недельВнедрение в рабочие инструменты
Встраиваем ответы туда, где люди работают: внутренний портал, мессенджер, CRM. Настраиваем права и логирование.
от 2 недельРазвитие корпуса и качества
Добавляем источники, дообучаем поиск на реальных запросах, следим за evals при обновлении моделей.
постоянноRAG и LLM — то, что мы
доводим до эксплуатации
Работа с корпоративными знаниями, интеграции с внутренними системами и полный цикл разработки решений на LLM.
Кейсы Strikt
Проекты, которые мы довели до эксплуатации. Полный список — на странице кейсов.
Почему Strikt
Начинаем с данных, а не с модели
Качество RAG определяется корпусом и поиском, а не тем, какая модель стоит на генерации. Поэтому первый этап — аудит знаний.
Ответ всегда со ссылкой
Систему, которую нельзя проверить, не используют в важных вопросах. Мы показываем источник и честно говорим, когда ответа нет.
Меряем качество, а не демонстрируем
Эталонный набор вопросов и регресс-тесты при смене модели. Улучшения подтверждаются цифрами.
Полный цикл
От архитектуры до поддержки: в проекте для «Яппи» мы вели решения на LLM и RAG от бизнес-задачи до эксплуатации.
Мы будем вам полезны, если…
- Сотрудники тонут в документах — поиск нужного регламента занимает больше времени, чем сама задача
- Онбординг долгий — новичок месяцами дёргает коллег вопросами, ответы на которые уже написаны
- Поддержка отвечает на одно и то же — типовые вопросы клиентов и сотрудников закрываются вручную
- Пробовали ChatGPT и разочаровались — модель не знает вашего контекста и уверенно выдумывает
- Документы нельзя выносить наружу — нужен закрытый контур и локальные модели
Вопросы про
RAG-системы
Что такое RAG простыми словами?
Retrieval-Augmented Generation — генерация с опорой на поиск. Система сначала находит в ваших документах фрагменты, относящиеся к вопросу, и только потом просит модель сформулировать ответ на их основе. Поэтому ответ опирается на ваши данные, а не на общие знания модели, и к нему можно приложить ссылку на источник.
Чем это лучше, чем просто загрузить документы в ChatGPT?
На десятке файлов разницы почти нет. Она появляется на реальном объёме: нужен нормальный поиск по тысячам документов, учёт версий и прав доступа, отсечение устаревшего, проверка качества ответов и работа в закрытом контуре. Это и есть RAG-система, а не чат с прикреплённым файлом.
Что если в документах противоречия?
Это нормальная ситуация, и она вскрывается на аудите. Варианты: приоритет источников по дате и статусу, явная пометка устаревших документов, вывод нескольких версий ответа со ссылками. Главное — не прятать противоречие, а показать его человеку.
Система будет выдумывать?
Риск снижается тем, что модель отвечает только на основе найденных фрагментов и обязана указать источник. Если релевантных фрагментов не нашлось, корректный ответ — «в документах этого нет». Плюс evals: набор эталонных вопросов, на которых мы регулярно проверяем систему.
Данные останутся внутри компании?
Да, если это требование. Контур подбираем по нарастанию строгости: корпоративные тарифы с zero data retention, прокси-шлюзы, полностью локальные модели и хранилище в вашей инфраструктуре.
Сколько времени занимает внедрение?
Аудит источников — 1–2 недели. Рабочий пилот на одном домене знаний с измеренным качеством — 4–8 недель. Дальше расширение на другие отделы идёт быстрее: архитектура и проверки уже готовы.
Покажем, что даст RAG на ваших документах
Расскажите, где лежат знания и какие вопросы задают сотрудники — оценим состояние данных, предложим архитектуру и сценарий пилота с измеримым качеством.