RAG / База знань
AI-асистент над корпоративними даними
Асистент, який відповідає з ваших документів — і при кожній відповіді показує, з якого саме. Для компаній, де відповідь знайти можна, просто це триває задовго.
RAG (retrieval-augmented generation) — це підхід, за якого мовна модель відповідає не з того, що вивчила під час тренування, а з ваших документів. Запитання спершу знаходить релевантні фрагменти у вашій документації, і модель відповідає лише з них — із посиланням на джерело.
Так вирішується головна проблема звичайних чат-ботів: коли в моделі немає підстави, їй нема чого вигадувати. Типові впровадження: внутрішній асистент над процедурами, договорами, технічною документацією чи прайсами. Обсяг і ціна залежать від кількості документів і ладу в них — реальні проєкти починаються від 1 200 €.
Коли це має сенс
RAG-асистент не вирішує брак інформації. Він вирішує ситуацію, коли інформація є, але знайти її довше, ніж мало б бути:
Внутрішні процедури
Працівники питають те саме — порядок дій, винятки, хто що затверджує. Відповідь є в регламенті, якого ніхто не читає повністю.
Технічна документація
Інструкції, специфікації, каталожні листи. І підтримці, і продажам потрібна швидка й точна відповідь.
Договори й умови
Запитання на кшталт «що ми пообіцяли цьому клієнту» зараз вирішуються відкриванням PDF-файлів.
Онбординг
Нова людина перший місяць питає про речі, які десь записані — просто вона не знає де.
Якщо ваші запитання стосуються не документів, а клієнтів і товарів, ви радше шукаєте AI чат-бота. Якщо на підставі відповіді треба ще й діяти — це AI-агент.
Як це працює
- Документи опрацьовуються. Файли зчитуються й діляться на осмислені частини — не механічно за кількістю знаків, а за структурою документа.
- Будується індекс. Кожна частина отримує векторне представлення, що дозволяє шукати за змістом, а не за точним словом.
- Запитання знаходить підставу. При запитанні знаходяться найрелевантніші фрагменти з ваших документів.
- Модель відповідає зі знайденого. Мовна модель отримує запитання разом зі знайденими фрагментами й відповідає лише з них.
- Відповідь показує джерело. При кожній відповіді видно, з якого документа й з якої частини вона походить, — щоб її можна було перевірити.
Останній крок при корпоративному впровадженні принциповий. Відповідь без джерела перевірити неможливо, а тому, чого не можна перевірити, люди після першої ж помилки перестають довіряти.
Докладно — як документи діляться на частини, що робить векторна база, як обрати модель і де межі — я розбираю в статті AI-асистент над даними компанії: як працює і що потрібно.
Що визначає якість
У RAG-проєктах вирішує не вибір моделі чи інструмента. Вирішує ось це:
- Якість документів. Актуальні, однозначні й недубльовані матеріали. Якщо в обігу три версії одного регламенту, асистент відповідатиме плутано — точно як людина.
- Поділ на частини. Поганий поділ тексту — найчастіша причина поганих відповідей: відповідь розпадається між двома частинами, і жодна не має сенсу окремо.
- Обсяг. Вузько окреслена область працює помітно краще, ніж «усі корпоративні документи». Тому починаємо з однієї теми.
- Права й чутливість. Треба вирішити, хто що має право дізнатися. Асистент не повинен показувати регламент про зарплати тому, хто до нього доступу не має.
- Оновлення. Документи змінюються. Без процесу оновлення індексу асистент через півроку відповідатиме зі старих версій.
Чого RAG не вирішує
Він не замінить лад у документах. Якщо ніхто не знає, яка версія чинна, асистент цього не виправить — лише зробить видимим. До речі, це часто найкорисніший результат першого тижня.
Він не гарантує безпомилковості. Модель може помилитися й при правильно знайденій підставі. Тому відповідь завжди показує джерело, а при важливих речах призначена для перевірки, а не для сліпого прийняття.
Це не юридичний і не податковий висновок. Асистент знаходить те, що є у ваших документах. Він не оцінює, чи це правильно й чи відповідає закону.
Він має витрати на експлуатацію. Кожне запитання — це пошук і звернення до моделі. При великому обсязі це треба рахувати наперед.
Куди йдуть ваші документи
Це найчастіше й найобґрунтованіше запитання в RAG-проєктах, тому вирішую його одразу в пропозиції:
- Індекс може працювати у вас. Пошукову частину можна запустити у вашій інфраструктурі — документи її не залишають.
- Модель — окреме рішення. При зовнішній моделі (Claude, GPT) знайдені фрагменти надсилаються постачальнику. Ви отримуєте це точно описаним.
- Обсяг можна обмежити. Чутливі категорії документів можна виключити з індексу повністю.
- Права доступу. Асистент може враховувати, хто до яких документів має доступ.
Nexflow не надає юридичних консультацій. При обробці персональних даних чи чутливої документації раджу оцінку з вашим DPO ще до запуску — технічний опис того, куди реально йдуть дані, охоче надам.
Скільки це коштує
- від 1 200 €Асистент над однією окресленою темою — обмежений набір документів, один канал, відповіді з джерелами.
- індивідуальноКілька тем, права доступу, робота індексу у вашій інфраструктурі, підключення до внутрішніх систем.
RAG — єдина послуга, для якої я відмовляюся давати діапазон «від 390 €». Чесне впровадження включає підготовку документів, тестування відповідей на реальних запитаннях і вирішення прав доступу — це не робиться за кілька годин. До впровадження треба додати експлуатацію індексу й витрати на API моделі.
Раджу починати з пілота над однією темою. На ньому стане видно і якість ваших матеріалів, і реальну користь — і це значно дешевше, ніж з’ясувати це на проєкті для всієї компанії.
Часті запитання
Що таке RAG?
RAG (retrieval-augmented generation) — це підхід, за якого мовна модель відповідає на основі документів, знайдених під конкретне запитання, а не з тренувальних даних. Завдяки цьому вона знає вашу внутрішню інформацію й може показати, звідки взяла відповідь.
Чим це відрізняється від звичайного чат-бота?
Звичайний чат-бот відповідає з того, що ви вклали в інструкції, або з тренування моделі. RAG-асистент при кожному запитанні шукає у вашій документації й відповідає зі знайдених фрагментів — тож охоплює обсяг, який в інструкції не помістився б, і вміє сказати, звідки взяв відповідь.
Які документи він опрацює?
Звичайні корпоративні формати — документи, PDF, таблиці, внутрішні сторінки. Ключове не формат, а те, чи вони актуальні й однозначні. Скановані документи без текстового шару треба спершу опрацювати.
Чи може асистент вигадати відповідь?
Ризик суттєво знижується тим, що модель відповідає лише зі знайдених фрагментів і показує джерело. Повністю виключити його неможливо, тому асистент впроваджується як спосіб швидко знайти інформацію, а не як остаточний авторитет для рішень із наслідками.
Чи мають наші документи йти в хмару?
Пошукову частину можна запустити у вашій інфраструктурі. При використанні зовнішньої моделі знайдені фрагменти надсилаються постачальнику — у пропозиції точно описано, що надсилається і що можна виключити.
Скільки це коштує?
Асистент над однією окресленою темою — від 1 200 €. Більші рішення з правами доступу й роботою у вашій інфраструктурі оцінюються індивідуально. До цього треба рахувати експлуатацію індексу й витрати на API моделі за кількістю запитань.
Як це підтримувати в актуальному стані?
Частиною впровадження є процес оновлення — коли документ змінюється, індекс оновлюється. Без цього асистент згодом відповідав би зі старих версій, що гірше, ніж не мати його взагалі.
З чого почати, якщо ми не впевнені?
З пілота над однією темою — наприклад, внутрішні процедури або документація одного продукту. На ньому стане видно і якість матеріалів, і реальну користь, без інвестиції в рішення для всієї компанії.
Джерела
- Anthropic — офіційна документація — робота з контекстом і цитування джерел
- n8n — офіційна документація — вузли для роботи з векторними базами
Пов’язані статті
Пов’язані роботи
Пов’язані послуги
Є тема, де відповідь знайти можна, але це триває задовго?
Напишіть, яких документів це стосується і хто питає. Скажу, чи підходить це для RAG і що варто виправити в матеріалах ще до початку.
Хочу безкоштовну консультацію →