Sprievodca 5 min čítania

AI asistent nad firemnými dátami: ako funguje, čo potrebuje a aké sú limity

Vysvetlím, ako RAG asistent hľadá odpovede vo vašich dokumentoch, čo musíte pripraviť vy a kde sú jeho hranice, bez technického žargónu.

AI asistent nad firemnými dátami: ako funguje, čo potrebuje a aké sú limity
Autor: Maksym Kamenchuk, Nexflow — Banská Bystrica Publikované Aktualizované

AI asistent nad firemnými dátami sa zvyčajne stavia technikou RAG (Retrieval-Augmented Generation). Je to technika, ktorá zlepšuje odpovede AI tým, že jazykový model prepojí s externým zdrojom dát. Dokumentácia n8n ju takto definuje.

Asistent na otázku najprv nájde relevantné časti vašich dokumentov a až z nich model zostaví odpoveď. Nespolieha sa len na vlastné trénovacie dáta, ale aj na vaše vlastné podklady.

Potrebujete preto dokumenty v použiteľnej podobe, vektorovú databázu a jazykový model. Kvalita odpovedí závisí od podkladov a od toho, ako sa texty rozdelia.

Ako RAG asistent funguje

Bežný jazykový model sa opiera o svoje trénovacie dáta. Vaše interné smernice, cenníky či zmluvy spravidla nepozná. RAG tento problém rieši tak, že pred odpoveďou vyhľadá relevantné dokumenty a odpoveď o ne oprie (n8n dokumentácia).

  1. Príprava dokumentov. Dokumenty sa nahrajú do vektorovej databázy, ktorá ich rozdelí na časti (anglicky chunks).
  2. Prevod na vektory. Každá časť sa pomocou tzv. embedding modelu prevedie na vektor, teda číselnú reprezentáciu textu.
  3. Otázka používateľa. Systém nájde časti s najpodobnejším významom.
  4. Odpoveď. Jazykový model dostane nájdené časti a z nich vytvorí odpoveď podloženú vašimi dokumentmi.

Vektorová databáza je špeciálna databáza určená na ukladanie a vyhľadávanie vektorov. Vyhľadáva podľa významu, nie podľa zhody kľúčových slov (n8n dokumentácia). Zákazník sa teda môže opýtať inými slovami, než sú v dokumente, a správna pasáž sa napriek tomu môže nájsť.

Ako RAG asistent odpovedáAko RAG asistent odpovedá1 · Príprava dokumentov• Nahratie do vektorovej databázy• Rozdelenie na časti (chunks)2 · Prevod na vektory• Embedding model• Číselná reprezentácia textu3 · Otázka používateľa• Nájdu sa časti s najpodobnejším významom4 · Odpoveď• Jazykový model dostane nájdené časti• Odpoveď podložená dokumentmi
Schéma. Ilustrácia procesu: od dokumentov po odpoveď.

Čo na to potrebujete

Zdrojové dokumenty

Texty, ktoré majú byť zdrojom odpovedí: príručky, interné postupy, produktové listy. Odporúčam, aby boli jasné a aktuálne, lebo asistent sa o ne opiera.

Embedding model

Prevádza texty na vektory. Môže to byť napríklad model od OpenAI (príklad workflow v n8n).

Vektorová databáza

Uchováva vektory a vyhľadáva v nich podľa podobnosti významu.

Jazykový model

Z nájdených častí zostaví odpoveď v prirodzenej reči.

Embedding model a jazykový model nemusia pochádzať od jedného dodávateľa. Napríklad Anthropic vlastný embedding model neponúka (dokumentácia Anthropic).

Prečo záleží na rozdelení textu

Asistent nepracuje s celým dokumentom naraz, ale s jeho časťami. Podľa n8n sú malé časti (napríklad 200 až 500 tokenov) vhodné na presné vyhľadávanie. Veľké časti nesú viac kontextu, no môžu byť rozriedené alebo zašumené (n8n dokumentácia). Token je zjednodušene kúsok textu, v ktorých jazykové modely text počítajú.

Dôležité je aj prekrytie susedných častí, aby AI porozumela kontextu každej z nich. Pomôcť môže delenie podľa štruktúry, napríklad Markdown (n8n dokumentácia).

Dôsledok pre vás: správne nastavenie delenia závisí od vašich dát. Nie je to univerzálne číslo a odpovede odporúčam po nastavení vyskúšať na reálnych otázkach.

Ako udržať znalosti aktuálne

Dokumenty sa menia, preto sa oplatí uvažovať o napojení asistenta na zdroj namiesto ručného plnenia. V ukážkovom workflow pre n8n sa dokumenty z Google Drive synchronizujú s vektorovou databázou automaticky, bez manuálneho zásahu (workflow v n8n). Pri inom zdroji dokumentov treba takéto napojenie nastaviť samostatne.

Odpoveď potom vychádza z nájdených častí dokumentov, nie len z vedomostí modelu, takže je založená na zdrojoch (workflow v n8n).

Ochrana dát a GDPR

Pri RAG putujú vaše texty do viacerých služieb: embedding modelu, vektorovej databázy a jazykového modelu. Pri návrhu preto treba vedieť, kde sa jednotlivé časti spracúvajú a s kým uzatvárate zmluvy.

Komunitné workflow pre n8n popisuje možnosť smerovať volania AI cez európsku infraštruktúru služby Requesty. Podľa autora workflow tým zabezpečí ochranu súkromia (workflow v n8n). Je to tvrdenie autora workflow, nie overený fakt a rozhodne nie záruka súladu.

Súlad s GDPR neurčuje nástroj, ale zákonnosť spracúvania, informovanie osôb a zmluvy so sprostredkovateľmi. Pred nahraním dokumentov s osobnými údajmi odporúčam konzultovať právnika alebo zodpovednú osobu. Nexflow neposkytuje daňové ani právne poradenstvo.

O prevádzke automatizácií na vlastnom serveri píšem v článku n8n self-hosted pre firmu.

Limity RAG asistenta

Kedy sa to neoplatí

Moja práca začína od 390 €. Podrobnejšie je to rozpísané v článku Koľko stojí AI automatizácia pre malú firmu.

Časté otázky

Čo je RAG jednoducho povedané?

Je to technika, pri ktorej AI pred odpoveďou vyhľadá relevantné časti vašich dokumentov a odpoveď z nich zostaví. Podľa dokumentácie n8n sa tak model nespolieha len na svoje trénovacie dáta, ale aj na vlastné znalosti firmy.

Musím model trénovať na svojich dátach?

Pri RAG sa model nespolieha len na trénovacie dáta, ale vyhľadá relevantné časti vašich dokumentov a použije ich ako podklad odpovede. Ako konkrétne s dátami nakladá vybraná služba, treba si zistiť v jej podmienkach.

Aké dokumenty sú vhodné?

Texty, v ktorých sa dá nájsť odpoveď: príručky, interné postupy, produktové informácie. Odporúčam, aby boli jasné a aktuálne. Spôsob delenia na časti sa prispôsobuje konkrétnym dátam.

Dajú sa znalosti asistenta držať aktuálne bez ručnej práce?

V ukážkovom workflow pre n8n sa zmeny dokumentov z Google Drive prenášajú do vektorovej databázy automaticky. Pri inom zdroji dokumentov treba takéto napojenie nastaviť samostatne.

Je to v súlade s GDPR?

Záleží na tom, aké dáta nahrávate, kam putujú a aké máte zmluvy so sprostredkovateľmi. Nástroj sám súlad nezaručí. Nexflow neposkytuje daňové ani právne poradenstvo, preto odporúčam posúdenie s právnikom alebo zodpovednou osobou.

Kedy RAG asistent nestačí?

Keď chýbajú podklady, keď má AI vykonávať akcie alebo keď musí byť každá odpoveď bezchybná bez kontroly. Vtedy treba iné riešenie alebo doplniť kontrolu človekom.

Zdroje

Súvisiace služby

SlužbaAI asistent nad firemnými dátami SlužbaAI chatbot pre firmu

Súvisiace články

RozhodovanieAI agent vs chatbot vs automatizácia: čo potrebujete Technickén8n self-hosted pre firmu: cena VPS, zálohy a GDPR CenyKoľko stojí AI automatizácia pre malú firmu?

Rozmýšľate nad asistentom pre svoje dokumenty?

Opíšte mi, aké dokumenty máte a na aké otázky by mal asistent odpovedať. Poviem vám úprimne, či sa RAG oplatí, alebo stačí jednoduchšie riešenie.

Chcem bezplatnú konzultáciu →