Umelá inteligencia vo firme: kde reálne pomáha a kde nie
Neukazujem, čo všetko AI vie. Ukazujem, kde sú jej hranice podľa dokumentácie samotných poskytovateľov a ako ich ošetriť, aby ste ju mohli rozumne použiť.
Jazykový model pomáha tam, kde výstup niekto skontroluje alebo kde sa dá odpoveď ukotviť vo vašich dokumentoch: pri práci s textom, triedení dopytov či odpovediach na otázky nad firemnými podkladmi. Nehodí sa tam, kde by jeho omyl zostal nepovšimnutý alebo by spôsobil nezvratnú škodu.
Dôvod je jednoduchý. Dokumentácia Anthropicu uvádza, že aj najvyspelejšie modely môžu niekedy generovať fakticky nesprávny text. Preto odporúčam nechať človeka schvaľovať nezvratné akcie a dávať pozor, aké údaje do modelu posielate.
Prečo AI niekedy píše nesprávne veci
Anthropic, poskytovateľ modelu Claude, to vo svojej dokumentácii priznáva: aj najvyspelejšie modely môžu niekedy generovať text, ktorý je fakticky nesprávny alebo nekonzistentný s daným kontextom. Tento jav sa nazýva „halucinácia“ a podľa dokumentácie môže podkopať spoľahlivosť riešení založených na AI. Zdroj: dokumentácia Anthropic.
Čo z toho vyplýva: správnosť výstupu nie je zaručená vždy, preto potrebujete spôsob, ako ju ošetriť.
Ako sa riziko nesprávnych odpovedí znižuje
Tá istá dokumentácia popisuje niekoľko základných techník:
- Dovoliť modelu povedať „neviem“. Explicitné povolenie priznať neistotu podľa dokumentácie môže výrazne znížiť falošné informácie.
- Ukotviť odpoveď v citátoch. Pri dlhých dokumentoch (nad 20 000 tokenov, teda jednotiek, na ktoré model text delí) možno model požiadať, aby najprv vytiahol doslovné citáty a až potom plnil úlohu. Odpoveď je tak ukotvená v skutočnom texte.
- Nechať ho citovať zdroje. Odpoveď sa dá audítovať, ak model uvedie citát pre každé tvrdenie. Ak podporný citát nenájde, musí tvrdenie odvolať.
Podľa mňa to nič nezaručuje, a preto výstupy dôležitých vecí aj tak odporúčam kontrolovať. Podobný princíp, teda odpovedanie z vašich dokumentov namiesto z pamäte modelu, používa AI asistent nad firemnými dátami. Ako funguje, popisujem v článku AI asistent nad firemnými dátami: ako funguje RAG.
Kde AI robí akcie: agent a ľudské schválenie
Iná situácia nastane, keď AI nielen píše, ale aj koná. V nástroji n8n uzol AI Agent spojí chatovací model s jedným alebo viacerými nástrojmi a agent sa sám rozhodne, ktorý nástroj zavolá na splnenie úlohy. Nástroje podľa dokumentácie využívajú externé služby a API na vykonávanie akcií a získavanie informácií.
Tu sa chyba modelu mení z nepresného textu na skutočnú akciu. V n8n je možné vyžadovať ľudské schválenie pred spustením konkrétneho nástroja. Workflow sa pozastaví a čaká, kým človek akciu schváli alebo zamietne. Dokumentácia uvádza, že kontrola je užitočná pri nezvratných akciách: mazanie údajov, odosielanie externých správ alebo nákupy. Zdroj: dokumentácia n8n.
Odporúčanie: všetko, čo sa nedá vziať späť, nech schváli človek. Správa zákazníkovi alebo zmazanie záznamu nemá ísť von bez kontroly.
Viac o agentoch nájdete na stránke AI agent pre firmu.
Ochrana údajov: čo odchádza do modelu
Keď workflow pošle text do jazykového modelu, údaje odchádzajú k poskytovateľovi modelu. Preto sa oplatí vedieť, ako s nimi naloží. Anthropic pri Claude API ponúka okrem iného dohodu o nulovom uchovávaní údajov (ZDR). Je to samostatná dohoda s Anthropic, nie automatické nastavenie.
- Pri dohode ZDR Anthropic neukladá výzvy ani odpovede zákazníka po vrátení odpovede API.
- Ak funkcia ukladanie nevyhnutne vyžaduje, uchovávané údaje sa podľa dokumentácie nepoužívajú na trénovanie modelov bez výslovného povolenia a uchováva sa len to, čo je technicky nutné.
- Obsah konverzácie sa štandardne neuchováva. Výnimkou sú určité modely, ktoré Anthropic v dokumentácii označuje ako Covered Models a ktoré vyžadujú 30-dňové uchovanie.
Podrobnosti sú v dokumentácii Anthropic. Úrad na ochranu osobných údajov SR navyše upozorňuje, že na ďalšie nakladanie s osobnými údajmi, aj z verejne dostupných dokumentov, sa môže vzťahovať GDPR a že samotná dostupnosť dokumentu nie je právny základ na ich ďalšie uchovávanie či poskytovanie (dataprotection.gov.sk).
Nexflow neposkytuje daňové ani právne poradenstvo. Posúdenie súladu s GDPR patrí vášmu právnikovi alebo zodpovednej osobe.
Prehľad: kde pomáha a kde je riziko
| Úloha | Riziko chyby | Odporúčaný postup |
|---|---|---|
| Návrh textu, zhrnutie | Nesprávny detail v texte | Človek skontroluje pred použitím |
| Odpovede z firemných dokumentov | Vymyslená odpoveď | Odpoveď s citátom zo zdroja, možnosť „neviem“ |
| Triedenie dopytov | Nesprávna kategória | Pri neistote odovzdať človeku |
| Odoslanie správy zákazníkovi | Nezvratná chyba navonok | Ľudské schválenie |
| Mazanie údajov, nákupy | Nezvratná škoda | Ľudské schválenie alebo nenechať AI |
Ak je prvým krokom zákaznícka komunikácia, pozrite si AI chatbot pre firmu. Rozdiely medzi formátmi vysvetľuje AI agent vs chatbot vs automatizácia.
Kedy sa AI vo firme neoplatí
- Keď úloha má pevné pravidlá. Ak sa dá postup zapísať ako „ak nastane A, urob B“, podľa mňa stačí bežná automatizácia bez jazykového modelu. Pozrite automatizáciu firemných procesov.
- Keď si omyl nikto nevšimne. Ak výstup nikto nekontroluje a chyba má následky, AI na to nedávajte.
- Keď nemáte vyriešené, aké údaje smú von. Kým neviete, či môžete osobné údaje poslať poskytovateľovi modelu, nezačínajte.
- Keď nie je jasný problém. AI pre samotnú AI nič nerieši. Začnite úlohou, ktorá vám berie čas, a o poradí rozhodnite podľa článku Čo automatizovať vo firme ako prvé.
Päť otázok pred nasadením
- Čo sa stane, ak model odpovie nesprávne? Kto si to všimne?
- Je medzi akciami niečo nezvratné? Ak áno, kto to schváli?
- Aké údaje pôjdu k poskytovateľovi modelu a máte na to právny základ?
- Odpovedá model z vašich podkladov, alebo z pamäte?
- Ako vyzerá riešenie bez AI a bolo by lepšie?
Ceny orientačne nájdete v článku Koľko stojí AI automatizácia pre malú firmu?. Moja práca začína od 390 €.
Časté otázky
Môže sa AI vo firme mýliť?
Áno. Dokumentácia Anthropicu priznáva, že aj najvyspelejšie modely môžu generovať fakticky nesprávny text, tzv. halucináciu. Preto odporúčam kontrolu človekom pri dôležitých výstupoch a ukotvenie odpovedí vo vašich dokumentoch.
Ako znížiť množstvo nesprávnych odpovedí?
Podľa dokumentácie Anthropic pomáha explicitne dovoliť modelu povedať „neviem“, pri dlhých dokumentoch najprv vytiahnuť doslovné citáty a požadovať citáty pre každé tvrdenie. Podľa mňa to správnosť nezaručuje, preto dôležité výstupy odporúčam kontrolovať.
Má AI sama odosielať e-maily zákazníkom?
Odporúčam to nenechávať bez kontroly. n8n umožňuje pozastaviť workflow a vyžiadať ľudské schválenie pred spustením nástroja a dokumentácia uvádza odosielanie externých správ medzi prípadmi, kde je kontrola užitočná.
Používa poskytovateľ modelu moje údaje na trénovanie?
Anthropic v dokumentácii k nulovému uchovávaniu uvádza, že ak funkcia vyžaduje uchovávanie, údaje sa nepoužívajú na trénovanie bez výslovného povolenia. ZDR je pritom samostatná dohoda, nie automatické nastavenie. Konkrétne podmienky si overte u poskytovateľa a prípadne s právnikom.
Kedy stačí obyčajná automatizácia bez AI?
Keď má úloha pevné pravidlá a dá sa zapísať ako „ak A, tak B“. Podľa mňa v takom prípade stačí bežná automatizácia bez jazykového modelu.
Zdroje
- Reduce hallucinations - Claude Platform Docs — overené 14. 11. 2026
- AI Agent | Nodes — overené 14. 11. 2026
- Tools Agent | Nodes — overené 14. 11. 2026
- Human-in-the-loop for tools | Build — overené 14. 11. 2026
- API and data retention - Claude Platform Docs — overené 14. 11. 2026
- Úrad na ochranu osobných údajov — overené 14. 11. 2026
Súvisiace služby
Súvisiace články
Neviete, či sa AI vo vašej firme oplatí?
Opíšte mi úlohu, ktorú chcete zjednodušiť. Poviem vám, či na ňu treba AI, alebo stačí obyčajná automatizácia, a kde by som nechal rozhodovať človeka.
Opísať úlohu →