Rozhodovanie 5 min čítania

Umelá inteligencia vo firme: kde reálne pomáha a kde nie

Neukazujem, čo všetko AI vie. Ukazujem, kde sú jej hranice podľa dokumentácie samotných poskytovateľov a ako ich ošetriť, aby ste ju mohli rozumne použiť.

Umelá inteligencia vo firme: kde reálne pomáha a kde nie
Autor: Maksym Kamenchuk, Nexflow — Banská Bystrica Publikované Aktualizované

Jazykový model pomáha tam, kde výstup niekto skontroluje alebo kde sa dá odpoveď ukotviť vo vašich dokumentoch: pri práci s textom, triedení dopytov či odpovediach na otázky nad firemnými podkladmi. Nehodí sa tam, kde by jeho omyl zostal nepovšimnutý alebo by spôsobil nezvratnú škodu.

Dôvod je jednoduchý. Dokumentácia Anthropicu uvádza, že aj najvyspelejšie modely môžu niekedy generovať fakticky nesprávny text. Preto odporúčam nechať človeka schvaľovať nezvratné akcie a dávať pozor, aké údaje do modelu posielate.

Prečo AI niekedy píše nesprávne veci

Anthropic, poskytovateľ modelu Claude, to vo svojej dokumentácii priznáva: aj najvyspelejšie modely môžu niekedy generovať text, ktorý je fakticky nesprávny alebo nekonzistentný s daným kontextom. Tento jav sa nazýva „halucinácia“ a podľa dokumentácie môže podkopať spoľahlivosť riešení založených na AI. Zdroj: dokumentácia Anthropic.

Čo z toho vyplýva: správnosť výstupu nie je zaručená vždy, preto potrebujete spôsob, ako ju ošetriť.

Ako sa riziko nesprávnych odpovedí znižuje

Tá istá dokumentácia popisuje niekoľko základných techník:

Podľa mňa to nič nezaručuje, a preto výstupy dôležitých vecí aj tak odporúčam kontrolovať. Podobný princíp, teda odpovedanie z vašich dokumentov namiesto z pamäte modelu, používa AI asistent nad firemnými dátami. Ako funguje, popisujem v článku AI asistent nad firemnými dátami: ako funguje RAG.

Kde AI robí akcie: agent a ľudské schválenie

Iná situácia nastane, keď AI nielen píše, ale aj koná. V nástroji n8n uzol AI Agent spojí chatovací model s jedným alebo viacerými nástrojmi a agent sa sám rozhodne, ktorý nástroj zavolá na splnenie úlohy. Nástroje podľa dokumentácie využívajú externé služby a API na vykonávanie akcií a získavanie informácií.

Tu sa chyba modelu mení z nepresného textu na skutočnú akciu. V n8n je možné vyžadovať ľudské schválenie pred spustením konkrétneho nástroja. Workflow sa pozastaví a čaká, kým človek akciu schváli alebo zamietne. Dokumentácia uvádza, že kontrola je užitočná pri nezvratných akciách: mazanie údajov, odosielanie externých správ alebo nákupy. Zdroj: dokumentácia n8n.

Odporúčanie: všetko, čo sa nedá vziať späť, nech schváli človek. Správa zákazníkovi alebo zmazanie záznamu nemá ísť von bez kontroly.

Viac o agentoch nájdete na stránke AI agent pre firmu.

Ochrana údajov: čo odchádza do modelu

Keď workflow pošle text do jazykového modelu, údaje odchádzajú k poskytovateľovi modelu. Preto sa oplatí vedieť, ako s nimi naloží. Anthropic pri Claude API ponúka okrem iného dohodu o nulovom uchovávaní údajov (ZDR). Je to samostatná dohoda s Anthropic, nie automatické nastavenie.

Podrobnosti sú v dokumentácii Anthropic. Úrad na ochranu osobných údajov SR navyše upozorňuje, že na ďalšie nakladanie s osobnými údajmi, aj z verejne dostupných dokumentov, sa môže vzťahovať GDPR a že samotná dostupnosť dokumentu nie je právny základ na ich ďalšie uchovávanie či poskytovanie (dataprotection.gov.sk).

Nexflow neposkytuje daňové ani právne poradenstvo. Posúdenie súladu s GDPR patrí vášmu právnikovi alebo zodpovednej osobe.

Prehľad: kde pomáha a kde je riziko

ÚlohaRiziko chybyOdporúčaný postup
Návrh textu, zhrnutieNesprávny detail v texteČlovek skontroluje pred použitím
Odpovede z firemných dokumentovVymyslená odpoveďOdpoveď s citátom zo zdroja, možnosť „neviem“
Triedenie dopytovNesprávna kategóriaPri neistote odovzdať človeku
Odoslanie správy zákazníkoviNezvratná chyba navonokĽudské schválenie
Mazanie údajov, nákupyNezvratná škodaĽudské schválenie alebo nenechať AI

Ak je prvým krokom zákaznícka komunikácia, pozrite si AI chatbot pre firmu. Rozdiely medzi formátmi vysvetľuje AI agent vs chatbot vs automatizácia.

Kedy sa AI vo firme neoplatí

Päť otázok pred nasadením

  1. Čo sa stane, ak model odpovie nesprávne? Kto si to všimne?
  2. Je medzi akciami niečo nezvratné? Ak áno, kto to schváli?
  3. Aké údaje pôjdu k poskytovateľovi modelu a máte na to právny základ?
  4. Odpovedá model z vašich podkladov, alebo z pamäte?
  5. Ako vyzerá riešenie bez AI a bolo by lepšie?

Ceny orientačne nájdete v článku Koľko stojí AI automatizácia pre malú firmu?. Moja práca začína od 390 €.

Časté otázky

Môže sa AI vo firme mýliť?

Áno. Dokumentácia Anthropicu priznáva, že aj najvyspelejšie modely môžu generovať fakticky nesprávny text, tzv. halucináciu. Preto odporúčam kontrolu človekom pri dôležitých výstupoch a ukotvenie odpovedí vo vašich dokumentoch.

Ako znížiť množstvo nesprávnych odpovedí?

Podľa dokumentácie Anthropic pomáha explicitne dovoliť modelu povedať „neviem“, pri dlhých dokumentoch najprv vytiahnuť doslovné citáty a požadovať citáty pre každé tvrdenie. Podľa mňa to správnosť nezaručuje, preto dôležité výstupy odporúčam kontrolovať.

Má AI sama odosielať e-maily zákazníkom?

Odporúčam to nenechávať bez kontroly. n8n umožňuje pozastaviť workflow a vyžiadať ľudské schválenie pred spustením nástroja a dokumentácia uvádza odosielanie externých správ medzi prípadmi, kde je kontrola užitočná.

Používa poskytovateľ modelu moje údaje na trénovanie?

Anthropic v dokumentácii k nulovému uchovávaniu uvádza, že ak funkcia vyžaduje uchovávanie, údaje sa nepoužívajú na trénovanie bez výslovného povolenia. ZDR je pritom samostatná dohoda, nie automatické nastavenie. Konkrétne podmienky si overte u poskytovateľa a prípadne s právnikom.

Kedy stačí obyčajná automatizácia bez AI?

Keď má úloha pevné pravidlá a dá sa zapísať ako „ak A, tak B“. Podľa mňa v takom prípade stačí bežná automatizácia bez jazykového modelu.

Zdroje

Súvisiace služby

SlužbaAI agent pre firmu SlužbaAI asistent nad firemnými dátami

Súvisiace články

RozhodovanieAI agent vs chatbot vs automatizácia: čo potrebujete SprievodcaAI asistent nad firemnými dátami: ako funguje RAG SprievodcaČo automatizovať vo firme ako prvé

Neviete, či sa AI vo vašej firme oplatí?

Opíšte mi úlohu, ktorú chcete zjednodušiť. Poviem vám, či na ňu treba AI, alebo stačí obyčajná automatizácia, a kde by som nechal rozhodovať človeka.

Opísať úlohu →