Вибір 6 хв читання

Штучний інтелект у фірмі: де реально допомагає, а де ні

Я не показую, що все вміє ШІ. Я показую, де його межі за документацією самих провайдерів і як їх врахувати, щоб ви могли розумно його застосовувати.

Штучний інтелект у фірмі: де реально допомагає, а де ні
Автор: Maksym Kamenchuk, Nexflow — Banská Bystrica Опубліковано Оновлено

Мовна модель допомагає там, де результат хтось перевіряє або де відповідь можна прив'язати до ваших документів: у роботі з текстом, сортуванні запитів чи відповідях на запитання за внутрішніми матеріалами фірми. Вона не годиться там, де її помилка залишилася б непоміченою або завдала б непоправної шкоди.

Причина проста. Документація Anthropic зазначає, що навіть найдосконаліші моделі можуть іноді генерувати фактично неправильний текст. Тому раджу доручати людині схвалювати незворотні дії та стежити, які дані ви надсилаєте в модель.

Чому ШІ іноді пише неправильні речі

Anthropic, провайдер моделі Claude, визнає це у своїй документації: навіть найдосконаліші моделі можуть іноді генерувати текст, який є фактично неправильним або не узгоджується з наданим контекстом. Це явище називають «галюцинацією», і за документацією воно може підірвати надійність рішень на основі ШІ. Джерело: документація Anthropic.

Що з цього випливає: правильність результату гарантована не завжди, тому потрібен спосіб це враховувати.

Як знижують ризик неправильних відповідей

Та сама документація описує кілька базових технік:

На мою думку, це нічого не гарантує, тому результати важливих речей я все одно раджу перевіряти. Подібний принцип, тобто відповідь на основі ваших документів, а не з пам'яті моделі, використовує ШІ-асистент над даними фірми. Як він працює, я описую в статті ШІ-асистент над даними фірми: як працює RAG.

Де ШІ виконує дії: агент і схвалення людиною

Інша ситуація виникає, коли ШІ не лише пише, а й діє. У n8n вузол AI Agent поєднує чат-модель з одним або кількома інструментами, і агент сам вирішує, який інструмент викликати для виконання завдання. Інструменти, за документацією, використовують зовнішні сервіси та API для виконання дій і отримання інформації.

Тут помилка моделі перетворюється з неточного тексту на реальну дію. В n8n можна вимагати схвалення людиною перед запуском конкретного інструмента. Workflow призупиняється й чекає, поки людина дію схвалить або відхилить. Документація зазначає, що така перевірка корисна для незворотних дій: видалення даних, надсилання зовнішніх повідомлень чи покупки. Джерело: документація n8n.

Рекомендація: усе, що не можна повернути, нехай схвалює людина. Повідомлення клієнтові чи видалення запису не повинні йти назовні без перевірки.

Більше про агентів ви знайдете на сторінці ШІ-агент для фірми.

Захист даних: що потрапляє в модель

Коли workflow надсилає текст у мовну модель, дані йдуть до провайдера моделі. Тому варто знати, як він з ними чинить. Anthropic для Claude API пропонує, зокрема, угоду про нульове зберігання даних (ZDR). Це окрема угода з Anthropic, а не автоматичне налаштування.

Подробиці є в документації Anthropic. Крім того, Úrad na ochranu osobných údajov SR (Управління із захисту персональних даних Словаччини) наголошує, що на подальше поводження з персональними даними, навіть із загальнодоступних документів, може поширюватися GDPR, а сама доступність документа не є правовою підставою для їх подальшого зберігання чи надання (dataprotection.gov.sk).

Nexflow не надає податових чи юридичних консультацій. Оцінка відповідності GDPR належить вашому юристу або відповідальній особі.

Огляд: де допомагає і де є ризик

ЗавданняРизик помилкиРекомендований підхід
Проєкт тексту, підсумокНеправильна деталь у текстіЛюдина перевіряє перед використанням
Відповіді з документів фірмиВигадана відповідьВідповідь із цитатою з джерела, можливість «не знаю»
Сортування запитівНеправильна категоріяУ разі невпевненості передати людині
Надсилання повідомлення клієнтовіНезворотна помилка назовніСхвалення людиною
Видалення даних, покупкиНезворотна шкодаСхвалення людиною або не доручати ШІ

Якщо першим кроком є комунікація з клієнтами, погляньте на ШІ-чатбот для фірми. Різницю між форматами пояснює стаття ШІ-агент vs чатбот vs автоматизація.

Коли ШІ у фірмі не виправдовує себе

П'ять запитань перед запуском

  1. Що станеться, якщо модель відповість неправильно? Хто це помітить?
  2. Чи є серед дій щось незворотне? Якщо так, хто це схвалить?
  3. Які дані підуть до провайдера моделі й чи маєте ви на це правову підставу?
  4. Модель відповідає на основі ваших матеріалів чи з пам'яті?
  5. Як виглядає рішення без ШІ і чи не було б воно кращим?

Орієнтовні ціни ви знайдете в статті Скільки коштує ШІ-автоматизація для малої фірми?. Моя робота починається від 390 €.

Часті запитання

Чи може ШІ у фірмі помилятися?

Так. Документація Anthropic визнає, що навіть найдосконаліші моделі можуть генерувати фактично неправильний текст, так звану галюцинацію. Тому раджу для важливих результатів перевірку людиною та прив'язку відповідей до ваших документів.

Як зменшити кількість неправильних відповідей?

За документацією Anthropic допомагає прямий дозвіл моделі сказати «не знаю», для довгих документів спершу витягти дослівні цитати та вимагати цитати для кожного твердження. На мою думку, це правильність не гарантує, тому важливі результати раджу перевіряти.

Чи має ШІ сам надсилати e-mail клієнтам?

Раджу не залишати це без контролю. n8n дозволяє призупинити workflow і вимагати схвалення людиною перед запуском інструмента, а документація серед випадків, де перевірка корисна, називає надсилання зовнішніх повідомлень.

Чи використовує провайдер моделі мої дані для навчання?

Anthropic у документації про нульове зберігання зазначає, що якщо функція вимагає зберігання, дані не використовуються для навчання без прямого дозволу. ZDR при цьому є окремою угодою, а не автоматичним налаштуванням. Конкретні умови перевірте в провайдера і за потреби з юристом.

Коли вистачить звичайної автоматизації без ШІ?

Коли завдання має чіткі правила й його можна записати як «якщо A, то B». На мою думку, у такому разі вистачає звичайної автоматизації без мовної моделі.

Джерела

Пов’язані послуги

ПослугаAI-агент для бізнесу ПослугаAI-асистент над даними

Пов’язані статті

ВибірAI-агент, чат-бот чи автоматизація: що вам потрібно ПосібникAI-асистент над даними компанії: як працює RAG ПосібникЩо автоматизувати в компанії першим

Не знаєте, чи виправдає себе ШІ у вашій фірмі?

Опишіть мені завдання, яке хочете спростити. Я скажу, чи потрібен для нього ШІ, чи вистачить звичайної автоматизації, і де б я залишив рішення за людиною.

Описати завдання →