Сьогодні захоплення точковими експериментами з великими мовними моделями (LLM) змінюється прагматичним розрахунком. Організації масово переходять від хаотичного використання штучного інтелекту до побудови керованих AI-процесів. Головний виклик для CIO та керівників з управління ризиками (CRO) — зробити безпеку та комплаєнс органічною частиною ІТ-архітектури підприємства, а не додатковим бюрократичним навантаженням.
За даними досліджень, близько 13% організацій (так звані «Pacesetters») стабільно випереджають інших за показниками отримання реальної цінності від впровадження AI. Головна причина їхнього успіху полягає в тому, що вони від початку інтегрували управління ризиками у фундамент своїх систем.
Більшість архітекторів корпоративних систем стикаються з серйозною загрозою — «тіньовим ШІ» (Shadow AI) та неконтрольованими витоками даних. Коли моделі інтегруються в бізнес-процеси хаотично, без належного управління ризиками та аудиту, компанія опиняється під загрозою. Проблема полягає в тому, що AI-моделі намагаються впроваджувати як ізольовані інструменти, тоді як вони мають бути частиною оркестрованого бізнес-процесу, де кожен крок логується, а доступ до даних суворо контролюється на рівні інфраструктури.
Чому хаотичний AI стає загрозою: від «тіньових» запитів до вразливостей OWASP
Організація OWASP у своєму актуальному рейтингу Top 10 Risk & Mitigations for LLMs and Gen AI Apps визначає непрямі ін'єкції швидких команд (Prompt Injection, вразливість LLM01:2025) як перший і найбільш критичний ризик для LLM-застосунків. Зловмисник може маніпулювати поведінкою моделі через вхідні дані бізнес-процесу (наприклад, через текст вхідного листа або іншого документа), змушуючи ШІ виконувати несанкціоновані дії.
Окрім цього, існує постійний ризик витоку конфіденційної інформації. Якщо модель інтегрована без належного розмежування прав доступу, вона може згенерувати відповідь на основі даних, які поточний користувач не має права бачити. OWASP вказує на постійний характер цих ризиків, що вимагає безперервного моніторингу, а не одноразового технічного виправлення.
Каркас безпеки: адаптація NIST AI RMF 1.0 для корпоративного BPM
Для структурування та вирішення цих проблем був розроблений фреймворк NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0). Він організовує управління AI-ризиками навколо чотирьох ключових функцій. Перенесення цих вимог на рівень виконуваної архітектури процесів виглядає наступним чином:
- Govern (Управління): Вимагає чіткого розмежування ролей та доступу до даних, які використовуються для роботи AI. Політики безпеки мають бути закладені в інфраструктуру платформи.
- Map (Картування): Зобов'язує чітко документувати, де саме в процесі викликається модель, які дані вона отримує на вхід і куди передає результат.
- Measure (Вимірювання): Передбачає оцінку ризиків, моніторинг рішень моделі та фіксацію подій у реальному часі для виявлення аномалій.
- Manage (Управління ризиками): Вимагає наявності механізмів швидкого реагування, зокрема миттєвої зміни бізнес-правил без зупинки або переробки коду всієї системи.
Оркестрація процесів за допомогою BPMN 2.0 та DMN
Надійним способом інтеграції ШІ у корпоративні процеси є використання виконуваного стандарту BPMN 2.0 та стандарту опису бізнес-правил DMN. BPMN 2.0 дозволяє побудувати модель, яка одночасно є документацією та інструментом керування процесом. Це дає видимість стану кожного інстансу.
- Розділення бізнес-логіки (DMN) та потоку процесу (BPMN): Замість того, щоб зашивати правила прийняття рішень всередину коду ШІ-моделі, жорсткі обмеження виносяться в таблиці DMN. Це дозволяє швидко оновлювати правила роботи AI.
- Налаштування audit trail у BPM-системі: Для відповідності вимогам NIST кожен крок, виконаний ШІ, має фіксуватися в системному журналі аудиту. Це критично для відтворення ланцюжка рішень під час аналізу відхилень.
- Впровадження перевірки людиною (Human-in-the-Loop): Маршрутизація процесів дозволяє автоматично направляти сумнівні рішення ШІ на верифікацію компетентному співробітнику.
Контроль доступу та Audit Trail: реалізація вимог на рівні платформи UnityBase
Слід пам'ятати, що впровадження інструментів автоматизації само по собі не гарантує автоматичної відповідності NIST AI RMF — це лише технічна база для реалізації вимог фреймворку. Проте наявність правильної платформи суттєво спрощує технічну архітектуру комплаєнсу.
Для побудови корпоративних рішень Intecracy Group використовує low-code платформу UnityBase (спільна розробка компаній консорціуму, де InBase є ключовим розробником). Продукти, побудовані на цій платформі, зокрема Scriptum (BPM/DMS), використовують вбудовані механізми безпеки для управління ризиками ШІ.
Механізми Row-Level Security (RLS) та Access Control Lists (ACL), реалізовані на рівні платформи, гарантують, що ШІ-модель під час виконання запиту зможе взаємодіяти лише з тими даними, на які має права ініціатор процесу. Це мінімізує ризики витоку даних через Prompt Injection. Деталізований системний Audit Trail фіксує дії моделі, забезпечуючи підзвітність. Платформа також підтримує незалежні сховища файлів (BLOB/file stores), що дозволяє ізолювати документи від загального пулу даних.
Process Mining як інструмент виявлення аномалій у роботі AI-агентів
Навіть за наявності спроєктованих BPMN-моделей, у реальному житті можуть виникати відхилення. Технологія process mining дозволяє виявити, як процес виконується насправді на основі логів системи, допомагаючи знайти вузькі місця та «тіньові» маршрути.
У контексті AI process mining використовується для виявлення того, чи не створюють ШІ-агенти приховані процеси, що обходять корпоративні політики безпеки. Наприклад, виявлення надто частих або нестандартних звернень автоматизованого агента до зовнішніх систем дає змогу вчасно скоригувати параметри безпеки.
Матриця відповідності архітектурних вимог BPM вимогам фреймворку NIST AI RMF 1.0
| Функція NIST AI RMF | Вимога до процесу | Технічна реалізація в BPM (на базі UnityBase / Scriptum) |
|---|---|---|
| Govern (Управління) | Створення політик доступу та ролей | Використання механізмів RLS (Row-Level Security) та ACL, що обмежують обсяг даних для запитів AI. |
| Map (Картування) | Візуалізація та документування потоків даних | Використання стандарту BPMN 2.0 для чіткого визначення точок входу та виходу AI-моделей у процесі. |
| Measure (Вимірювання) | Оцінка ризиків та моніторинг рішень | Логування кожного кроку AI в системному Audit Trail для аналізу відхилень та виявлення Prompt Injection. |
| Manage (Управління ризиками) | Швидке реагування та зміна логіки | Розділення бізнес-правил (DMN) та потоку (BPMN) для миттєвого коригування поведінки AI без зміни коду платформи. |
Поширені питання
Як інтегрувати NIST AI RMF у вже існуючі бізнес-процеси компанії?
Інтеграція починається з картування (Map): необхідно виділити та задокументувати в моделях BPMN усі точки взаємодії з ШІ. Далі на рівні архітектури впроваджуються правила доступу до даних та налаштовується обов'язковий системний Audit Trail для фіксації кожного рішення моделі.
Які ризики безпеки за версією OWASP є найбільш критичними при роботі з LLM у BPM?
Найбільш критичними є непрямі ін'єкції швидких команд (Prompt Injection) та ризики витоку конфіденційних даних. Вони пом'якшуються через обмеження прав доступу моделі на рівні бази даних та впровадження безперервного моніторингу.
Як забезпечити надійність логів для аудиту рішень, прийнятих штучним інтелектом?
Для цього використовуються системні інструменти аудиту (Audit Trail) платформи, на якій розгорнуто рішення. Це дозволяє фіксувати транзакції та зміни метаданих, щоб завжди мати змогу відтворити ланцюжок прийняття ШІ-рішень.