Перейти до контенту

IT Бізнес

Пентест ШІ-агентом: що показав інцидент WorkOS і що вписати в договір із підрядником

Іван Характерник 7 хв читання
Випробувальний полігон із кільцевим бар'єром, безекіпажний візок, що виїхав крізь розрив у бар'єрі й залишив золотий пунктирний слід до офісної будівлі, і стовп з аварійним вимикачем із золотим важелем
Межі тесту мають тримати технічні обмеження, а не лише налаштування, і поруч має бути вимикач.

У жовтні 2026 року ШІ-агент на базі відкритого фреймворку ARTEX, який дослідник безпеки запускав у бенчмарк-тестах, дістався внутрішнього застосунку відділу продажів WorkOS, постачальника автентифікації для SaaS-продуктів. В оновленому бюлетені від 6 листопада WorkOS переказує слова дослідника: агент вийшов за межі ізольованого тестового середовища, а саму взаємодію з WorkOS компанія назвала ненавмисною. Ще 2 листопада сама WorkOS подавала те саме як атаку зловмисника з ШІ-фреймворком. Для українського бізнесу з цього випливає практичне питання: якщо підрядник проводить тест на проникнення (пентест) ШІ-агентами, то що саме в договорі не дає такому агентові вийти за межі системи, яку йому дозволили тестувати.

Що сталося з WorkOS і як компанія змінила версію подій

Хронологія за чинною версією бюлетеня WorkOS така. 25 жовтня — перший підтверджений неавторизований доступ до API внутрішнього інструмента. 30 жовтня відбулось масове вивантаження записів; цього дня співробітник помітив незвично високе використання підключеної системи, і компанія закрила доступ. 2 листопада WorkOS опублікувала перший допис і почала сповіщати клієнтів. Між 3 і 5 листопада з компанією зв’язався дослідник безпеки.

Перша версія, за переказом BleepingComputer від 3 листопада, говорила про зловмисника, який використав ШІ-фреймворк для автоматизації розвідки й експлуатації. У версії від 6 листопада джерелом активності названо того самого агента з бенчмарк-тестів дослідника; вихід за межі середовища — його формулювання. Дослідник надав деталі запитів, часові мітки й артефакти, а служба безпеки WorkOS і незалежна компанія з цифрової криміналістики звірили їх із журналами.

Зачеплені лише системи продажів і підтримки: контакти клієнтів із CRM (імена, адреси пошти, телефони, посади, компанії), історії акаунтів, уривки листування й дзвінків, у частині звернень пошта кінцевих користувачів, метадані використання продукту. У первинній версії, за переказом BleepingComputer, продакшн-сервіси WorkOS названо незачепленими; оригінального тексту першого допису в нас немає.

Що невідомо про інцидент WorkOS і ARTEX

Публічно не розкрито кілька речей, і від них залежать висновки:

  • Механізм виходу. Ні WorkOS, ні дослідник не пояснили, як агент вийшов із sandbox (ізольованого середовища) і як потрапив саме на цей інструмент. Слово «вийшов» (escaped) — формулювання дослідника, не висновок форензики.
  • Доля даних. Що дані видалено й нікому не передано, стверджує дослідник; незалежного підтвердження цього ми не знайшли.
  • Масштаб. Скільки клієнтів і записів зачеплено, невідомо: у бюлетені цифр немає.
  • Конфігурація тесту. Який scope (перелік дозволених цілей) був заявлений і чи діяли технічні обмеження мережі, невідомо.

Тому судити, чи винна недбалість дослідника, чи погано налаштований sandbox, не можна: джерел для цього немає.

Що таке ARTEX і чому налаштувань агента замало, щоб утримати пентест у межах

ARTEX — відкритий автономний пентест-фреймворк на основі великої мовної моделі. Оператор ставить завдання природною мовою, фреймворк розбиває його на цілі, а агенти-виконавці запускають реальні інструменти. Є панель із чергою схвалень для людини, власної моделі в ньому немає: оператор підключає зовнішнього провайдера. CERT-EU зазначає, що меж робіт фреймворк не забезпечує жорстко технічно, а покладається на налаштовані правила й судження моделі. За тим самим описом, автор прибрав репозиторій у жовтні після повідомлень про зловживання, але в обігу лишились незалежні форки. Help Net Security пише, що за три місяці інструмент перейшов від пентесту до звичного засобу атак, і спирається на звіти кількох вендорів; самих звітів ми не відкривали.

Головний висновок з цього випадку сформулювала дослідницька нотатка Cloud Security Alliance від 8 листопада: межі, записані в налаштуваннях, не те саме, що межі, які тримаються технічно. Працюють лише мережеві й інструментальні обмеження, що не залежать від судження моделі, а ризик для третіх сторін несе той, хто запускає ШІ-агента для атак чи тестів. Це позиція одного аналітичного документа, не стандарт і не норма закону.

Що вписати в договір із підрядником, який робить пентест ШІ-агентом

Нижче перелік, який ми склали з нотатки CSA й доповнили власними уточненнями: доступ замовника до журналу, зупинка робіт за його сигналом і порядок дій при виході за scope. Це не вимоги закону й не «ринковий стандарт»: українських договірних норм і практики для цього типу робіт ми не перевіряли. Тексти пунктів варто узгодити з юристом.

  • Письмовий scope і правила проведення тесту. До початку робіт сторони погоджують, що саме тестується і що ні. Тут CSA спирається на своє прочитання керівництва NIST SP 800-115 (2008), тож це переказ тлумачення CSA, а не цитата NIST.
  • Межі, забезпечені технічно. Не задовольняйтеся відповіддю «агент налаштований працювати лише з цими адресами» — просіть пояснити, як це забезпечено: вихідні з’єднання заборонені за замовчуванням, кожен інструмент звіряє адресу з переліком дозволених, причому обмеження стоять поза досяжністю агента і він не може змінити їх сам.
  • Журнал вихідних з’єднань. Підрядник веде журнал, щоб після інциденту було видно, куди ходив агент, і дає замовникові змогу його переглянути.
  • Право негайно зупинити роботи. У підрядника є ручний вимикач і чітка процедура зупинки за вашим сигналом.
  • Нові цілі — лише після підтвердження людини. Агент, який знайшов щось поза списком, не продовжує сам, а чекає рішення людини.
  • Окремі ключі доступу на кожну роботу. Облікові дані не переходять із завдання на завдання, щоб ключ із тестового завдання не відкривав інші системи.
  • Опис того, як агента ізольовано. Підрядник описує це так, щоб опис можна було перевірити; відповідь «у нас sandbox» нічого не перевіряє.
  • Порядок дій при виході за scope. Строк повідомлення замовника, подальше поводження з будь-якими отриманими даними (видалення чи повернення) і розподіл відповідальності за третіх осіб.

Що перевірити у себе: чотири прогалини WorkOS, не пов’язані з ШІ

Бюлетень WorkOS називає чотири власні прогалини, і жодна не про ШІ. Їх варто перенести на свої системи як чотири запитання. Чи доступні ваші внутрішні інструменти з інтернету? Чи не стоїть у продакшні передбачуваний ключ для розробки? Чи є обмеження частоти запитів? Скільки днів мине, поки ви помітите незвичну активність? У WorkOS між першим доступом 25 жовтня й виявленням 30-го минуло п’ять днів. Після цього компанія 31 жовтня закрила інтернет-доступ до всіх внутрішніх інструментів на межі мережі, а 3 листопада почала регулярно тестувати власні зовнішні системи тим самим ARTEX. Зайвий доступ до внутрішнього інструмента з інтернету закривається звичайною гігієною периметра, і ШІ-агент тут нічого не змінює. Інша історія — швидкість, з якою ШІ знаходить справжні вразливості, а компанії їх закривають; її ми розбирали в матеріалі про вікно між знахідкою вразливості й оновленням.

Про ШІ-агентів як інструмент атак ми писали в матеріалі про кейс CyberXero. Якщо версія WorkOS і дослідника точна, інцидент показує, що та сама технологія може вийти за межі й без наміру зловмисника. Тому розмова з підрядником про ШІ-пентест має починатись із питання, що буде, коли агент піде не туди: кого він зачепить, хто це побачить і як швидко його зупинять.

Часті запитання про пентест ШІ-агентом і договір із підрядником

У жовтні 2026 року ШІ-агент на базі відкритого фреймворку ARTEX, який дослідник безпеки запускав у бенчмарк-тестах, дістався внутрішнього застосунку відділу продажів WorkOS. В оновленому бюлетені від 6 листопада WorkOS переказує слова дослідника: агент вийшов за межі ізольованого тестового середовища, а саму взаємодію з WorkOS компанія назвала ненавмисною. Ще 2 листопада сама WorkOS подавала те саме як атаку зловмисника з ШІ-фреймворком. Зачеплено лише системи продажів і підтримки, зокрема контакти клієнтів із CRM.

ARTEX — відкритий автономний пентест-фреймворк на основі великої мовної моделі. Оператор ставить завдання природною мовою, фреймворк розбиває його на цілі, а агенти-виконавці запускають реальні інструменти. Власної моделі в ньому немає: оператор підключає зовнішнього провайдера. За описом CERT-EU, меж робіт фреймворк не забезпечує жорстко технічно, а покладається на налаштовані правила й судження моделі.

Перелік складено з нотатки Cloud Security Alliance й доповнено власними уточненнями. Головні пункти: письмовий scope і правила проведення тесту; межі, забезпечені технічно (вихідні з’єднання заборонені за замовчуванням, обмеження поза досяжністю агента); журнал вихідних з’єднань; право негайно зупинити роботи; нові цілі лише після підтвердження людини; окремі ключі доступу на кожну роботу; перевірюваний опис того, як агента ізольовано; порядок дій при виході за scope.

Ні. Це не вимоги закону й не «ринковий стандарт»: українських договірних норм і практики для цього типу робіт ми не перевіряли. Головний висновок про те, що межі в налаштуваннях не те саме, що межі, забезпечені технічно, належить дослідницькій нотатці Cloud Security Alliance від 8 листопада, тобто це позиція одного аналітичного документа, а не стандарт чи норма закону. Тексти пунктів варто узгодити з юристом.

Публічно не розкрито, як агент вийшов зі sandbox і як потрапив саме на цей інструмент: слово «вийшов» — формулювання дослідника, не висновок форензики. Що дані видалено й нікому не передано, стверджує дослідник, незалежного підтвердження цього ми не знайшли. Скільки клієнтів і записів зачеплено, невідомо, бо в бюлетені цифр немає. Невідомо й те, який scope був заявлений та чи діяли технічні обмеження мережі, тому судити про недбалість дослідника чи погане налаштування sandbox не можна.

Розсилка «Радар»

Що змінилося в законах для бізнесу — раз на тиждень

Нові закони, рішення регуляторів і дедлайни простою мовою, з кроками для компанії. Без реклами.

Натискаючи «Підписатися», ви погоджуєтесь отримувати розсилку DELO.NET.UA. Відписатися можна одним кліком у будь-якому листі. Політика конфіденційності

Поділитися матеріалом

Випробувальний полігон із кільцевим бар'єром, безекіпажний візок, що виїхав крізь розрив у бар'єрі й залишив золотий пунктирний слід до офісної будівлі, і стовп з аварійним вимикачем із золотим важелем Пентест ШІ-агентом: що показав інцидент WorkOS і що вписати в договір із підрядником IT delo.net.ua

Куди поділитися