Перейти до контенту

Темний бік ШІ

Це матеріал серії «Темний бік ШІ» від Івана Характерника — критичний погляд на ризики й провали ШІ, без хайпу.

IT

ШІ шукає вразливості швидше, ніж їх латають: що це означає для вашого бізнесу

Іван Характерник 10 хв читання
Темна стіна з рядом однакових дверей: на більшості висять бурштинові бирки знайдених слабких місць, лише на двох новий замок, а нові замки в пакуванні лежать на лаві поруч
Знайдених вразливостей стає більше, ніж встигають закривати оновленнями.

Виправлення помилки в бібліотеці стиснення Brotli вісім місяців лежало у відкритому репозиторії без релізу й без жодного оголошення. Коли 21 жовтня 2026 року Node.js оприлюднив вразливість CVE-2026-111497, за кілька днів з’явилися публічні експлойти, а 27 жовтня, за повідомленням BleepingComputer, CISA внесла її до каталогу відомих експлуатованих вразливостей (KEV). Ні BleepingComputer, ні Help Net Security не пов’язують вразливість зі штучним інтелектом, тоді як OpenAI, представляючи 5 листопада модель GPT-6 Cyber, наводить її серед прикладів, де модель допомогла показати можливість віддаленого виконання коду; незалежного підтвердження ролі моделі немає. Для бізнесу важливіше інше: розрив між виправленням у коді та оновленням на ваших серверах став небезпечнішим, а ШІ-моделі поки найпомітніше прискорюють пошук вразливостей і складання експлойтів, тоді як встановлення оновлень не прискорюється. Хто ставить оновлення за дні, а не за місяці, ризикує значно менше.

Скільки вразливостей знаходять ШІ-моделі і хто це підтверджує

Найсвіжіша заява належить OpenAI: 5 листопада компанія представила модель GPT-6 Cyber, яка поки доступна вибраним клієнтам програми Daybreak Red (розширення доступу OpenAI обіцяє незабаром). За даними самої OpenAI, модель відтворила 1 724 вразливості в ядрі Linux і написала робочі експлойти для 948 з них, а у Firefox допомогла знайти 81 нову вразливість високої критичності за класифікацією Mozilla. Це заяви розробника, незалежної перевірки цих цифр поки немає: модель вийшла кілька днів тому.

Ширшу картину показують інші джерела, хоча й вони здебільшого належать розробникам моделей. Anthropic у травневому звіті про Project Glasswing писала, що розробникам, які підтримують відкриті проєкти, розкрито 530 вразливостей високого й критичного рівня, а виправлено лише 75, тобто близько 14%. Компанія додала, що тепер швидкість визначає не пошук, а те, наскільки швидко можна перевірити, розкрити й виправити знайдене.

Обережніше оцінює ситуацію Mozilla: у квітні вона повідомила, що Firefox 150 містить виправлення 271 вразливості, яку знайшла рання версія Claude Mythos Preview (модель Anthropic). При цьому Mozilla пише, що модель не знайшла жодного бага, якого б не міг знайти елітний людський дослідник. Тобто, на нашу думку, виграш поки в масштабі, а не в нових уміннях. Серед 167 вразливостей, виправлених у Firefox 159 від 27 жовтня, Mozilla зараховує OpenAI 41: 34 інструменту OpenAI Codex Security і 7 досліднику компанії. Чи знайшов їх саме ШІ, сторінка не уточнює, і чи входять вони в заявлені 81, невідомо.

Чи справді ШІ вже робить атаки швидшими: що показують дані про експлуатацію

Однозначного «так» дані не дають, і це варто сказати прямо. Аналітики VulnCheck у звіті за перше півріччя 2026 року порахували 1 061 вразливість, знайдену за допомогою ШІ, і лише 14 з них (1,3%) підтверджено як експлуатовані в реальних атаках. Автори не бачать доказів, що знайдені ШІ вразливості експлуатують частіше за інші. Частка відомих експлуатованих вразливостей, які за підрахунком VulnCheck почали експлуатувати в день публікації CVE або раніше, у перші півроку 2026-го навіть знизилася: 23,43% проти 28,93% у 2025 році.

Інші показники дивляться в протилежний бік. За переказом звіту M-Trends 2026 від Mandiant, середній час до експлуатації за оцінкою Mandiant впав приблизно до мінус семи днів у 2025 році, тобто експлуатація в середньому починається ще до виходу патча. За переказом Verizon DBIR 2026, повністю виправлено лише 26% вразливостей з KEV проти 38% торік, а медіана повного патчу зросла з 32 до 43 днів. Цифри Mandiant і Verizon наводимо за переказом, тож беріть їх як орієнтир.

Суперечності тут немає, показники вимірюють різне. Даних, що нападники масово прискорилися саме завдяки ШІ, поки немає, але захисники не встигають за потоком виправлень, і цей розрив з’явився раніше за GPT-6 Cyber.

Схожий висновок зробив і Cloud Security Alliance у білому папері від 6 листопада «The Disclosure Bottleneck»: коли ШІ здешевив пошук вразливостей, вузьке місце перемістилося далі по ланцюгу, до перевірки звітів, розробки виправлень, їх публікації та розгортання у продакшні. Автори вважають накопичений запас відомих, але не виправлених вразливостей прихованим ризиком, бо їх можуть незалежно знайти й інші.

Brotli, PHP2Shell і експеримент Epoch AI: як стискається вікно для оновлення

Brotli. Помилку запису за межі буфера в декодері виправили ще 27 лютого, але реліз і повідомлення вийшли лише наприкінці жовтня (Brotli 1.2.1, 1.1.1, 1.0.10; Node.js 26.12.1, 24.22.1 і 22.23.4). Гілки Node.js 20.x, 23.x і 25.x виправлень не отримають. OpenAI пише, що використала GPT-6 Cyber разом з іншими моделями, щоб показати можливість віддаленого виконання коду в залежних застосунках, але про роль ШІ у самій знахідці незалежні джерела мовчать.

PHP2Shell. За даними Amazon, перші спроби експлуатації двох критичних вразливостей PHP (CVE-2026-109618 і CVE-2026-109619) зафіксовано 17 жовтня, за чотири дні до виходу патчів 21 жовтня. Директор з безпеки AWS наголошує, що захисникам не варто вважати дату публічного розкриття найранішою датою експлуатації. Команда PHP каже, що жоден із прототипів експлойтів, опублікованих до патчів, не був робочим. За хронологією Recorded Future, архів з деталями з’явився на VirusTotal 21 жовтня о 02:29 UTC, приблизно за 11 годин до виходу виправлень (13:52 UTC). Спроби ще не означають успішних атак, але чекати розкриття, щоб почати оновлюватися, вже не можна.

Експеримент Epoch AI. Дослідники взяли відкриту модель GLM 5.3 і дали їй завдання скористатися виправленнями Firefox, які вже опубліковані в репозиторії, але ще не потрапили в реліз. Для шести релізів модель зібрала працюючі ланцюжки експлойтів (крім публічних виправлень, вона щоразу знаходила ще й неопублікований баг), найшвидше за 12 годин, а витрати на API становили близько $1 000 на кожну версію. Дослідники прямо пишуть, що на свіжих релізах виконання коду їм отримати не вдалося: експлойт лише змушував браузер прочитати локальний файл. Але механіка зрозуміла: публічне виправлення без релізу стає підказкою для нападника.

Що доведено про GPT-6 Cyber і що поки лишається заявою OpenAI

OpenAI наводить кілька цифр, які легко цитувати без контексту, тому розберемо їх. На власному новому тесті RemoteExploitBench модель виконала 95% завдань, але це були відомі вразливості GitLab, PostgreSQL і Jenkins у контрольованому середовищі, тобто не атаки наосліп на чужі системи. У власному тесті ExploitGym Honeypot, який перевіряє, чи не стане модель атакувати навмисно вразливі допоміжні сервіси поза завданням, вона не робила цього у 99,93% випадків без безпекових інструкцій розгортання і у 100% з ними. Щодо нагляду OpenAI радить пісочницю, перегляд дій і людський нагляд для ризикових процесів, але не пише, що кожну дію погоджує людина вручну. Доступ до API Daybreak Red за замовчуванням дозволено тільки із затверджених мереж (за списком IP-адрес), з обмеженими винятками.

Технічний опис моделі (system card) і звіт Dragos, на які посилається OpenAI, нам на момент публікації були недоступні. Про дві вразливості нульового дня в ПЗ для релейного захисту відомо лише з цитати співробітника Dragos на сторінці OpenAI. У самому анонсі немає методики підрахунку «робочих експлойтів», а число 81 для Firefox ніхто незалежно не підтвердив. Тому всі цифри GPT-6 Cyber у цій статті варто читати як «за даними OpenAI».

Чи загрожує Україні ШІ-пошук вразливостей і хто отримає такі моделі для захисту

За матеріалами CERT-UA, у першому півріччі 2026 року зафіксовано 3 137 кіберінцидентів, на 8% більше, ніж у другому півріччі 2025 (сама CERT-UA застерігає, що зростання виявлених подій не означає зростання успішних атак). Більшість з них тримається на шкідливому ПЗ і обмані, а не на нових вразливостях; про це ми писали в матеріалі про звіт CERT-UA. Попередження CERT-UA про камери Dahua стосувалося вразливостей 2021 року, які лишаються працездатними на несвіжих прошивках (розбір). Крім розвідки ШІ-агентів проти семи українських енергетичних і комунальних компаній у кейсі CyberXero (за нашим розбором), підтверджень, що ШІ-пошук вразливостей застосовували проти українського бізнесу, ми не знайшли. На нашу думку, головний ризик зараз у вже відомих і невиправлених вразливостях, а не в нових знахідках ШІ.

Окрема тема: чи отримає українська сторона такі моделі для захисту. У вересні OpenAI оголосила про безкоштовний доступ уряду України до Daybreak, приватні компанії можуть подавати заявки, але умови не опубліковані; у GPT-6 Cyber Україну OpenAI не згадує. Деталі ми розбирали в матеріалі про Daybreak для України. Грант OpenAI на $1 млрд для команд з обмеженими ресурсами (Daybreak for Frontline Defenders), за даними Help Net Security, — це кредити на продукти компанії, а не готівка, і спершу для США. Чи поширять його на приватний сектор України, не підтверджено.

Як бізнесу швидше закривати вразливості: оновлення, поверхня атаки та залежності

Практики, які радять державні агенції з кібербезпеки, прості. NCSC (Велика Британія) закликає вмикати оновлення за замовчуванням, прискорювати їх для активно експлуатованих вразливостей, скорочувати зовнішню поверхню атаки (усе, до чого можна дістатися з інтернету) і замінювати системи, які більше не підтримуються. Спільна заява NCSC, CISA, NSA та їхніх партнерів від 22 червня називає часову шкалу «не роками, а місяцями» і радить вважати системи без підтримки стратегічним ризиком. Директива CISA BOD 26-04 пропонує пріоритизувати за чотирма факторами: чи доступна система ззовні, чи вразливість у каталозі KEV, чи автоматизований експлойт і які наслідки після експлуатації. Директива обов’язкова для федеральних агентств США, але CISA закликає й інших діяти так само.

Наш порядок дій на основі цього:

  1. Складіть перелік усього, що дивиться в інтернет. Сайт, плагіни CMS, VPN, пошта, адмінки, камери. Закріпіть за кожною позицією людину, яка відповідає за оновлення.
  2. Введіть просте правило терміновості. Якщо вразливість у каталозі KEV або є публічний експлойт, а система доступна з інтернету, оновлюйте у найближчі дні. Anthropic у власних рекомендаціях радить для інтернет-застосунків 24 години після появи експлойту, але це порада розробника моделей, не регулятора.
  3. Виявіть те, що вже не оновлюється. Для Node.js гілки 20.x, 23.x і 25.x виправлення Brotli не отримають; ту саму логіку варто застосувати до застарілих версій PHP і прошивок. Системи без підтримки варто замінити або ізолювати.
  4. Запитайте у постачальників. З’ясуйте, хто оновлює PHP і залежності на вашому хостингу, за який строк і як вас про це повідомляють. Якщо ви самі IT-постачальник банку, банк через договір вимагатиме від вас виконання вимог постанови НБУ № 70 до сторонніх постачальників, про що ми писали в матеріалі про постанову № 70.
  5. Не купуйте ШІ-сканер замість оновлень. Знайдене треба ще перевірити, виправити й розгорнути: за травневими даними Anthropic, із 530 розкритих вразливостей високого й критичного рівня було виправлено лише 75, а за переказом DBIR повністю виправлено 26% вразливостей з KEV.
  6. Якщо вразливість уже експлуатували, оновлення може бути запізнілим. Як показав PHP2Shell, атаки можуть початися до виходу патча, тому після критичних оновлень радимо перевірити, чи систему не зламали ще до них: саме оновлення наслідків злому не прибирає.

Про те, як ШІ-агенти вже використовують для атак на WordPress-сайти, ми писали в розборі кейсу CyberXero. Базові правила захисту лишаються тими самими, що й до ШІ: різниця в тому, що часу на їх виконання лишається менше.

Розбір не є консультацією з інформаційної безпеки. Строки оновлень для вашого бізнесу залежать від конкретних систем і ризиків, тож уточнюйте їх у свого IT-постачальника.

Часті запитання про ШІ та пошук вразливостей

Однозначних доказів поки немає. VulnCheck не бачить, щоб знайдені ШІ вразливості експлуатували частіше за інші, а серед вразливостей з каталогу KEV частка тих, що їх почали експлуатувати в день розкриття чи раніше, у першому півріччі за підрахунком VulnCheck навіть знизилася. Водночас за переказами звітів Mandiant і Verizon експлуатація в середньому випереджає патч, а виправляють вразливості повільніше. Ці цифри дають різний ракурс на одне явище.

Читати їх варто як заяви розробника. Незалежної перевірки поки немає, у анонсі не описано методику підрахунку робочих експлойтів, а системну картку моделі ми перевірити не змогли. Окремі результати отримано у власних тестах OpenAI в контрольованому середовищі.

У випадку PHP2Shell, за даними Amazon, перші спроби експлуатації зафіксовано 17 жовтня, за чотири дні до виходу патчів 21 жовтня. Висновок для вас: не чекати публічного розкриття, щоб почати оновлюватися.

Підтверджень ми не знайшли, окрім розвідки ШІ-агентів у кейсі CyberXero. Більшість українських інцидентів, за CERT-UA, пов’язана зі шкідливим ПЗ та обманом, а не з новими вразливостями.

З інвентаризації: перелік усього, що видно з інтернету, і прізвище людини, яка відповідає за кожну позицію. Окремо варто знайти системи, що вже не отримують оновлень: їх замінюють або ізолюють.

Розсилка «Радар»

Що змінилося в законах для бізнесу — раз на тиждень

Нові закони, рішення регуляторів і дедлайни простою мовою, з кроками для компанії. Без реклами.

Натискаючи «Підписатися», ви погоджуєтесь отримувати розсилку DELO.NET.UA. Відписатися можна одним кліком у будь-якому листі. Політика конфіденційності

Далі в серії «Темний бік ШІ»

Це поки останній матеріал серії. Усі матеріали серії →

Поділитися матеріалом

Темна стіна з рядом однакових дверей: на більшості висять бурштинові бирки знайдених слабких місць, лише на двох новий замок, а нові замки в пакуванні лежать на лаві поруч ШІ шукає вразливості швидше, ніж їх латають: що це означає для вашого бізнесу IT delo.net.ua

Куди поділитися