Штучний інтелект радикально змінив економіку кібератак: тепер один автоматизований інструмент може безперервно шукати цілі, знаходити вразливості й експлуатувати їх, тоді як раніше цим займалися люди, які спочатку довго готувалися, а потім масово розгортали атаку. Про це в інтерв'ю подкасту The Verge говорить Алекс Стемос, головний офіцер безпеки компанії Cognition і викладач Stanford Cyber Policy Center. Його оцінка різка: галузь переживає період, який він називає «темним віком», хоча довгострокового краху він не передбачає.
Жовтень традиційно є місяцем обізнаності про кібербезпеку, але цього року, за словами Стемоса, ситуація особливо похмура. Протягом останніх тижнів кілька постачальників так званих «неохмарних» (neocloud) сервісів, пов'язаних зі ШІ, зазнали зломів один за одним. Гучний злом Binance він описує як найбільше викрадення в історії. За його даними, витік у компанії Fireworks нібито дав зловмисникам API-ключі, які потім використали для проникнення в Cursor, популярний редактор коду зі ШІ. Окремо згадується шкідливий плагін для Cursor, який нібито потрапив приблизно до 5 000 компаній. Також, за інформацією з нотаток до інтерв'ю, у реальних атаках використовувався ARTEX, китайський інструмент з відкритим кодом. Спершу постраждали три південнокорейські банки, а після цього, за даними, ще близько 200 компаній.
За словами Стемоса, за атаками стоять як кримінальні угруповання, так і державні актори, зокрема Росія та Північна Корея. Найістотніша зміна полягає в тому, що зловмисники тепер використовують ШІ, щоб знаходити недоліки й писати експлойти просто під час атаки. Відкриті ваги моделей, за його словами, дозволяють автоматизувати більшість етапів ланцюга атаки. Окрему проблему становлять «непідцензурні» моделі, які запускаються локально: у них немає захисних механізмів, які встановлюють провідні лабораторії, і немає журналів, які могли б бачити правоохоронці.
Класична схема атак будувалася так: спочатку дослідження і підготовка, потім масове розгортання людьми-операторами. ШІ цю логіку перевертає. Один автоматизований агент може полювати на цілі постійно, без перерв і без масштабування людської праці. Бар'єр входження при цьому падає, і менш досвідчені зловмисники отримують можливості на рівні елітних хакерів. Раніше подібну роль відіграв біткоїн: він дав змогу людям без спеціальних знань відмивати гроші, і це вже змінило економіку атак. Тепер ту саму дію може виконувати ШІ.
Індустрія безпеки довгий час трималася на кількох опорах: на найм колишніх хакерів, на програми винагород за знайдені вразливості (bug bounty) і на практику відповідального розкриття помилок. Стемос стверджує, що ця модель починає ламатися під тиском атак, які керуються ШІ. Водночас захисники також отримують ШІ-інструменти. Cognition, де працює Стемос, допомагає клієнтам виправляти вразливості після злому. Тобто гонка між атакуючими й захисниками триває, але темп у ній різко зріс.
Відкритим лишається питання, як відновити етику розкриття вразливостей і стимули для захисників. Стемос очікує періоду адаптації, під час якого галузь перебудовуватиме свої процеси, але не вважає, що це призведе до довгострокової катастрофи.
Для українських команд це означає практичну річ: якщо ваш продукт інтегрований з ШІ-сервісами, API-ключі, плагіни сторонніх редакторів коду та open-source інструменти тепер є окремими точками ризику, які варто перевіряти так само ретельно, як і власну інфраструктуру. Українські банки, е-комерція та ІТ-компанії, які активно впроваджують ШІ, мають переглянути управління секретами, доступами і залежностями, поки ці ризики не стали їхнім інцидентом.