Нелегальний доступ до великих мовних моделей штучного інтелекту перетворюється на окремий підпільний ринок. За даними Google Threat Intelligence Group, цього року зафіксовано різке зростання явища, яке отримало назву LLM-jacking. Зловмисники викрадають облікові дані та обчислювальні потужності, щоб безкоштовно користуватися потужними ШІ-моделями або перепродавати доступ до них.
Про це повідомив головний аналітик Google Threat Intelligence Group Джон Гультквіст. За його словами, у підпіллі формується ціла економіка навколо доступу до LLM-моделей. Хакерам потрібні потужні моделі для вимагання, шпигунства та розробки нових методів шахрайства, але платити повну ціну вони не хочуть.
Термін LLM-jacking запровадила команда Sysdig Threat Research Team. Фахівці виявили схему, у якій викрадені хмарні облікові дані використовували для доступу до LLM-сервісів із метою перепродажу іншим зловмисникам. Найчастіше доступ отримують через API-ключі з публічних репозиторіїв, фішинг співробітників або хмарні акаунти зі слабким захистом. Далі зловмисники або самі користуються моделями за чужий рахунок, або перепродують доступ на підпільних майданчиках.
На тіньових майданчиках пропонують доступ до моделей Anthropic, OpenAI і Google зі знижками до 97%. Для порівняння: підписка на найпотужніші версії ChatGPT і Claude може коштувати до 200 доларів на місяць за користувача. Через таку різницю в ціні атакувальники отримують фінансову перевагу. Захисникам доводиться відповідати тими самими інструментами, але за офіційними тарифами. Як стверджує Гультквіст, зловмисники можуть купувати токени значно дешевше, а це дає їм перевагу в ефективності й витратах.
Дослідник наголошує, що штучний інтелект сьогодні застосовує кожен актор загроз. Тому в кібербезпеці ШІ-інструменти мають бути в центрі уваги вже зараз. Тим, хто вважає штучний інтелект тимчасовою модою й сподівається перечекати, він пророкує лавину інцидентів, сповіщень і атак, більшу за все, що вони бачили раніше. «Навести лад у власному домі потрібно вже зараз», — резюмував аналітик.
Дослідження PYMNTS Intelligence показує, що компанії дедалі активніше використовують ШІ проти кіберзлочинців. Згідно зі звітом Prevention First: Building a Smarter Defense Against Payments Fraud, 42% компаній застосовують три й більше ШІ-інструментів захисту в багаторівневому стеку. Половина респондентів називає ШІ-згенеровані листи від імені постачальників головною загрозою. Майже 90% фінансових керівників вважають перевірку постачальників помірним або суттєвим тягарем. Автори звіту зазначають, що виявлення таких спроб шахрайства забирає в компаній і час, і гроші.
В Україні проблема теж актуальна. За даними CERT-UA, хакери активно пропонують українцям «отримати гуманітарну допомогу» або розсилають «повістки в суд». Такі схеми соціальної інженерії часто супроводжуються фішинговими посиланнями, які ведуть на підроблені сторінки для викрадення облікових даних.
Експерти радять компаніям посилювати захист хмарних акаунтів, регулярно змінювати API-ключі, впроваджувати багатофакторну автентифікацію та моніторити аномальну активність. Водночас бізнесу варто враховувати, що ШІ-інструменти захисту стають не додатковим, а базовим елементом кібербезпеки.