Відкритий інструмент ARTEX, який дає змогу ШІ-агентам проводити кібервторгнення з мінімальними зусиллями, уже використовують проти банків, державних установ і технологічних компаній. Про це ФБР попередило за шість днів до виходу Grand Theft Auto VI. За даними відомства, деякі атаки досягали привілейованого доступу менш ніж за три години. Репозиторій на GitHub згодом видалили, однак його копії залишаються у вільному доступі.
Автор колонки на Fortune називає це зсувом, який змінив саму природу кіберзлочинності. Раніше для складної атаки були потрібні навички, час і гроші, які відокремлювали початківця від професійної групи. Тепер, за його словами, нудьгуючий підліток із ШІ може діяти як професіонал, повторюючи спроби, поки не вдасться, майже без витрат і просто з дивану. Він нагадує, що в 2022 році 17-річний хлопець зламав Rockstar Games і злив ранні кадри GTA VI з готельного номера, використовуючи Amazon Fire Stick і телефон. Тоді для цього потрібні були серйозні навички, а тепер вони стають непотрібними.
Автор також описує, як змінилися самі методи. Найкращі атаки більше не схожі на атаки: вони приходять у вигляді пропозицій роботи, рахунків, запрошень на зустрічі та входів, які виглядають майже звичайно. Із вересня відомий приклад: інженер Binance пройшов два раунди співбесід для, як здавалося, вигідної роботи і завантажив тестове завдання, яке виявилося шкідливим програмним забезпеченням. ФБР пов'язало цей випадок із Північною Кореєю, а сама Binance оцінює викрадення, що послідувало, приблизно у 6,3 мільярда доларів. Крім того, після збою Microsoft 365 цього місяця зловмисники одразу почали розсилати фальшиві повідомлення про відключення з посиланням на реальний номер інциденту.
На думку автора, головна проблема в тому, що більшість компаній змінюють свій захист дуже повільно. Впровадження нового підходу може займати шість місяців оцінювання, ще кілька місяців на розгортання і пілотний проєкт, який чекає наступного бюджетного плану. Він визнає, що обережність зрозуміла, адже керівники безпеки вже стикалися з інструментами, які обіцяли багато, а в роботі ламали системи. Проте атака, що рухається зі швидкістю машини, не чекає закупівель, тож захист має стати швидшим, але водночас точнішим: помилкове рішення здатне зупинити власний бізнес через несправний маршрутизатор, поки справжня атака проходить повз.
За словами автора, правильне рішення вимагає контексту, якого сама модель ШІ не має: кому належить сервер, чи справді користувач входив із Лісабона і що зламається, якщо система вимкнеться. Такий контекст існує всередині компанії, тому захист працює лише тоді, коли ШІ-агенти його знають. Він радить змінити три речі. По-перше, спершу зрозуміти бізнес: визначити, які системи важливі, хто від них залежить і як виглядає нормальна робота. По-друге, зберігати обережність для дій, які не можна скасувати, тоді як завершення сесії можна відкотити за хвилини, і таке рішення можна ухвалювати одразу в межах правил команди. По-третє, змінювати захист за тижні, а не за квартали, випробовуючи агентний захист рано і збільшуючи його повноваження в міру довіри.