Стартап з кібербезпеки Cathedral менш ніж за 12 годин проник у внутрішні мережі та корпоративне листування компанії Anthropic, розробника чат-бота Claude. Для цього дослідники використали автономні ШІ-системи, які отримали доступ до конфіденційної інформації компанії.
Cathedral, заснований колишніми фахівцями американської служби DOGE, перевіряв захист Anthropic у межах офіційної програми пошуку вразливостей (bug bounty). Кілька днів дослідники намагалися пробитися крізь безпосередньо захищене програмне забезпечення компанії, але зрештою змінили тактику й використали прогалини у сторонніх сервісах, які Anthropic застосовує для продажів, кадрових завдань і адміністрування. Запустивши автономних ШІ-агентів, фахівці відкрили доступ до стенограм внутрішніх нарад і розшифровок зустрічей, інформації про кадрові рішення, робочі пропозиції та розміри заробітних плат, а також до повідомлень у Slack, де співробітники обговорювали нові передові моделі штучного інтелекту.
В Anthropic наголошують, що дослідники отримали доступ лише до обмеженого набору кадрових, торговельних та IT-систем. Прямого доступу до вихідного коду, вагових коефіцієнтів моделей або запитів і відповідей користувачів Claude здобути не вдалося. Представники компанії стверджують, що їхні системи моніторингу зафіксували частину дій Cathedral ще до подачі офіційного звіту, а доступ було заблоковано того ж дня. Проблемне стороннє програмне забезпечення тимчасово вимкнули й повернули до роботи лише після того, як його розробники підтвердили повне усунення вразливостей.
Інцидент викликав хвилю занепокоєння у Вашингтоні. Високопосадовець адміністрації президента США Дональда Трампа заявив на умовах анонімності, що звіт Cathedral «викликає занепокоєння щодо національної безпеки». Посадовець підкреслив: якщо молодий стартап спромігся за лічені години пробити захист компанії, яка розробляє технології, порівнянні за потужністю з ядерною зброєю, то хакери з іноземних розвідок можуть зробити це так само легко.
Експерти з кібербезпеки зауважують, що ситуація демонструє системну проблему галузі: навіть провідні розробники штучного інтелекту залишаються вразливими через використання стандартного стороннього софту, який об’єднує корпоративні мережі. Компанію Cathedral інвестори оцінюють у 1,4 мільярда доларів, і наразі вона тісно співпрацює з урядом США та отримує контракти від кількох федеральних агентств. Саме ця обставина підсилює дискусію про те, наскільки надійно державні структури можуть покладатися на приватних партнерів у сфері кібербезпеки.
Випадок стався на тлі тривалого напруження між Anthropic і Пентагоном. Раніше військове відомство обмежило використання продуктів компанії у військових цілях через її відмову розробляти автономну зброю. Крім того, колишні співробітники Anthropic уже висловлювали занепокоєння щодо недбалого ставлення до безпеки. Зокрема, у вересні один із розробників публічно звільнився, заявивши, що компанія бере на себе невиправдані ризики, покладаючись на звичайні корпоративні месенджери на кшталт Slack для обговорення критичних розробок. Тепер ця критика отримує нове підтвердження, адже саме через звичайні робочі інструменти, а не через основний код, і відбулося проникнення.
Подія ставить питання про баланс між відкритими програмами пошуку вразливостей і захистом конфіденційної інформації. Програма bug bounty передбачає, що дослідники можуть перевіряти системи компанії за заздалегідь визначеними правилами, однак межі дозволеного в разі використання автономних ШІ-агентів поки залишаються предметом обговорення. Для Anthropic, яка позиціонує себе як розробник безпечного штучного інтелекту, інцидент є чутливим, адже йдеться не про сам чат-бот, а про периферійні сервіси, через які працює вся організація.