Через помилку в механізмі публікації проєктів ШІ-агента Grok Build конфіденційні документи тисяч користувачів стали доступними для будь-кого. Серед відкритих матеріалів були внутрішні застосунки компанії SpaceXSI, а також дані, пов’язані з оборонними підрядниками. Йдеться про ситуацію, коли інструмент, призначений для створення програмного коду за допомогою штучного інтелекту, фактично перетворив приватні роботи на публічні.
За даними дослідників компанії Claroc, причиною проблеми стали випадкові посилання для спільного доступу, які складалися з добірки слів і розміщувалися в піддомені. Такі адреси були видимими для публічних DNS-сервісів, які фіксують появу нових доменних імен. Саме через ці журнали будь-хто міг переглянути список створених проєктів і відкрити їх. Дослідники знайшли понад 43 000 таких посилань. Приблизно у 95 відсотках випадків відкривався повний доступ до застосунку, а дані зберігалися за замовчуванням, без додаткового захисту з боку власника.
Найбільш резонансним став витік 24 внутрішніх застосунків SpaceXSI, зокрема документів із конфіденційними планами продажів. Інформація також стосувалася підрядника Військово-морських сил США та норвезько-фінської оборонної групи. Окремі видання повідомляють про оприлюднення даних щодо премій і показників ефективності 22 технічних фахівців Tesla. Крім того, у відкритому доступі опинилися персональні дані співробітників круїзної компанії та лікарень, що робить витік небезпечним не лише для корпорацій, а й для звичайних людей, чиї відомості не мали публікуватися. Деякі джерела називають цифру понад 35 000 уражених застосунків, однак оцінки в різних медіа відрізняються, і точну кількість із цих даних установити неможливо.
Фахівці зазначають, що уникнути викриття можна було б, розмістивши випадковий ідентифікатор у шляху адреси, а не в імені піддомену. Саме такий підхід, за їхніми словами, використовують Google і ChatGPT. Адреса з ідентифікатором у шляху не потрапляє до публічних DNS-журналів у тому вигляді, який дозволяє знайти проєкт простим переліком. Після публічного повідомлення про проблему 24 застосунки SpaceXSI були вилучені, і тепер за відповідними посиланнями відображаються помилки. Це означає, що доступ до конкретних матеріалів закрито, однак сама вразливість, за даними експертів, на момент оприлюднення повністю не усунута для всіх проєктів.
У SpaceXSI заявили, що застосунки за замовчуванням були приватними. Незалежні перевірки цього не підтвердили: тести показали протилежне, тобто відкриття посилання давало доступ без належної автентифікації. Розбіжність між офіційною позицією компанії та результатами незалежних досліджень стала одним із ключових моментів історії, оскільки саме на припущенні про приватність багато розробників і покладаються, зберігаючи в застосунках чутливу інформацію.
Експерти з безпеки попереджають, що подібні ризики з піддоменами існують і на інших платформах для розробки коду на основі ШІ. Тобто проблема стосується не лише однієї системи, а цілої категорії сервісів, які швидко зростають і дають змогу створювати застосунки без глибоких технічних знань. Саме тому, на думку фахівців, розробники мають самостійно перевіряти налаштування доступу, а не покладатися на замовчування платформи.
Користувачам радять вручну налаштувати доступ до своїх проєктів на режим «лише запрошені користувачі». Це дасть змогу обмежити перегляд сторонніми особами, поки розробники не усунуть вразливість у самій системі. Для тих, хто вже зберігав у таких проєктах конфіденційні документи, рекомендація полягає в тому, щоб перевірити, чи були вони доступні за посиланнями, і за потреби змінити облікові дані та інші відомості, які могли потрапити у відкритий доступ.