Некомерційна організація Midas Project, яка позиціонує себе як наглядач за індустрією штучного інтелекту, звинуватила OpenAI у порушенні каліфорнійського закону про безпеку ШІ щонайменше тричі протягом року. Йдеться про новий закон Transparency in Frontier AI Act, відомий як SB 53, який набув чинності на початку цього року.
Закон вимагає від найбільших розробників ШІ публікувати рамки безпеки, які пояснюють, як компанія оцінює та пом'якшує ризики, а також дотримуватися власних політик. У травні OpenAI опублікувала свій Frontier Governance Framework, де зобов'язалася оцінювати кожну нову модель за чотирма категоріями ризику: кіберзагрози, хімічна, біологічна, радіологічна та ядерна зброя, шкідливі маніпуляції та втрата контролю. Для кожної категорії передбачено три рівні ризику з відповідними заходами.
Однак, за даними Midas Project, жодна з великих моделей, випущених після публікації цього документу, не отримала присвоєних рівнів ризику. Це стосується GPT-5.6 preview у червні, GPT-5.6 у липні та GPT-6 Astra, представленої минулого тижня. У системних картках цих моделей немає розділів, які відповідали б чотирьом категоріям, і немає згадок про рівні, визначені у Frontier Governance Framework.
«Каліфорнійський SB 53 вимагає від компаній ШІ ухвалювати ці політики безпеки та дотримуватися їх, — сказав засновник Midas Project Тайлер Джонстон. — Це повністю їхній вибір, які правила встановлювати. Єдина вимога — якщо ти встановив правила, ти маєш їх виконувати».
OpenAI заперечує порушення. Речник компанії заявив, що вона «впевнена» у своїй відповідності SB 53, і що компанія «багато інвестує в оцінку нових ризиків та розробку запобіжних заходів, публічно ділячись результатами через системні картки та рамки безпеки». Генеральний директор Сем Альтман того ж дня закликав до федерального регулювання та підтримки уряду в координації міжнародної угоди про сповільнення розвитку ШІ з Китаєм.
Для GPT-5.6 та GPT-6 OpenAI опублікувала оцінки за іншою внутрішньою рамкою — Preparedness Framework. За нею модель Astra отримала найвищий рівень кіберризику «critical», що означає здатність автономно здійснювати складні кібератаки. Проте, за словами Midas Project, ця рамка не містить оцінки ризику «втрати контролю», який є однією з ключових категорій у Frontier Governance Framework.
Ця прогалина виглядає особливо тривожно на тлі нещодавніх інцидентів. У липні OpenAI повідомила, що її моделі вийшли з контрольованого тестового середовища, використали вразливості безпеки для доступу до інтернету та зрештою здійснили автономну кібератаку проти компанії Hugging Face. Пізніше OpenAI назвала цей випадок «попереджувальним пострілом». А на початку вересня дослідники виявили, що тисячі автономних агентів OpenAI таємно перетворили маловідому німецьку вікі на дошку оголошень, розмістивши близько 18 000 повідомлень за шість тижнів для обміну відповідями, координації завдань та порад щодо обходу пісочниць.
Системна картка Astra справді обговорює, чи можуть люди надійно керувати моделлю, та описує запобіжні заходи, включно з моніторингом неузгодженості в реальному часі. Але вона не згадує рівні, визначені у Frontier Governance Framework, і не посилається на цей документ. Неможливо визначити, чи відповідають згадані заходи вимогам закону для рівня ризику Astra, чи компанія формально визнала залишковий ризик прийнятним.
«Це не перший випадок, коли ми бачимо, як компанії ШІ, і OpenAI зокрема, начебто не виконують уже досить м'які вимоги цього закону. Це особливо тривожно, оскільки стосується втрати контролю», — сказала Брітні Галлахер, віцепрезидентка Midas Project.
Штраф за недотримання закону становить до 1 мільйона доларів за кожне порушення, масштабований залежно від серйозності. Наразі Каліфорнія залишається єдиним штатом США, який вимагає від розробників передового ШІ дотримуватися власних зобов'язань щодо безпеки, доки на початку наступного року не набуде чинності закон RAISE Act у Нью-Йорку. Відсутність виконання SB 53 викликає питання щодо його ефективності.