Заявка Anthropic на первинне публічне розміщення акцій, подана 26 жовтня, змушує інвесторів поставити питання, яке зазвичай відкладають до кризи: хто може змусити компанію зі штучного інтелекту пропустити цільовий показник виручки. Уявімо, що виконавчий директор стоїть перед затримкою запуску, коли клієнтам уже обіцяли доставку, а обчислювальні потужності зарезервовані. Команда безпеки хоче більше тестувань, відділ продажів наполягає на випуску, фінансовий директор бачить діру в квартальних показниках. Відповідальний ШІ довго був частиною місії компанії, але тепер хтось має схвалити пропуск цільової виручки.
Саме тут, за логікою видання, інвестори мають перевіряти зобов’язання щодо безпеки ШІ: чи виділила компанія достатньо повноважень, коштів і відповідальності, щоб дотримуватися їх у комерційному тиску. Захист бізнесу може означати пропущений квартал. Якщо рада директорів не готова на такий компроміс, команда безпеки опиняється в суперечці з людьми, чиї цілі залежать від запуску. Тому інвесторам варто з’ясувати, хто може зупинити випуск, що має бути виконано перед його відновленням і що станеться, якщо керівництво все одно піде вперед.
У запропонованому статуті Anthropic Long-Term Benefit Trust, або довірчий фонд довгострокової користі, отримує право обирати більшість у раді директорів, а для одного місця передбачені додаткові вимоги до схвалення. За оцінкою автора матеріалу, це суттєва інституційна влада. Водночас у поданій угоді про довірчий фонд встановлено жорсткий поріг для зовнішніх акціонерів, які хочуть примусово виконати її умови: інвестор або група має безперервно утримувати щонайменше 10 відсотків голосів серед «неtrustових голосуючих акцій» щонайменше рік і зберігати цей поріг упродовж судового процесу. Розрахунок виключає акції, що належать довіреним особам, та клас F засновників. Голосуючі довірені особи, компанія та власник класу F мають окремі права на примусове виконання.
Ці обмеження стосуються примусового виконання умов довірчого фонду, а не всіх засобів захисту акціонерів. Інвестор, який не відповідає критеріям, залежатиме від інших уповноважених сторін. Інституційний захист, за висновком видання, не є тим самим, що індивідуальне право на відшкодування.
Заявка описує процес випуску моделей. Перед кожним релізом команда Frontier Red Team аналізує можливості, які можуть допомогти кіберзлочинцям. Рішення про розробку та розгортання ухвалюються у кожному випадку окремо; оцінки можуть призвести до затримки релізу, обмеження доступу або утримання моделі від загального використання. Комітет з безпеки та ризиків ради директорів допомагає наглядати за безпекою й захистом моделей. Окрема Політика відповідального масштабування визначає осіб, що ухвалюють рішення: у процесі звіту про ризики остаточне рішення щодо адекватності оцінок ризику та відповідних планів розробки чи розгортання ухвалюють виконавчий директор і відповідальний за відповідальне масштабування. Коли продовження спирається переважно на аргумент, що системи Anthropic додають відносно менший ризик на тлі ризиків, неминуче створюваних іншими системами ШІ, звіт про ризики має явно схвалити як рада директорів, так і довірчий фонд.
Це серйозні запобіжники. Водночас інвесторам варто з’ясувати, як вирішуватимуться розбіжності між керівництвом, радою та фондом, хто гарантує отримання необхідних схвалень перед продовженням роботи та чи витримають ці механізми фінансовий тиск затримки. Для рад директорів у галузі практичний тест має три частини: повноваження призупинити, кошти для витримки паузи та наслідки обходу правил.
По-перше, слід чітко визначити повноваження щодо паузи та перевизначення рішень. Потрібно вказати, хто може призупинити випуск, які докази запускають таку паузу, що має змінитися перед відновленням і хто може санкціонувати перевизначення. Будь-яке перевизначення має фіксувати особу, що ухвалила рішення, і причини до релізу. Виконавчий директор не повинен мати змогу спершу просувати запуск, а потім пояснювати.
По-друге, паузу треба профінансувати. Варто доручити фінансовому директору змоделювати 90-денну затримку перед затвердженням запуску: які рахунки за обчислювальні потужності continue, які зобов’язання перед клієнтами залишаються, що станеться з грошовими коштами, прогнозами та компенсаціями. Дев’яносто днів є стрес-тестом, а не універсальним стандартом. Мета полягає в тому, щоб з’ясувати, чи призвело б використання запобіжника до фінансової кризи. Рада, яка закладає бюджет на прискорення, але не залишає ресурсів на стриманість, уже фактично схилила рішення.
По-третє, потрібно визначити, що відбувається, коли керівництво обходить запобіжник. Варто вимагати негайної ескалації до відповідного комітету ради, плану коригувальних дій і чітких наслідків для несанкціонованих перевизначень. Компаніям, що купують ШІ, слід домовлятися про повідомлення у разі суттєвої зміни обіцяних гарантій, право на виправлення та, де це можливо, вихід із угоди. Інвестори мають знати, хто може забезпечити виконання кожної обіцянки та що вони можуть вимагати в разі її порушення.
Перед запуском, за порадою видання, варто відпрацювати сценарій провалу safety-перевірки: хто зупиняє реліз, хто фінансує затримку і хто санкціонує відновлення. Такі механізми не гарантують безпечного ШІ, але вони покажуть точку, у якій обіцянки компанії перевищують її готовність за них платити. Конкурентна вигода при цьому більша за уникнення поганого заголовка. Надійна стриманість може дати корпоративним клієнтам підстави довіряти постачальнику відповідальну роботу, що підтримує довгострокові відносини, але її підтримка коштує грошей. Інвесторам варто зважити обидві сторони, перш ніж приписувати цьому вартість, а радам — перш ніж схвалювати плани зростання.
Опублікована політика є відправною точкою, але не доказом того, що запобіжник витримає комерційний тиск. Обіцянка може існувати на папері; здатність її виконати може не пережити бюджету.