Проспект для потенційних інвесторів, який Anthropic подала напередодні планованого IPO, докладно описує ризики для самої компанії. Із загального обсягу документа близько 240 000 слів приблизно 69 800, або 30 відсотків, присвячено ризикам, зокрема катастрофічним сценаріям, витісненню робочих місць, автономним агентам і концентрації влади в галузі. Водночас компанія визнає, що її власні публічні заяви про ризики AI «можуть бути використані проти нас у судових позовах».
Автор матеріалу, який аналізує документ, вважає, що такий підхід має суттєву прогалину. Проспект рахує, у що AI може обійтися акціонерам Anthropic, але не розглядає, яку шкоду продукти компанії можуть завдати всім іншим, і чи не ляже цей рахунок згодом на тих самих акціонерів. Для порівняння автор посилається на реєстр ризиків AI, який він створює у співпраці з Oxfam. Станом на зараз у ньому 103 записи, складені на основі розслідувань, судових справ, медіа та технічних звітів. Ризики в ньому ранжуються за серйозністю, з позначенням того, хто саме поніс витрати, і з оцінкою готовності засобів правового захисту.
Окремо автор звертає увагу на юридичний статус компанії. Anthropic є публічною корпорацією та має статус Delaware Public Benefit Corporation. Законодавство штату Делавер вимагає періодично звітувати про те, як компанія служила інтересам тих, на кого суттєво впливає її діяльність. За словами автора, звіти Anthropic описують скоріше зусилля, ніж реальні результати. Статут компанії передбачає баланс між фінансовими інтересами акціонерів і користю для ширшої громади. Тому автор пропонує окремий документ, «публічну заяву про ризики», у якому мали б фігурувати витрати третіх сторін.
Серед прикладів, які наводить автор, є голландець, помилково позначений алгоритмом виявлення шахрайства, польський лікар, чия фахова кваліфікація занепала через надмірну залежність від алгоритму, та кенійський модератор контенту, який мав травматичну роботу з розмітки токсичного контенту. Усі ці випадки, за словами автора, не відображені в ризиковому розділі проспекта.
Автор виокремлює три ключові аспекти, які, на його думку, мали б з’явитися в такій заяві. Перший стосується працівників і продуктивності. За даними реєстру, спостерігається закономірність надмірної залежності від AI та втрати кваліфікації там, де система набуває авторитету, а люди, які мають її контролювати, втрачають власний. В проспекті надмірна залежність згадується лише побіжно, а втрата кваліфікації не згадується взагалі. Автор наголошує, що виграш у продуктивності може бути перебільшеним, якщо ігнорувати вартість перевірки роботи AI.
Другий аспект пов’язаний з доходами. Очікувана прибутковість компанії спирається на економічні вигоди клієнтів від підвищення продуктивності. Якщо ці вигоди залежать від слабкого контролю або якщо постраждалим потрібно виплатити компенсації, частина виручки може виявитися ілюзорною. Інвесторам, за словами автора, потрібно відрізняти дохід, створений справжнім приростом продуктивності, від доходу, який може бути скасований у майбутньому. Проспект, зазначає автор, визнає, що моніторинг компанії «не охоплює всі» розгортання AI, однак не уточнює повний спектр можливих випадків.
Третій аспект стосується судових і врегульованих справ. Детройт виплатив Роберту Вільямсу 300 000 доларів після помилкового збігу в системі розпізнавання облич, що призвело до його безпідставного арешту. Сервіс скринінгу орендарів SafeRent погодився на мирову угоду у розмірі 2,275 мільйона доларів через дискримінаційний відбір. Anthropic сама домовилася про врегулювання на 1,5 мільярда доларів на користь авторів і видавців через піратські книжки. Автор пояснює, що такі прецеденти можуть посилити вимоги про компенсацію.
За даними реєстру, майже для чотирьох із кожних п’яти з 103 задокументованих випадків шкоди вже існував чинний закон, який можна було застосувати. Отже, розрив полягає не стільки в законодавстві, скільки в практичних можливостях отримати відшкодування. Крім того, законодавча активність на рівні штатів зростає. За звітом Transparency Coalition за 2026 рік, законодавці 30 штатів ухвалили цього року 115 законів, пов’язаних з AI, що майже на 58 відсотків більше, ніж роком раніше. Вісім генеральних прокурорів штатів подали позови проти OpenAI через шкоду дітям, а FTC розслідує відповідальність провідних розробників за недоліки безпеки. Також Євросоюз почав застосування Акту про AI, а Рада з фінансової стабільності закликає банки посилити управління ризиками AI.