Компанія Anthropic, один із провідних розробників штучного інтелекту, готується до первинного публічного розміщення акцій з оцінкою, що, за повідомленнями, сягає рекордних $2 трлн. Це може стати одним із найбільших IPO в історії технологічного сектору. Однак напередодні виходу на біржу найгучнішими критиками компанії виявилися її власні співробітники — як нинішні, так і колишні.
Еван Габінгер, який очолює в Anthropic команду Alignment Science, у відповіді на допис колеги про звільнення написав, що співробітники компанії «щиро вірять, що ШІ може вбити всіх людей». За його власною оцінкою, ймовірність такого сценарію протягом наступного десятиліття перевищує 10%. «Я вірю, що Anthropic робить усе можливе, але в нас досі немає плану вирішення проблеми вирівнювання для надінтелекту, і ми не впевнено рухаємося до нього», — зазначив він.
Інший дослідник компанії, Дрейк Томас, заявив, що готовий «спалити свою частку в компанії заради навіть 1% підвищення шансів вижити в цій ситуації». Він наголосив, що це не маркетинговий хід, а справжній страх. Подібні заяви не є новими для Anthropic: компанія від самого початку засновувалася як лабораторія з безпеки штучного інтелекту, а її генеральний директор Даріо Амодеї неодноразово оцінював ймовірність катастрофічних наслідків від ШІ в діапазоні від 10% до 25%.
Проте час для нової хвилі дискусій про ризики виглядає незвичним — до IPO залишаються лічені тижні. Публічне розміщення може створити тиск на обережні принципи компанії, адже акціонери очікують зростання, а це може означати меншу готовність до добровільного уповільнення розробки, про яке говорив Амодеї. Крім того, відсутність чіткого плану контролю ризиків може насторожити інвесторів.
Цього тижня SOC Investment Group — акціонерна група, пов’язана з профспілковими пенсійними фондами, — закликала Anthropic відкласти розміщення. Аргумент полягає в тому, що конфіденційну заявку на IPO було подано ще в червні, до появи останніх інцидентів зі зломами, попереджень про вимирання людства та пропозицій щодо темпів розробки. На думку групи, інвестори не мають можливості належно оцінити ці ризики.
Водночас існує й протилежна думка: вихід на біржу може підвищити прозорість і посилити нагляд, що зробить компанію безпечнішою. Для корпоративних клієнтів і споживачів відкритість щодо ризиків, незалежне оцінювання та зобов’язання щодо темпів розробки можуть стати конкурентною перевагою.
Для порівняння, OpenAI вирішила пригальмувати власне IPO. Генеральний директор Сем Альтман назвав поточний момент «невдалим для виходу на публічний ринок» через занепокоєння щодо безпеки штучного інтелекту. Коли ж документи S-1 від Anthropic та OpenAI зрештою стануть публічними, розділи про ризики, ймовірно, викличуть неабиякий інтерес.