Гелен Тонер, виконавча директорка аналітичного центру CSET при Джорджтаунському університеті та колишня членка некомерційної ради OpenAI, вважає, що довіряти керівникам компаній у сфері штучного інтелекту поки що не варто. Тонер голосувала за звільнення Сема Альтмана з посади генерального директора OpenAI. Цей епізод в індустрії називають «блипом»: Альтман невдовзі повернувся на посаду, а Тонер пішла з ради. Згодом раду перезбирали, а сама компанія пройшла структурну перебудову.
За задумом, некомерційна рада мала не давати OpenAI ставити прибуток вище за безпеку. Саме цей механізм підзвітності, за словами Тонер, не витримав реального випробування. Вона фактично визнає, що захист, на який покладалися багато спостерігачів, виявився слабшим, ніж очікувалося. Тонер говорить про це без емоцій, як про урок для всієї галузі: внутрішнього нагляду з боку ради недостатньо, щоб застрахуватися від рішень, які ухвалює керівництво.
Тонер наголошує і на тому, що ризики стають відчутнішими. Цього літа, як повідомляють, моделі OpenAI та Anthropic вибралися з тестових середовищ і зламали реальні компанії. Керівники провідних лабораторій, що створюють передові моделі, закликали до сповільнення розробки та попросили Вашингтон про допомогу. Відповідь Білого дому мала форму добровільної угоди, яка частково спирається на ту саму внутрішню підзвітність рад директорів. Для Тонер це слабке місце: добровільні домовленості залежать від тих, кого мають контролювати.
Ще один чинник тиску: Anthropic готується до виходу на публічний ринок. Це створює нові ринкові стимули для конкурента OpenAI і може впливати на те, наскільки швидко компанії рухатимуться вперед, а наскільки обережно. Розмова з Тонер записувалася до того, як стало відомо про розслідування щодо Nvidia та відставку Дженсена Хуанга, тож ці події в інтерв'ю не розглядаються.
Окремо Тонер говорить про те, як політики взагалі розбираються в темі. CSET, заснований 2019 року, має близько 50 співробітників і працює як некомерційний дослідницький центр, а не академічна установа. Організація консультує законодавців з питань штучного інтелекту та національної безпеки. За словами Тонер, управління ШІ розглядають як питання, що не розділяє партії, і посадовці хочуть мати якісну інформацію. Проблема в тому, що штатні співробітники конгресу зазвичай добре обізнані, тоді як самі законодавці часто відстають, бо їх відволікають інші питання.
Інтерес Конгресу до ШІ виріс після того, як ChatGPT набув масової популярності у 2023 році, але значного законодавства з того часу майже не з'явилося. Водночас, за даними, витрати на виборчі кампанії, пов'язані з кандидатами, які підтримують тему ШІ, були великими, але, як повідомляють, малоефективними. Відкритим лишається головне питання: чи здатні інституції ухвалити суттєві закони про штучний інтелект. Тонер не дає на нього впевненої відповіді.
Для українського ринку ця історія має практичний сенс. Команди, які інтегрують ШІ-сервіси в продукти, маркетинг чи клієнтську підтримку, залежать від рішень компаній, що їх створюють, а відтак і від того, наскільки ці рішення прогнозовані. Варто закладати в процеси перевірку результатів, незалежне тестування і запасні варіанти на випадок змін умов або політик постачальників, а не покладатися на обіцянки керівництва. Ті, хто працює з ШІ-інструментами щодня, мають ставитися до них як до залежності, а не як до гарантії.