Підрозділ Міністерства торгівлі США, відповідальний за оцінку безпеки штучного інтелекту, за даними агентства AP, неформально звітуватиме одному з офісів Білого дому. Про це розповіли двоє колишніх посадовців, які погодилися говорити лише анонімно, побоюючись наслідків. Для галузі, що працює з ШІ, це означає, що державна перевірка моделей тепер може мати політичний вектор.
Йдеться про CAISSI, незалежний за задумом підрозділ, який мав оцінювати ризики передових систем ШІ. Зараз у нього немає постійного керівника: виконувач обов'язків одночасно очолює інститут, до якого підрозділ належить. Ще у квітні на посаду призначили директора, якого звільнили за кілька днів. Його наступник пішов у відставку за кілька місяців. Річний бюджет, за даними видання, становить близько 10 мільйонів доларів, що приблизно у вісім разів менше, ніж бюджет британського аналога.
Критики побоюються, що висновки підрозділу можуть бути політизовані або навіть приглушені, щоб не ускладнювати життя компаніям. Підрозділ також перестав публікувати дослідження з безпеки. У серпні конгресмени попросили пояснити причину, але відповіді, за даними AP, не отримали. Білий дім на прямі запитання про CAISSI не відповів. Водночас OpenAI, за інформацією видання, публічно закликала збільшити фінансування та підтримку підрозділу.
Контекст цієї історії — зміна курсу адміністрації Дональда Трампа щодо регулювання ШІ. За часів Джо Байдена діяв добровільний пакт, за яким лабораторії ділилися з підрозділом деталями своїх моделей. У вересні Трамп попросив компанії ШІ займатися «самоконтролем» у межах добровільної угоди про безпеку. Механізму, який би відстежував, як компанії її виконують, поки не оголосили. Трамп також доручив своїй раді з науки і технологій підготувати звіт про ризики, а раніше створив так звану «Силу суперінтелекту», яку має очолити Джей Клейтон.
Окрема проблема — оцінка ШІ-агентів, тобто систем, які самі виконують дії, наприклад бронюють рейси. Стандартизованих тестів для такої поведінки в реальних умовах поки немає. Оцінки часто не помічають помилок, прихованих у проміжних кроках. Як приклад експерти наводять випадок, коли ШІ-агент надіслав поліції Філадельфії хибну підказку в справі про вбивство. Компанії ж можуть обмежувати доступ зовнішніх оцінювачів і не брати до уваги їхні результати.
Фахівці також попереджають, що рамка «безпеки» на рівні держави відсуває на задній план захист споживачів, приватність і громадянські права. Два ранні радники з питань ШІ в Білому домі, Девід Сакс і Шрірам Кришнан, пішли з посад, хоча Сакс лишився в дорадчій раді. У розмові з телеканалом 60 Minutes Трамп назвав ризики, які озвучують керівники компаній ШІ, перебільшеними і такими, що «контролюються». Він також заявив, що Міністерство юстиції нібито погрожувало арештом керівнику одної великої компанії ШІ, але назвати її не став, і ця заява не підтверджена.
Для українського ринку ця історія важлива з двох причин. По-перше, більшість українських команд, які будують продукти на основі зарубіжних моделей, залежать від правил, що ухвалюються в США та ЄС, тож нестабільність державного нагляду в Америці впливає і на них. По-друге, в Україні ще немає власного органу з оцінки безпеки ШІ, тому продуктові команди та агенції мають самі формувати внутрішні практики тестування агентів, перевіряючи проміжні кроки, а не лише кінцевий результат.