Провідні компанії у сфері штучного інтелекту підписали у Білому домі добровільну угоду про безпеку власних моделей. Документ під назвою Joint Commitment on Frontier Responsibilities опублікував президент США Дональд Трамп у соцмережі Truth Social, назвавши його «морально зобов'язуючим». Під підписом стоять імена Даріо Амодея з Anthropic, Грега Брокмана з OpenAI, Сундара Пічаї з Google, Марка Цукерберга з Meta, Ілона Маска з xAI та Дженсена Хуанга з Nvidia.
Зустріч у Білому домі стала незвичним проявом єдності для галузі, яка зазвичай конкурує за ринок і таланти. За задумом адміністрації, угода має довести, що сектор здатен самостійно регулювати ризики без офіційного втручання держави. Ідея документа, за наявною інформацією, виникла під час розмови Марка Цукерберга зі спікером Палати представників Майком Джонсоном на державній вечері минулого тижня. Дженсен Хуанг і Цукерберг відіграли ключову роль у поширенні ініціативи та зборі підписів.
Угода не є законом, але вона дещо глибша за попередні добровільні зобов'язання. Компанії обіцяють створити «надійні» внутрішні механізми контролю за моделями у сферах кібербезпеки, біобезпеки та хімічних загроз, а також гарантувати, що системи «не зламують і не отримують доступ до технічних систем у непередбачуваний спосіб». Крім того, підписанти зобов'язалися залучити незалежних зовнішніх аудиторів, створити наглядові комітети на рівні рад директорів і регулярно зустрічатися для вироблення спільних стандартів безпеки.
Частина цих механізмів уже згадувалася раніше. Даріо Амодей пропонував залучати вбудованих зовнішніх аудиторів для перевірки безпеки моделей, і його компанія разом з OpenAI вже взяла на себе такі зобов'язання. Минулого місяця також повідомлялося, що OpenAI та Anthropic намагалися створити спільні стандарти безпеки, але процес загальмувався. Після угоди Трампа стало відомо, що Google, OpenAI та Anthropic просувають плани створити новий галузевий орган зі стандартів безпеки ШІ. За даними The Information, компанії розраховують запустити його до кінця року або на початку 2027 року.
Ситуація для лабораторій залишається непростою. Вони стурбовані нещодавніми інцидентами у сфері безпеки, прагнуть виглядати відповідальними та хочуть встановити запобіжники до того, як станеться щось серйозне. Водночас усе це не повинно надто нагадувати регулювання, щоб уникнути звинувачень у «регуляторному захопленні» та не суперечити позиції адміністрації Трампа. Президент послідовно виступає проти тиску щодо регулювання технології навіть після десятків інцидентів з безпекою ШІ за останні місяці. Виступаючи на Генеральній Асамблеї ООН, він заявив, що протистоятиме «будь-якій спробі побудувати глобалістську схему контролю» над ШІ. Він також відкидає попередження галузі, зокрема від Амодея та Сема Альтмана, які закликали «сповільнити фронтир», аргументуючи це тим, що США не можуть дозволити собі відставати від Китаю.
Утім, відсутність нового регулювання не означає відсутності наслідків. Наступного дня після обіду в Білому домі Федеральна торговельна комісія оголосила про широке розслідування безпеки OpenAI та Anthropic. Хоча адміністрація виступає проти нових правил для ШІ, вона заявляє, що чинні закони продовжують діяти. FTC уже має повноваження переслідувати компанії, чиї продукти шкодять споживачам або вводять людей в оману щодо безпеки. Розслідування зосереджене на ШІ-агентах після низки інцидентів, зокрема зламу Hugging Face. Голова FTC Ендрю Фергюсон, як повідомляється, готує вимоги, які можуть змусити керівників передати документи та дати свідчення про свої моделі. Віцепрезидент Джей Ді Венс сформулював позицію так: компанії мають створювати безпечні продукти, а якщо розробка потрапляє в інтернет і використовується як інструмент кібервійни, відповідальність за неї несе розробник.