На щорічній конференції OpenAI DevDay генеральний директор Сем Альтман представив нового ШІ-агента Dots і заявив, що компанія хоче «встановити новий стандарт приватності у фронтирному ШІ». Протягом дня OpenAI робила завуальовані випади на адресу Muse — головного конкурента від Meta — за нібито небезпечне поводження з даними користувачів. Це відбувається на тлі того, що сам Muse лише за кілька місяців до того вийшов як безпечніша альтернатива попередньому продукту OpenClaw, а Марк Цукерберг обіцяв, що його «побудовано з нуля з урахуванням приватності та безпеки».
Така риторика стала звичною для ринку ШІ-агентів. У час, коли технологічні компанії накопичують величезні обсяги персональних даних, а кібератаки перетворилися на буденність, лабораторії штучного інтелекту намагаються переконати користувачів, що їхні агенти здатні захистити приватність. Проте обіцянки поки що залишаються деклараціями: жодна з компаній не надала незалежного аудиту чи технічних деталей того, як саме захищаються дані під час роботи агентів.
Скептицизм підживлюється і кадровими рішеннями всередині самих ШІ-лабораторій. Девід Робінсон, який очолював напрям безпеки в OpenAI, нещодавно пішов з компанії, назвавши себе частиною «параду колишніх колег», що залишили посади через занепокоєння щодо технологій або їх використання. У своєму есе для The Atlantic він закликав припинити підхід «спроб і помилок», який, на його думку, домінує в індустрії.
Робінсон не самотній. У листопаді 2023 року Ед Ньютон-Рекс залишив посаду керівника аудіокоманди Stability AI через використання захищених авторським правом матеріалів для навчання моделей. Згодом він заснував неприбуткову організацію Fairly Trained, яка сертифікує ШІ-компанії за відповідність вимогам до даних. У червні 2024 року тринадцять нинішніх і колишніх співробітників провідних ШІ-компаній опублікували відкритого листа «Право попереджати про передовий штучний інтелект», де йшлося про ризики від посилення нерівності до втрати контролю над автономними системами. Серед підписантів були колишні працівники Google DeepMind, Anthropic та одинадцять людей з OpenAI, а також лауреати премії Тюрінга Джеффрі Гінтон, Йошуа Бенджіо та Стюарт Расселл.
Окремо варто згадати Яна Лейке, який у травні 2024 року залишив OpenAI з посади керівника команди Superalignment. Він заявив, що «культура безпеки та процеси відійшли на другий план заради яскравих продуктів», і тепер очолює напрям узгодження в Anthropic. Лейке наголошує, що індустрія залучена в гонитву за надінтелектом, і закликає створити інституційні механізми для стримування темпів розробки.
Інший гучний випадок — Сучір Баладжі, який після чотирьох років роботи в OpenAI звільнився у серпні 2024 року. Він публічно звинуватив компанію в порушенні авторських прав під час навчання ChatGPT і став потенційним свідком у позові The New York Times. У листопаді 2024 року 26-річного Баладжі знайшли мертвим у його квартирі в Сан-Франциско; смерть кваліфікували як самогубство, хоча його батьки та інші ставили під сумнів це рішення.
Ці історії малюють незручну картину для ринку ШІ-агентів. Компанії обіцяють приватність і безпеку, але водночас втрачають ключових фахівців із безпеки, які публічно заявляють про системні проблеми. Для українських продуктових команд і агенцій, які дедалі частіше інтегрують ШІ-агентів у клієнтські сервіси, це означає потребу в ретельному аудиті постачальників. Варто звертати увагу не лише на функціональність, а й на те, які дані збирає агент, де вони зберігаються, чи можна їх видалити та чи має постачальник незалежні сертифікації. Поки що жодна з гучних обіцянок не підкріплена публічними доказами, тож українським командам варто закладати ризики приватності у свої брифі та договори з вендорами.