Приватність даних перетворилася на один із головних критеріїв під час вибору постачальника штучного інтелекту. Компанії дедалі більше побоюються, що провідні розробники ШІ-моделей можуть використовувати їхню інтелектуальну власність для вдосконалення власних продуктів, і тому шукають альтернативи — відкриті моделі та так званий «суверенний ШІ».
Найгучніший конфлікт спалахнув у червні, коли Anthropic почала вимагати 30-денного зберігання всіх чатів із її найпотужнішими моделями Fable і Mythos. За словами джерела, яке консультує клієнтів із впровадження ШІ та побажало залишитися анонімним через тісну співпрацю з Anthropic, багато компаній відреагували на це «майже алергічно». «Галузь загалом це повністю відкинула і була досить розлючена», — зазначив він.
За місяць після цього генеральний директор Microsoft Сатья Наделла та очільник Palantir Алекс Карп застерегли компанії від надмірної залежності від моделей провідних ШІ-розробників, заявивши, що ті ризикують втратити свою інтелектуальну власність. «Ви фактично платите за інтелект двічі: один раз грошима, а вдруге — чимось набагато ціннішим: пропрієтарними знаннями, які мусите розкрити, щоб цей інтелект став корисним», — сказав Наделла.
OpenAI та Anthropic заявляють, що не тренують свої моделі на корпоративних даних. Однак багато експертів із безпеки даних переконані, що ШІ-компанії можуть мати тонші способи отримувати уявлення про те, як працюють їхні клієнти, і використовувати це для вдосконалення майбутніх моделей без прямого тренування на даних, які обробляють моделі. «З бізнесового погляду ризик того, що будь-які з цих даних використають для тренування ШІ-моделі, є неприйнятним. Ми перебуваємо на дуже цікавому перехресті», — каже Роб Грегорі, віцепрезидент і директор з інформаційної безпеки компанії Optiv, що надає консультації з кібербезпеки для бізнесу.
Останні інциденти з «некерованим ШІ» лише посилили побоювання, що новітні моделі можуть збирати дані або публікувати їх без дозволу бізнесу. На тлі цих ризиків компанії прагнуть диверсифікувати використання ШІ та зменшити залежність від провідних гравців. Для цього з'явився термін «суверенний ШІ» — здатність компанії контролювати власний «ШІ-стек»: від володіння чипами, на яких виконуються ШІ-навантаження, до створення власної хмарної інфраструктури та використання відкритих моделей, які можна завантажити й запускати у власному хмарному середовищі.
Історично термін «суверенний ШІ» асоціювався з урядами, але цього року він перейшов і в корпоративний світ. «Про суверенітет даних ми говоримо багато», — сказала Брук Гопкінс, засновниця компанії голосового ШІ Coval. За її словами, ця тема стала однією з головних у внутрішніх дискусіях.
Проблема в тому, що запуск відкритих ШІ-моделей вимагає більшої технічної експертизи, а в деяких випадках компанії не отримують найсучасніших можливостей — наприклад, у програмуванні чи фінансовому аналізі, — які пропонують продукти OpenAI, Anthropic і Google. «Ви обмінюєте контроль на відповідальність, чи не так? Бо коли ви берете це всередину, відповідальності стає значно більше», — зауважив Грегорі.
OpenAI та Anthropic і далі змагаються за корпоративних клієнтів, намагаючись утримати тих, хто вже з ними, від переходу на відкриті альтернативи. OpenAI побачила можливість після оголошення Anthropic про зберігання даних: у блозі від 19 серпня вона нагадала, що пропонує повне нульове зберігання даних (ZDR) для корпоративних клієнтів, а також анонсувала функцію Private Safety Processing (PSP). Вона додає до ZDR елемент зберігання даних і дає клієнтам змогу тримати їх у власній хмарі, а не на серверах OpenAI. Anthropic відповіла 1 вересня новою, схожою версією ZDR, яка також дозволяє бізнесу зберігати дані у власних хмарних акаунтах.
Але чи завдано шкоди? Після оголошення про 30-денне зберігання такі компанії, як Booz Allen, вирішили обмежити використання моделі Fable своїми командами. Ще один поширений шлях до провідних моделей — Amazon Bedrock, який дає компаніям доступ до кількох ШІ-моделей без розкриття даних постачальникам. Це один із найшвидше зростаючих продуктів AWS: витрати клієнтів у першому кварталі зросли на 170%, а майже 80% компаній зі списку Fortune 100 його використовують. «Amazon каже: вам не обов'язково довіряти провідним лабораторіям. Це усталеніша компанія, якою люди користуються десятиліттями», — сказав Рендалл Гант, технічний директор консалтингової компанії Caylent, що спеціалізується на AWS.
Багато компаній обирають «гібридну модель» — поєднання закритих і відкритих моделей. «Суверенний ШІ дає змогу сказати: гаразд, я й надалі співпрацюватиму з OpenAI та Anthropic у деяких речах, але для іншого набору завдань використовуватиму відкриті моделі на власних серверах», — пояснив Дутта. Однак це вимагає від компаній самостійно захищати моделі та відповідально їх впроваджувати. Глен Вайз, генеральний директор і співзасновник Cinder, яка розробляє програмне забезпечення для виявлення та усунення зловживань моделями, відзначив різкий сплеск запитів від клієнтів після того, як Anthropic оголосила, що Fable не матиме ZDR.