Генеральний директор Microsoft Сатья Наделла заявив, що компаніям слід виходити з припущення: будь-яка складна ШІ-модель, яку вони розгортають, може бути скомпрометована. Відповідно, її потрібно стримувати з самого початку, а не сподіватися, що загроза не проявиться. Про це він написав у суботньому дописі на платформі X.
За словами Наделли, йдеться про своєрідне «аварійне гальмо». Уповноважена людина завжди повинна мати можливість поставити модель на паузу або вимкнути її. Це не абстрактна вимога до безпеки, а конкретний елемент архітектури довіри, який має бути закладений у систему до того, як вона почне виконувати критичні функції.
Наделла також закликав «зупинитися й оцінити архітектуру довіри» навколо штучного інтелекту. Тобто мова не лише про технічні запобіжники, а про те, як компанії загалом вибудовують довіру до ШІ-систем: хто має доступ, хто ухвалює рішення про зупинку, як фіксуються дії моделі та як швидко можна локалізувати інцидент.
Порівняння з інсайдерською загрозою тут ключове. Компанії давно мають процедури проти співробітників або підрядників, які мають легітимний доступ, але можуть використати його на шкоду. Наделла пропонує застосувати ту саму логіку до ШІ-моделей: наділяти їх доступом за принципом найменших привілеїв, сегментувати середовище, вести аудит і мати план дій на випадок збою.
Для українських продуктових і маркетингових команд це має цілком практичний вимір. Якщо компанія вже віддала ШІ-агенту доступ до CRM, рекламних кабінетів, бази клієнтів або внутрішньої аналітики, варто заздалегідь визначити, хто і як може його зупинити. Особливо це стосується сценаріїв, де модель самостійно запускає кампанії, змінює бюджети або надсилає повідомлення клієнтам.
Окреме питання — хто саме має право на «аварійне гальмо». Якщо це лише технічний фахівець, який не чергує у вихідні, зупинка може затягнутися. Якщо це керівник без технічного контексту, рішення може бути запізнілим. Наделла фактично описує потребу в чіткій ролі та регламенті, а не в одноразовому налаштуванні.
Microsoft сама активно впроваджує ШІ у свої продукти, тож заява її очільника — це не лише порада ринку, а й сигнал про те, як вендор бачить відповідальність клієнтів. Для команд, які обирають між готовими ШІ-рішеннями та власними розробками, це додатковий критерій оцінки: чи є в інструменті механізм примусової зупинки, журнал дій і розмежування прав.
Практичний висновок для українського ринку простий: перед масштабуванням ШІ-агента варто провести міні-аудит доступу. Перелічіть, до яких систем він підключений, які дії може виконувати без підтвердження людини і хто має технічну можливість його вимкнути. Якщо відповіді немає — архітектура довіри ще не готова.