Штучний інтелект дедалі активніше використовується в маркетингу, але разом із новими можливостями зростають і ризики для безпеки клієнтських даних. Про це йдеться в матеріалі видання Inc., присвяченому безпечному використанню даних клієнтів у ШІ-системах. Автори застерігають: маркетингові команди часто передають чутливу інформацію в інструменти штучного інтелекту, не замислюючись про наслідки.
Проблема полягає в тому, що співробітники використовують ШІ для аналізу поведінки споживачів, персоналізації кампаній та прогнозування попиту, і при цьому можуть завантажувати у моделі персональні дані, історію покупок, контактну інформацію та інші конфіденційні відомості. Якщо ці дані потрапляють у публічні або недостатньо захищені ШІ-сервіси, вони можуть бути використані для навчання моделей, стати доступними третім сторонам або опинитися в руках зловмисників.
За даними Fortune, проблема ускладнюється тим, що ШІ-агенти тепер читають корпоративну документацію майже вдвічі частіше, ніж люди. У серпні 2026 року агенти зробили 257 мільйонів запитів до сайтів документації на платформі Mintlify, тоді як люди переглянули лише 131 мільйон сторінок. Це означає, що будь-яка неточність або застаріла інформація в документації може бути автоматично підхоплена агентами та поширена в тисячах відповідей, включно з чат-ботами підтримки та системами порівняння постачальників.
Окрему небезпеку становить підміна особи. За матеріалами Fortune, генеративний ШІ здатен відтворити голос і обличчя людини, а витоки даних надають зловмисникам достатньо фактів для проходження перевірок. У результаті зловмисник може зателефонувати в корпоративну службу підтримки, назватися співробітником, відповісти на контрольні запитання та отримати доступ до систем вартістю в сотні мільйонів доларів. Документи й облікові дані, які десятиліттями використовувалися як доказ особи, не були створені для підтвердження того, хто ви є насправді.
Щоб зупинити витік даних, компаніям радять запровадити чіткі правила використання ШІ в маркетингу. Серед ключових кроків — визначити, які саме дані можна передавати в ШІ-системи, а які категорично заборонено; навчати співробітників основам кібербезпеки; використовувати лише перевірені корпоративні ШІ-інструменти із захищеними каналами передачі даних; регулярно проводити аудит того, які дані та куди передаються.
Окрема увага приділяється документації. Оскільки ШІ-агенти сприймають знайдену інформацію як істину, компаніям потрібно призначити відповідальних за актуальність і узгодженість внутрішніх знань. Дослідження показують, що 66% розробників називають головним розчаруванням ШІ-видачу, яка майже правильна, але все ж хибна. Часто причина не в моделях, а в матеріалах, які їм надають.
Експерти порівнюють цю ситуацію зі змінами в радіології: у 2016 році Джеффрі Гінтон закликав припинити навчання радіологів, але згодом клініка Mayo збільшила штат радіологів на 55% у період з 2016 по 2025 рік. Замість зникнення професії відбувся перерозподіл завдань. Так само і з документацією: вона перетворюється з довідника для людей на інфраструктуру, якою користуються машини.
Компаніям радять відстежувати нові показники: які запити роблять агенти, де пошук не дає результатів, де джерела суперечать одне одному і як швидко зміни в продукті відображаються в базі знань. Ті, хто ставиться до своїх знань як до інфраструктури, отримають перевагу. Інші ризикують не лише репутацією, а й безпекою клієнтських даних.