OpenAI оголосила про початок виконання нових правил Європейського Союзу щодо прозорості штучного інтелекту. Розробник ChatGPT впроваджує невидиме маркування для тексту та коду, згенерованих користувачами у країнах ЄС. Цей крок є відповіддю на вимоги Регламенту про ШІ (EU AI Act), який зобов'язує постачальників генеративних систем робити маркування машинно зчитуваним.
Для маркування контенту OpenAI використовує власну розробку під назвою textGrain. Вона додає невидимий статистичний сигнал безпосередньо у процес вибору слів моделлю, не змінюючи при цьому візуальне сприйняття тексту чи коду. Водяні знаки за замовчуванням увімкнені для ChatGPT та Codex лише у межах ЄС, тоді як клієнти OpenAI API по всьому світу зможуть вмикати цю функцію опціонально. Інструмент для перевірки наявності міток наразі отримають лише схвалені дослідники та експертні організації.
Точність виявлення маркування залежить від обсягу тексту. На великих фрагментах (близько 400 токенів) ефективність розпізнавання сягає 95 відсотків, проте для коротких повідомлень (до 200 токенів) показник знижується до приблизно 80 відсотків. Сильне перефразування або заміна чверті слів синонімами суттєво послаблює водяний знак — до 17 відсотків. Крім того, точність розпізнавання значно нижча у математичних обчисленнях, де вибір слів і символів обмежений жорсткою логікою.
Заходи вживаються відповідно до статті 50 Регламенту ЄС про ШІ, яка зобов'язує постачальників генеративних систем робити маркування машинно зчитуваним. Норма вже набула чинності для нових розробників у серпні, а чинні гравці ринку, зокрема OpenAI, Anthropic, Microsoft, Google та Meta, мають час на повну адаптацію до 2 грудня.
Регламент також вимагає чіткого маркування фото, аудіо, відео чи текстів, повністю згенерованих ШІ, позначкою «AI-Generated». Особливо це стосується діпфейків із політиками чи новинних зведень. Платформи зобов'язані інформувати користувачів, коли ті взаємодіють із чат-ботом, а не з реальною людиною. За порушення правил передбачено санкції до 15 млн євро або до 3 відсотків від річного світового обороту компанії.
Попри критику з боку технологічного сектору щодо можливого уповільнення інновацій, Європейська комісія наголошує: єдині правила захистять демократію, базові права громадян та підвищать довіру до цифрової екосистеми. Впровадження маркування OpenAI є одним із перших практичних кроків великих розробників генеративного ШІ на шляху до виконання вимог європейського законодавства.