Компанія Anthropic суттєво оновила політику використання своїх ШІ-моделей Claude. Новий документ уперше вводить заборону на тривалу та безпідставну жорстоку або образливу поведінку користувачів щодо самих алгоритмів. Про це повідомляє пресслужба Anthropic.
Згідно з оновленими правилами, Claude матиме право самостійно завершувати розмову з користувачем на платформах Claude.ai та Claude Code, якщо той систематично виявляє агресію без жодної дослідницької чи практичної мети. Водночас звичайні вияви роздратування, суперечки, тестування моделей або наукові дослідження під це обмеження не підпадають. Розробники наголошують, що правило застосовуватиметься лише у крайніх випадках.
Окремий розділ оновленої політики присвячено боротьбі з дезінформацією та маніпуляціями. Anthropic заборонила використовувати Claude для участі в дезінформаційних кампаніях, керування мережами ботів та створення фейкових новин. Приводом стали випадки, коли модель застосовували державні ЗМІ, пропагандистські структури та приватні фірми для приховування справжніх авторів повідомлень, накрутки контенту та побудови інфраструктури для інформаційних операцій.
Також оновлено правила щодо виборів. Claude заборонено використовувати для введення виборців в оману, поширення неправдивої інформації про кандидатів або зриву голосування. Водночас компанія зняла суцільну заборону на персоналізований таргетинг для легітимних громадських ініціатив, наприклад, перекладу інструкцій для виборців іншими мовами.
У сфері розробки зброї політика Anthropic чітко забороняє використання ШІ для створення програмного забезпечення та компонентів, які забезпечують роботу зброї. Також заборонено оснащувати зброєю дрони та інші автономні транспортні засоби.
Щодо стеження та кримінального правосуддя, нові правила забороняють стеження за людьми без їхньої згоди в реальному часі або через аналіз зібраних даних. ШІ не можна використовувати для винесення рішень про розслідування, затримання чи висунення звинувачень. Також заборонено розробку та вдосконалення інструментів для стеження. Водночас дозволеними залишаються моніторинг шахрайства за згодою користувачів, модерація контенту, журналістика та юридичні дослідження.
Для рішень із високим ризиком, зокрема в охороні здоров'я, фінансах чи юриспруденції, обов'язковою умовою залишається наявність кваліфікованого фахівця, який може перевірити та змінити рекомендації системи. Користувачів також мають повідомляти про залучення ШІ. Якщо моделі підключають до фізичного обладнання, здатного завдати травм, оператор повинен мати можливість спостерігати за технікою та зупинити її в разі потреби. У разі втрати зв'язку з ШІ обладнання має автоматично переходити в безпечний режим.
Оновлена політика набере чинності 12 листопада 2026 року. Це вже не перше оновлення правил Anthropic за останній час. Раніше компанія запустила в бета-режимі функції Dashboards та Motion для Claude, а також представила нову модель Claude Haiku 5.5.