Anthropic запровадила нові правила: ображати ШІ заборонено

Нова версія політики використання Anthropic забороняє тривалу й безпідставну жорстоку поведінку щодо моделей Claude. Оновлення компанія опублікувала 8 жовтня, а в силу воно набуде 12 листопада. Про це повідомляє «Главком» з посиланням на Anthropic та The Verge.

Що саме заборонили

Anthropic додала до правил заборону на тривалу й безпідставну образливу чи жорстоку поведінку щодо своїх моделей. За словами компанії, норма розрахована лише на крайні випадки, коли користувач знову й знову жорстоко поводиться з моделлю без зрозумілої мети.

Вона не стосується звичайного невдоволення, критики й суперечок із моделлю, похмурих творчих сюжетів, а також тестування й дослідницької роботи.

Основним способом забезпечення цього правила, за словами Anthropic, лишається можливість Claude завершити розмову. Така функція в Claude.ai та Claude Code з'явилася раніше: модель може припинити рідкісні діалоги з користувачами, які постійно поводяться образливо. Тепер заборону закріпили й у самій політиці.

Які ще правила змінила компанія

Більшість змін, як зазначає Anthropic, лише уточнює вже чинні норми. Перегляд пов'язаний із тим, що Claude дедалі частіше виконує довші й самостійніші завдання, а також із новими випадками зловживань, які компанія описала у вересневому звіті про загрози. Зокрема, змінилося таке:

• Оманливі кампанії. Правила проти прихованого авторства повідомлень, поширення контенту через фальшиві акаунти та створення інструментів для впливових операцій зібрали в один розділ, який охоплює і політичну, і комерційну діяльність.
• Вибори. Розділ тепер називається «Не підривайте демократичні процеси» й забороняє використовувати Claude, щоб обманювати виборців чи зривати вибори: поширювати неправду про кандидатів або голосування, видавати себе за кандидатів чи виборчих посадовців, придушувати явку.
• Зброя. Заборона явно охоплює програмне забезпечення та компоненти, потрібні для роботи зброї, а також озброєння дронів та інших автономних транспортних засобів. За словами компанії, на практиці правила діяли так і раніше.
• Стеження. Забороняється відстежувати людей без їхньої згоди (у реальному часі чи за вже зібраними даними), створювати або вдосконалювати інструменти для стеження, а також використовувати Claude для рішень чи рекомендацій, кого розслідувати, затримувати чи обвинувачувати. Дозволеними лишаються відстеження за згодою (наприклад, моніторинг шахрайства), модерація контенту, журналістика та юридичні дослідження.
• Здоров'я, право, фінанси. Вимоги не змінилися: якщо результат може вплинути на здоров'я, юридичні права, фінанси чи доступ до важливих послуг, потрібна кваліфікована людина, яка може переглянути рекомендації, і повідомлення про використання ШІ. Розділ просто переписали, щоб чітко перелічити, які рекомендації підпадають під ці вимоги.
• Фізичні пристрої. Якщо Claude підключено до обладнання, що самостійно виконує фізичні дії й може завдати травм, кваліфікований оператор має мати змогу спостерігати за ним і зупинити його, а система мусить переходити в безпечний стан за втрати зв'язку з моделлю.

Політичний контент

Одна з менш очевидних змін стосується політичної комунікації: Anthropic прибрала загальну заборону на персоналізоване інформування виборців і таргетування кампаній. За поясненням компанії, ця норма зачіпала й законну роботу: наприклад, коли громадські організації готують інформацію для виборців іншими мовами або виборчі органи надсилають повідомлення про виправлення помилок у бюлетенях. Маніпуляції, використання персональних даних без підстав і спроби обманути виборців залишаються забороненими за іншими розділами.

Окремо компанія уточнила політику щодо непідтримуваних регіонів: Claude не можуть використовувати люди, які фізично перебувають у такому регіоні, юридичні особи, зареєстровані чи розташовані там, а також компанії, більшість яких належить або підконтрольна особам чи структурам із цих регіонів.

Нові правила набудуть чинності 12 листопада 2026 року.