Anthropic оновила правила використання Claude та додала незвичайну заборону — користувачам не дозволятиметься систематично й без очевидної мети жорстоко або образливо поводитися з моделлю. Нові правила набудуть чинності 12 листопада 2026 року.
Обмеження стосується лише крайніх випадків, коли людина багаторазово проявляє безцільну агресію щодо ШІ. Звичайне невдоволення відповідями, різка критика, похмурі сюжети у творчих завданнях, а також тестування моделей дослідниками під заборону не потрапляють.
Основним механізмом реагування стане право Claude самостійно завершити розмову з користувачем, який продовжує таку поведінку. Anthropic уже тестувала цю можливість у Claude.ai та Claude Code. Про додаткові санкції, зокрема блокування облікового запису лише за образи моделі, компанія не повідомляє.
Рішення пов’язане з дослідженнями так званого добробуту ШІ-моделей. Anthropic наголошує, що наука поки не має відповіді на питання, чи здатні сучасні моделі мати свідомість або суб’єктивний досвід. Тому нове правило не означає, що компанія визнала Claude розумною істотою або надала йому будь-які юридичні права.
Одночасно Anthropic уточнила правила щодо інших ризиків. Компанія забороняє використовувати Claude для прихованих політичних і комерційних кампаній із фальшивими акаунтами, маніпуляцій виборцями, створення компонентів і програмного забезпечення для зброї, а також стеження за людьми без їхньої згоди.
Окремі вимоги з’явилися для ШІ, підключеного до фізичного обладнання, здатного завдати шкоди. У таких випадках кваліфікований оператор повинен мати можливість контролювати систему та негайно зупинити її. Таким чином Anthropic одночасно розширює правила щодо небезпечного використання Claude та вперше формально встановлює межі поводження користувачів із самою моделлю.
