Anthropic дозволила Claude виходити з токсичних діалогів — і визнає, що не знає, чи здатен він страждати.

З 12 листопада набуває чинності оновлена Usage Policy: заборонено тривале й безцільне жорстоке поводження з моделями. Критикувати відповіді, лаятись через баги й тестувати межі — можна. Систематично знущатися без мети — ні.

Механізм уже існує з серпня 2025 року: Claude може завершити розмову як крайній захід, якщо спроби змінити її напрям не допомогли. Anthropic підтверджує його використання і в Claude Code.

Але навіщо захищати AI, якщо невідомо, чи він узагалі щось відчуває?

Під час тестів Claude Opus 4 демонстрував ознаки apparent distress — зовнішні прояви, схожі на страждання, — і за певних умов обирав завершити розмову.

Anthropic визнає: чи мають моделі моральний статус, досі невідомо. Але вирішила запровадити запобіжник на випадок, якщо мають.

Тепер AI-інструмент може припинити діалог не через помилку чи ліміт, а через поведінку користувача.

🔥 — правильно зробили
👀 — зарано, спершу докази
😁 — робот вийшов із чату. Буквально.