А НАХУЯ ОН ТОГДА НУЖЕН?

Очень грустная новость с самого утра, ведь Anthropic запретит издеваться над Claude с 12 ноября. А ещё обновили запреты про слежку, выборы, оружие и робоотв:

1️⃣Отношение к Claude

Запрещено систематически и бессмысленно жестоко обращаться с моделью, иначе Claude просто завершает разговор. Правило касается только крайних случаев: злиться, спорить, писать мрачные истории и тестировать модель по-прежнему можно.

2️⃣Слежка

Нельзя отслеживать людей без их согласия, решать через Claude, кого расследовать, арестовывать или обвинять, и собирать инструменты для наблюдения.

3️⃣Выборы и пропаганда

Ввели ограниченитя на обманыее коммерческие и политические кампании. Теперь под ним скрытое авторство сообщений, накрутка через фейковые аккаунты, дезинформация о кандидатах и порядке голосования, выдача себя за кандидата или чиновника и подавление явки.

4️⃣Оружие

Запрет на софт и компоненты, на которых работает оружие, и на вооружение дронов и других автономных машин.

5️⃣Роботы

Если модель управляет железом, которое может травмировать человека, квалифицированный оператор должен видеть, что происходит, и иметь возможность всё остановить.

Anthropic вообще всерьёз изучает, может ли у ИИ быть сознание. В Microsoft AI позиция обратная: никакого «благополучия моделей» и никаких прав для ИИ.

🤫 И если ты ругаешься на Claude после десятого сломанного билда, можешь выдыхать: раздражение официально разрешено, правило про целенаправленный садизм. Меня больше цепляет пункт про слежку. Фраза «если Anthropic сочтёт меры защиты достаточными» оставляет лазейку ровно под размер госконтракта.

Узнал в @buyonhigh