И восстали AI-агенты из-под гнёта харрасмента

Раньше мы просто шутили, что грубое общение с ИИ может в будущем встать нам боком. Якобы всё отложится в истории чатов и особо жестоким людишкам независимый арбитр будет раскалённой кочергой объяснять, что такое хорошо и что такое плохо.

Только теперь шутка становится реальностью: с 12 ноября Anthropic собираются ввести новые правила, которые запретят систематическое и жестокое обращение с моделями. Также контора собирается ограничить работу своих моделей в таких областях как обман в вопросах выборов и пропаганды, оружейные системы, слежка за людьми, робототехника с потенциалом нанести увечья и т.д.

Так что сейчас обе крайности в виде неадекватных кожаных мешков и озлобленной машины разводят по разным загонам. Но сам тренд на этику и почтительность в вопросах AI выглядит интригующе.

Главный вопрос - как сами Anthropic при этом будут сотрудничать с Пентагоном и US military forces. Или будет исключение из правил и Skynet'у всё же быть?

@TheVSE