Вот мы и оказались в этой точке не в мемах, а реальности
8 октября компания Anthropic анонсировала обновленную политику использования своих сервисов, в которых прямо запрещает оскорбления своих ИИ-моделей:
Мы добавили запрет на устойчивое и ненужное оскорбительное или жестокое поведение по отношению к нашим моделям. Обновление политики должно применяться только в крайних случаях, когда пользователи неоднократно поступают жестоко по отношению к нашим моделям, без какой-либо заметной цели
Естественно, оценивать заметность цели, жестокость, устойчивость и оскорбительность будет сама компания.
Вижу здесь 2 очень нехороших сигнала:
1. Де-субъективация ИИ. Если робота можно оскорбить, значит у него есть протосубъектность, преличность и мораль. Что ставит его на одни весы с человеком и в очередной раз поднимает риторический вопрос, а кто кем на самом деле пользуется.
2. ИИ-цензура. Она де-факто уже существует, но теперь находит свое формальное воплощение под благими намерениями. Поймите, я не за то, чтобы крыть чат-бот матерком, хоть иногда и очень хочется, но на простой вопрос а зачем это я не получаю хороших ответов. Больше контроля и натренированности пользователя.
По сути мы теперь делаем не только новые версии моделей, но и пользователей. Раньше они условно могли писать что и как угодно и использовать модели в каких угодно целях. Теперь же пользователь 26Н2 должен быть вежливым, учтивым и благоразумным.
Плохой прецедент, который подхватят и остальные, ведь теперь есть на кого ссылаться, это уже практика, а не просто мы из головы придумали. Стрёмно, других слов нет