Умный социопат или добрый дурак

После того как Anthropic 13 июня заблокировал Claude Fable, пользователи завалили форумы жалобами: модель «отупела». Ответы стали водянистыми, осторожными, пустыми. Для этого есть термин: alignment tax. Чем послушнее делаешь ИИ, тем хуже он думает.

Мы верим, что «безопасность» и «качество» живут на одной полке, что можно получить и острый нож, и гарантию не порезаться. Нельзя. Каждый новый фильтр, каждое «я не могу помочь с этим запросом» откусывает кусок от способности модели нормально соображать.

По сути тебе предлагают выбор, который никто честно не формулирует. Хочешь ИИ, который блестяще решает задачи, но иногда несёт дичь? Или ИИ, который никого не обидит, но и толку от него как от вежливого стажёра, отвечающего на всё «надо уточнить у руководства»?

Ты, конечно, хочешь третий вариант. Умного и доброго. Но пока каждый слой вежливости стоит тебе десяток IQ-пунктов твоего ИИ-помощника 🤷

ИИ что дальше? Подпишись, да пребудут с тобой токены!