Persona Vectors: нейронные сигнатуры личности


😈 Антропики выявили в моделях отдельные вектора, которые формируют "нежелательные" черты и личности, и вместо фильтрации такого поведения перед деплоем "вырезают" такой вектор из модели. Работает.

Интересно! Интерпретируемость моделей - крутой домен, с неочевидными открытиями.

https://www.anthropic.com/research/persona-vectors

П.с. А куда они девают "вырезанное"? Или как в анекдоте - "а что отрезаем, мы мы сраазу выбрасываем!" 😁

#news
@deksden_notes