Вчера вышла OpenAI Privacy Filter - локальная опенсорсная моделька, которая ищет и маскирует персональные данные. Сделал бенчик на русском и обзор архитектуры. На русской синтетике у них в репорте все неплохо, а в жизни - беда. Но, к слову, они открыто пишут, что под себя ее стоит файнтюнить (я пока нет, но штука интересная, потестю).

Но как феномен - локальная 1.5B MoEшка, которая работает на любом чайнике без GPU, быстрая и специализированная под конкретную задачу, которая упакована в cli - кажется, это наше ближайшее будущее, которое окажет нормальное такое влияние на архитектуру наших агентиков и систем.


https://habr.com/ru/articles/1027266/