⚡️ Разработка Яндекса, которая позволит внедрять объёмные языковые модели в смартфоны или умные колонки

Яндекс выложил в опенсорс новые методы сжатия языковых моделей, с помощью которых размер нейросети можно уменьшить до 8 раз. Качество ответов при этом сохраняется на 95%, а уменьшенные с помощью алгоритмов модели могут работать до четырёх раз быстрее, поскольку требуют проводить меньше вычислений.

🟡Статья

@machinelearning_interview