Как склеить модель: экономия на обучении

За год количество моделей в мире в целом, а на HuggingFace в частности, выросло с сотен тысяч до миллионов.

Хитрые товарищи подумали, а чего мы будем учить каждый раз модели с нуля (тратить на эту историю от $500К и выше), если можно взять успешные варианты узко-специализированных моделей и собрать из них одно целое, потратив в 1000 раз меньше.

Например, японская компания Sakana AI создала модель с отличной математикой, объединив японскую языковую модель с математическим файнтюном.

На практике это выглядит так: берем модель-эксперта по программированию, модель для математических задач и модель для общения, а затем объединяем их навыки в одной системе.

Весь процесс занимает выходные на обычном домашнем компьютере.

Работает это пока только для моделей одинаковой архитектуры — например, все варианты Llama легко объединяются между собой.

#modelmerging #обучение
———
@tsingular