И еще из хороших опенсорсных новостей – Open Assistant релизнули первую модель, и ее даже можно инферить в бесплатном колабе

Для тех, кто пропустил, Open Assistant – это инициатива, запущенная Янником Килхером и поддержанная LAION, напраленная на то, чтобы создать опенсорсную версию ChatGPT. Планируют релизить и сами модели, и накраудсорсенные instruction data для обучения
Если хотите помочь в этом деле, регайтесь вот тут – https://open-assistant.io/

Как сообщает Янник в дискорде, первый батч данных на 100k сообщений уже собрали и обучили первые версии гпт. Вот модель 12B на huggingface и ссылка на колаб, где можно подгрузить ее в 8bit

Дальше должно быть еще лучше, так как данные будут еще собирать и еще фильтровать