Я написал свою большую языковую модель, обучил ее на пьесе Шекспира, и она мне генерирует более-менее связный текст! И это на самом деле очень волнительно. ))

Если вы подумали, что я развернул модель с помощью Olama, то это не так.

Вы, наверно, заметили, что я сильно увлекаюсь большими языковыми моделями. Всё это время я кропотливо изучал математику LLM, да, именно математику. Это крайне важно для понимания, так как если поймете математику, то, по сути, вы поймете, как работают большие языковые модели.

Но у меня есть привычка, когда я что-то изучаю новое, я всего стараюсь вести конспект на Stepik, далее, если материал интересный, то я упаковываю всё это в виде курса.

И в целом получился очень большой курс по созданию LLM своими руками.

Этот курс немного сыроват, так как там очень много математики, и, соответственно, наверно, где-то есть ошибки. Хотя я всё решал на обычных листочках в клеточку с помощью калькулятора, чтобы лучше понять суть работы трансформера.

Также сейчас я работаю над книгой, где будет более лаконично всё разъяснено.

На курсе будет ссылка на закрытый чат, где можно будет спросить что-то по курсу.

Ну и, конечно, скидка моим подписчикам 20% по промокоду START
https://stepik.org/a/276236