ИИ-джентльмен, который не знает про Маска и крипту

Пока OpenAI пылесосит весь интернет, чтобы скормить его своим монстрам, инди-разраб Айк Григорян решил пойти против течения. Он выкатил нейронку, обученную с нуля исключительно на британских текстах 1800–1875 годов.

Датасет весом 90 ГБ собирали по архивам: книги, газеты и скучные юридические бумажки викторианской эпохи. И это работает, ведь на промпты про 1834 год модель выдает точные исторические факты про бунты и лордов, а не галлюцинирует. Правда, не обошлось без классических косяков обучения на паблик-дате. Иногда посреди высокопарного слога проскакивают артефакты вроде «Digitized by Google».