👍 Гайд по созданию своего ChatGPT

— Сооснователь OpenAI Андрей Карпаты выложил репозиторий для создания клона ChatGPT с полного нуля

◦ Всего 8000 строк чистого кода — никаких лишних зависимостей;
◦ Вся база — токенизатор, предобучение, файнтюн, обучение с подкреплением и оценка модели;
◦ Мегапросто: достаточно арендовать GPU в облаке, запустить готовый скрипт и уже через 4 часа общаться с собственным ChatGPT;
◦ Аренда GPU стоит меньше 100 долларов, но можно масштабировать проект и получить нейронку на уровне GPT-2;
◦ Карпаты называет это «самым безумным репозиторием, который он когда-либо писал».

Сохраняем и создаём свой ChatGPT — тут.

🧑‍💻 Этичный хакер