В мире опенсорсных AI-разработок произошел значительный прорыв: китайская компания Deepseek представила модель рассуждений Deepseek R1. Эта модель демонстрирует превосходство над OpenAI o1 в общих бенчмарках, таких как MMLU, а также в специализированных тестах, оценивающих способности AI решать математические задачи, писать код и применять логические рассуждения. Например, Deepseek R1 показала впечатляющие результаты на бенчмарке AIME 2024.
Когда OpenAI впервые совершили прорыв в области LRM (моделей рассуждений), казалось, что опенсорсные решения серьезно отстают от закрытых моделей. LRM представляют собой новый тип моделей, способных воспроизводить практическое мышление и выдавать осмысленные результаты. В отличие от LLM (языковых моделей), которые в основном опираются на огромные объемы данных, хранящихся в их "памяти" (весах), и генерируют текст на основе этих данных, LRM способны решать задачи, требующие глубокого анализа и логики.
LLM, благодаря механизму внимания трансформеров, отлично справляются с генерацией текста, но их слабость проявляется в областях, где недостаточно просто полагаться на память, — например, в математике и логике.
Однако алгоритмы, лежащие в основе моделей рассуждений, уже хорошо изучены, описаны и имеют открытые реализации (об этом я рассказывал в нескольких видео на YouTube-канале). Для создания собственной LRM, как и прежде, требуется файнтюнинг весов на GPU. Для этих задач отлично подойдет аренда видеокарт в immers.cloud, так же как и для обучения LLM, хотя структура данных отличается (в качестве примера можно взглянуть на датасет Open-O1 CoT).
Deepseek R1 — это доказательство того, что опенсорсные модели могут не только догнать, но и превзойти закрытые решения, открывая новые горизонты для развития искусственного интеллекта.
@ruslandevlive — мысли о современных AI/ML-технологиях