Data Science

Бесплатная книга по performance engineering

В Algorithmica хорошо разобрали, почему классическая оценка сложности всё хуже отражает реальную производительность на современном железе.

Раньше модель была довольно логичной: процессор выполняет инструкции почти последовательно, у каждой есть своя стоимость, а значит можно примерно оценить время работы алгоритма количеством операций.

Потом всё упростили до асимптотики. Например, вместо точного количества операций в умножении матриц мы просто говорим O(n³) и игнорируем константы. Для сравнения алгоритмов на больших данных это удобно.

Но современные CPU устроены намного сложнее: кэши, конвейеры, параллельное выполнение инструкций, SIMD, prefetching, память с разной задержкой.

Поэтому два алгоритма с одинаковым O(n) могут отличаться по скорости в разы.

А иногда алгоритм с формально «хуже» сложностью на реальных размерах данных оказывается быстрее.

Хорошая серия для тех, кто хочет перейти от «у этого O(n), значит быстро» к пониманию того, как код реально выполняется процессором.

en.algorithmica.org/hpc/complexity/

@machinelearning_books

Title: "A Year in LLM Serving: Workload Evolution, Caching and Load-Balancing"

arxiv. org/abs/2608.13573

From Worm to Human:
Scaling Brain Emulation


📓 Read

@datascienceiot

Kimi Delta Attention.

— a minimal implementation of the Kimi K3 architecture.
http://k-a.in/KDA.html

Today's AI systems learn mostly by passively absorbing data, but the brain builds intelligence in the reverse order.

Grounded world models in biological organisms and future embodied AI


📓 Read

@datascienceiot

Google gave AI consciousness and it aligned with human beliefs across every domain they tested. They took consciousness away and the model rejected them.

📓 Read

@datascienceiot

"Patterns, Predictions, and Actions: A Story About Machine Learning"

📓 Read

@datascienceiot

Andrej Karpathy just dropped 12-page PDF on "Graph Engineering" for multi-agentic systems

the shift: Karpathy's loop runs 700 experiments and forgets all of them. A graph remembers forever

here's the full system:

step 1 → build one loop: generate, critique, revise. 630 lines, 700 experiments in 48 hours

step 2 → go parallel: agents in separate worktrees, same repo, different branches, no conflicts

step 3 → add a knowledge graph: extract entities, resolve aliases, assemble typed edges, query through subgraphs

step 4 → ground your evaluator: it checks claims against graph edges, not vibes

step 5 → plug the graph as shared memory. workers write to it. evaluators fact-check against it. Loops persist overnight

step 6 → the agent forgets. the graph does not. stop rebuilding context from scratch every session

Karpathy ran 1 agent in 1 direction. Anthropic's graph runs 1,000 with shared memory - same model, it's the architecture

https://drive.google.com/file/d/1-GOg0kxcp8tx1BMUECMj2yJq6JYGmfhb/view

Updated 2204-page PDF Mathematics ebook:

"Algebra, Topology, Differential Calculus, and Optimization Theory For Computer Science and Machine Learning"

Find it here: https://cis.upenn.edu/~jean/gbooks/geomath.html

Understanding Machine Learning: From Theory to Algorithms — фундаментальная книга по математическим основам машинного обучения.

Внутри:

empirical risk minimization и переобучение
PAC learning и uniform convergence
VC dimension и No-Free-Lunch theorem
bias–complexity tradeoff
линейные модели, boosting и AdaBoost
выбор модели и валидация
выпуклая оптимизация, регуляризация и устойчивость

Книга вышла в Cambridge University Press и подойдёт тем, кто хочет разобраться в ML глубже уровня библиотек и готовых API.

Авторы разрешают скачать копию для личного использования, но просят не распространять прямую ссылку на PDF. На официальной странице кнопка Download находится в боковом меню:

http://cs.huji.ac.il/~shais/UnderstandingMachineLearning

🔥 Хочешь быстрее расти в IT? Хватит учиться в одиночку

В IT прокачивается тот, кто каждый день видит сильные идеи, новые инструменты, реальные задачи, вакансии и разборы.

Окружение решает больше, чем кажется.

Собрал папки и каналы, где можно быстрее влиться в нужное направление, следить за трендами и не вариться в своём пузыре.

AI: t.me/ai_machinelearning_big_data
Python: t.me/pythonl
Linux: t.me/linuxacademiya
Хакинг: t.me/linuxkalii
DevOps: t.me/DevOPSitsec
Docker: t.me/DevopsDocker
Golang: t.me/Golang_google
Rust: t.me/rust_code
C++: t.me/cpluspluc
C#: t.me/csharp_1001_notes
Java: t.me/java_library
JavaScript: t.me/javascriptv
React: t.me/react_tg
Frontend: t.me/front
PHP: t.me/phpshka
Android: t.me/android_its
Мобильная разработка: t.me/mobdevelop
Базы данных: t.me/sqlhub
Data Science: t.me/data_analysis_ml
Big Data: t.me/bigdatai
Математика: t.me/data_math
Физика: t.me/fizmat
Kubernetes: t.me/kubernetc
GameDev: https://t.me/gamedev
Haskell: t.me/haskell_tg

Собеседования и карьера:

DS собеседования: t.me/machinelearning_interview
Python собеседования: t.me/python_job_interview

Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi
Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi
Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy
Папка ML: https://t.me/addlist/2Ls-snqEeytkMDgy
Папка Frontend: https://t.me/addlist/mzMMG3RPZhY2M2Iy

Полезное сверху:

ИТ-мемы: t.me/memes_prog
Английский для программистов: t.me/english_forprogrammers
ИИ и технологии: t.me/vistehno
954 ГБ open-source курсов: @courses
ИТ-книги бесплатно: https://t.me/addlist/BkskQciUW_FhNjEy

Max Ai: https://max.ru/ai_machinelearning_big_data
Max python: https://max.ru/pythonl
ТЕХНО: https://max.ru/vistehno
Max Go: https://max.ru/Golang_google
Max Linux: https://max.ru/linuxkalii
Devops: https://max.ru/DevOPSitsec
C#: https://max.ru/csharp_ci
C++: https://max.ru/cpluspluc
SQL: https://max.ru/sqlhub
Java: https://max.ru/javatg

Подписывайся на нужные направления и собирай себе ленту, которая реально двигает вперёд.

Пока кто-то листает шум, ты будешь видеть инструменты, задачи и идеи, которые помогают расти в профессии.

Galois Theory of Algorithms
Noson S. Yanofsky∗

📓 Read

@datascienceiot

Applied Causal Inference Powered by Machine Learning and AI

📓 Read

@datascienceiot

Linear Algebra for Computer Science

📓 Read

@datascienceiot

Game Theory: http://arxiv.org/abs/1512.06808
—————

#GameTheory #Gamification #Mathematics #Statistics #Probability

@datascienceiot

he Little Book of Generative AI Foundations: An
Intuitive Mathematical Primer

📓 Read

@datascienceiot

Gemma 4 Technical Report

📓 Read

@datascienceiot

Understanding Machine Learning: From Theory to Algorithms (Free PDF)

Download PDF: https://clcoding.com/2026/07/understanding-machine-learning-from.html