Когда ваш код уже не просто работает, а должен летать, на первый план выходит умение профилировать и оптимизировать производительность. Для Python это не просто трюки, а глубокое понимание CPython и его инструментов.
Шаг 1: Точное Измерение (Profiling)
Прежде чем оптимизировать, мы должны знать, где именно тратятся ресурсы. Слепое улучшение кода — это путь к бессмысленным изменениям и появлению новых багов.
- Модуль
cProfile: Стандартный и самый надежный инструмент для нахождения горячих точек (hotspots) — функций, где тратится больше всего времени. Он показывает совокупное время (tottime) и общее время (cumtime) выполнения каждой функции, включая вызовы извне.
import cProfile
import re
cProfile.run('re.compile("foo|bar")', filename='profile_data')
# Анализируем результаты
import pstats
p = pstats.Stats('profile_data')
p.sort_stats('cumulative').print_stats(10)
- Line-by-line Profilers (
line_profiler): Если cProfile показывает функцию, которая "тормозит", но вам нужно понять, какая именно строка внутри этой функции виновата, используйте внешние инструменты, такие как line_profiler.
# Декоратор @profile над нужной функцией
# Запуск: kernprof -l my_script.py
# Анализ: python -m line_profiler my_script.py.lprof
- Анализ Памяти (
memory_profiler): Для задач, связанных с большими данными или длительными процессами, где утечки памяти или излишнее потребление критичны, используйте memory_profiler или pympler.Шаг 2: Реальная Оптимизация (Beyond Simple Fixes)
Найдя узкое место, приступаем к устранению, используя знания об устройстве Python.
1. Уменьшение Накладных Расходов Интерпретатора (Interpreter Overhead)
- Использование Встроенных Функций и Модулей C: Встроенные функции (например,
sum, map, sorted) и функции из стандартной библиотеки, написанные на C (например, itertools, collections), работают значительно быстрее, чем их эквиваленты на чистом Python, поскольку избегают накладных расходов на GIL и байткод.- Пример: Используйте
collections.deque вместо list для быстрого добавления/удаления с обоих концов.2. Манипуляции с Данными NumPy/Pandas
- Векторизация: Если вы работаете с числовыми данными, полностью переходите на NumPy и Pandas. Вместо циклов
for в Python, обрабатывающих элементы по одному, используйте векторизованные операции. Это позволяет выполнять вычисления на уровне C/Fortran, эффективно используя процессор.3. Параллелизм vs. Конкурентность
- CPU-bound задачи (расчеты): Из-за GIL (Global Interpreter Lock) чистый Python не может эффективно использовать несколько ядер ЦП для одновременного выполнения кода на Python. Используйте модуль
multiprocessing для распараллеливания задачи между процессами.- I/O-bound задачи (сеть, диск): Если код проводит много времени в ожидании (ввод-вывод), используйте конкурентность с помощью
asyncio (асинхронный ввод-вывод) или threading. В этом случае GIL не мешает, так как Python "освобождает" его во время ожидания.📲 Мы в MAX
👉@BookPython