int count_ones(unsigned num)
{
    num = (num & 0x5555555555555555 ) + ((num >>  1) & 0x5555555555555555 );
    num = (num & 0x3333333333333333 ) + ((num >>  2) & 0x3333333333333333 );
    num = (num & 0x0f0f0f0f0f0f0f0f ) + ((num >>  4) & 0x0f0f0f0f0f0f0f0f );
    num = (num & 0x00ff00ff00ff00ff ) + ((num >>  8) & 0x00ff00ff00ff00ff );
    num = (num & 0x0000ffff0000ffff ) + ((num >> 16) & 0x0000ffff0000ffff);
    return num;
}

Выглядит все так, как будто кот случайно блеванул на экран, но естественно у этой каши есть логичное объяснение, которое можете найти тут.

Кому интересно, что же все-таки быстрее, то наш подписчик Леонид оставил по этому поводу интересный комментарий. Но помните, что все сильно зависит от конекретной архитектуры процессора. Поэтому всегда тестируйте решения на таргетном железе.

Honorable mentions:
Питонисты часто в этой задаче упоминают, что они одной левой могут превратить число в бинарное представление, потом в строку и просто посчитать одной функцией количество вхождений единички. А мы вообще-то ничем не хуже! И даже лучше! Нам не нужно конвертировать бинарное представление в строку. Достаточно std::bitset и его метода count:

int count_ones(unsigned num) {
  return std::bitset<32>{num}.count();
}

Solve your problems. Stay cool.