Ну, что-то здесь не так...

Почему в первом выводе у нас получилось 10, а не 100?

Это потому что мы смешали табуляцию и пробелы. Символ, непосредственно предшествующий возвращению, является "табуляцией", и в другом месте примера код имеет отступ, кратный "4 пробелам".

"tab" в последней строке square функции заменяется восемью пробелами, и она попадает в цикл.

Зато Python 3 достаточно любезен, чтобы автоматически выдавать ошибку в таких случаях.

#theory // Just Python & Max