И тут я предпочту показать дорогу к ответу, и сам ответ, а "поимку ручного льва" предоставить читателям.

Дорога к ответу, собственно, очень простая: если сравнивать k-е треугольное число с n-м квадратом, то мы сравниваем
k(k+1)/2 и n^2,
или, что то же самое,
(k+ 1/2)^2 и 2n^2 + (1/4).
Но (1/4) на нестрогое неравенство ">=" влияния не окажет (потому что левая часть всегда имеет дробную часть (1/4)). А тогда мы сравниваем
(k+ 1/2) с \sqrt{2}*n.
Вот у нас и появился корень из 2 и сдвиг на (1/2) — и квадратные и треугольные числа идут в таком же порядке, как пересечения с горизонтальными (y=k) и вертикальными (x=n) прямыми у прямой
y+1/2=sqrt(2)*x.