MSAA - это все здорово, но часто дорого.

Если у вас задача про процедурную геометрию на базе SDF например, то дешевле использовать производные и smoothstep:

float d = length(uv) - 0.55;
float aaMask = 1.0 - smoothstep(-fwidth(d), fwidth(d), d);