Часть 3. Матстат и несмещенные оценки.

Заметим также, что поскольку на вход эстиматору подается случайная выборка (т. е. случайные величины), посчитанная точечная оценка тоже является случайной величиной (на другой выборке она была бы другой). Это значит, что для нашей оценки имеет смысл разговаривать, например, о ее матожидании. Более того, было бы здорово, если бы матожидание оценки было равно эстиманду. Такое свойство называется несмещенностью точечной оценки (unbiased estimators). Несмещенность оценки можно интерпретировать как то, что, в среднем, мы находимся около истинного значения эстиманда; эстиматор не привносит систематических искажений.

Существует целое ответвление статистики, которое занимается исключительно несмещенными оценками и их свойствами. Эстиматоры, которые не выполняют свойство несмещенности, в рамках этой области называют "не несмещенными" (not unbiased) или просто говорят о смещенных оценках / эстиматорах (biased estimators). Также в рамках этой области говорят о "смещении эстиматора" (estimator's bias): разности между матожиданием оценки и истинным значением эстиманда. Смещение может стремиться к нулю при растущей выборке (тогда мы говорим про асимптотически несмещенные эстиматоры), а может и нет.

Важно понимать, что свойство несмещенности (в том смысле, который я описал выше) является милым, но вторичным. Могут быть оценки несмещенные, но при этом несостоятельные: на практике они бессмысленны. Напротив, смещенная (в смысле, который я привел выше), но состоятельная оценка практически осмысленна и некоторые эстиматоры, которые мы применяем на практике, именно такие. Бывают даже состоятельные эстиматоры, которые при этом не являются несмещенными даже асимптотически (т.е. оценка сходится к эстиманду, а ее матожидание нет, ха!).