Линейная парная регрессия

  1-й уровень - 5% (a = 0,05), где допускается риск ошибки в выводе в пяти случаях из ста теоретически возможных таких же экспериментов при строго случайном отборе для каждого эксперимента;

  2-й  уровень - 1% (a = 0,01), т. е. соответственно допускается риск ошибиться только в одном случае из ста;

  3-й  уровень - 0,1% (a = 0,01), т. е. допускается риск ошибиться только в одном случае из тысячи.

  Последний уровень значимости предъявляет очень высокие требования к обоснованию достоверности результатов эксперимента и потому редко используется. В эконометрических исследованиях, не нуждающихся в очень высоком уровне достоверности, представляется разумным принять 5%-й уровень значимости.

  Статистика  критерия - некоторая функция от исходных данных, по значению которой проверяется нулевая гипотеза. Чаще всего статистика критерия является числовой функцией.

  Всякое  правило, на основе которого отклоняется  или принимается нулевая гипотеза, называется критерием проверки данной гипотезы. Статистический критерий – это случайная величина, которая служит для проверки статистических гипотез.

  Критическая область – совокупность значений критерия, при котором нулевую гипотезу отвергают. Область принятия нулевой гипотезы (область допустимых значений) – совокупность значений критерия, при котором нулевую гипотезу принимают. При справедливости нулевой гипотезы вероятность того, что статистика критерия попадает в область принятия нулевой гипотезы должна быть равна 1.

  Процедура проверки нулевой гипотезы в общем  случае включает следующие этапы:

• задается допустимая вероятность ошибки первого рода (a = 0,05);
• выбирается статистика критерия;
• ищется область допустимых значений;
• по исходным данным вычисляется значение статистики;
• если статистика критерия принадлежит области принятия нулевой гипотезы, то нулевая гипотеза принимается (корректнее говоря, делается заключение, что исходные данные не противоречат нулевой гипотезе), а в противном случае нулевая гипотеза отвергается и принимается альтернативная гипотеза. Это основной принцип проверки всех статистических гипотез.

  В современных эконометрических программах (например, EViews) используются не стандартные уровни значимости, а уровни, подсчитываемые непосредственно в процессе работы с соответствующим статистическим методом. Эти уровни, обозначенные обычно Prob, могут иметь различное числовое выражение в интервале от 0 до 1, например, 0,7, 0,23 или 0,012. Понятно, что в первых двух случаях, полученные уровни значимости слишком велики и говорить о том, что результат значим нельзя. В последнем случае результаты значимы на уровне двенадцати тысячных.

  Если  вычисленное значение Рrob превосходит выбранный уровень Рrob_кр, то принимается нулевая гипотеза, а в противном случае - альтернативная гипотеза. Чем меньше вычисленное значение Рrob, тем более исходные данные противоречат нулевой гипотезе.

  Число степеней свободы у какого-либо параметра определяют как размер выборки, по которой рассчитан данный параметр, минус количество выбранных переменных.

  Величина  W называется мощностью критерия и представляет собой вероятность отклонения неверной нулевой гипотезы, т.е. вероятность правильного решения. Мощность критерия – вероятность попадания критерия в критическую область при условии, что справедлива альтернативная гипотеза. Чем больше W, тем вероятность ошибки второго рода меньше.

  Коэффициент регрессии (b₁) является случайной величиной. Отсюда после вычисления возникает необходимость проверки гипотезы о значимости полученного значения. Выдвигаем нулевую гипотеза (Н₀) о равенстве нулю коэффициента регрессии (Н₀:b₁ = 0) против альтернативной гипотезы (Н₁) о неравенстве нулю коэффициента регрессии (Н₁:b₁ ¹ 0). Для проверки гипотезы Н₀ против альтернативы используется t-статистика, которая имеет распределение Стьюдента с (n - 2) степенями свободы (парная линейная регрессия).

  Коэффициент регрессии надежно отличается от нуля (отвергается нулевая гипотеза Н₀), если t_набл > t_a;n-2. В этом случае вероятность нулевой гипотезы (Prob.) будет меньше выбранного уровня значимости. t_a;n-2 - критическая точка, определяемая по математико-статистическим таблицам.

  Проверка  значимости уравнения регрессии  производится на основе дисперсионного анализа.

  Согласно  основной идее дисперсионного анализа

               (22)

или

                     Q = Q_R + Q_e, (23)

где Q – общая сумма квадратов отклонений зависимой переменной от средней, а Q_R и Q_e – соответственно сумма квадратов, обусловленная регрессией, и остаточная сумма квадратов, характеризующая влияние неучтенных факторов.

  Схема дисперсионного анализа имеет вид, представленный в табл. 1.

  Средние квадраты и s² (табл. 1) представляют собой несмещенные оценки дисперсий зависимой переменной, обусловленных соответственно регрессией или объясняющей переменной Х и воздействием неучтенных случайных факторов и ошибок; m – число оцениваемых параметров уравнения регрессии; п – число наблюдений.

  При отсутствии линейной зависимости между  зависимой и объясняющими(ей) переменными  случайные величины и имеют c²-распределение соответственно с т – 1 и п – т степенями свободы.

Таблица 1

  Поэтому уравнение регрессии значимо  на уровне a, если фактически наблюдаемое значение статистики

                  , (24)

где - табличное значение F-критерия Фишера-Снедекора, определяемое на уровне значимости a при k₁ = m – 1 и k₂ = n – m степенях свободы.

  Учитывая  смысл величин  и s², можно сказать, что значение F показывает, в какой мере регрессия лучше оценивает значение зависимой переменной по сравнению с ее средней.

  Для парной линейно регрессии т = 2, и уравнение регрессии значимо на уровне a (отвергается нулевая гипотеза), если

                     . (25)

  Следует отметить, что значимость уравнения парной линейной регрессии может быть проведена и другим способом, если оценить значимость коэффициента регрессии b₁, который имеет  
t-распределение Стьюдента с k = n – 2 степенями свободы.

  Уравнение парной регрессии или коэффициент регрессии b₁ значимы на уровне a (иначе – гипотеза Н₀ о равенстве параметра b₁ нулю, т.е.  
Н₀:b₁ = 0, отвергается), если фактически наблюдаемое значение статистики

                      (26)

больше  критического (по абсолютной величине), т.е. |t| > t_{1 - a; n - 2}.

  Коэффициент корреляции r значим на уровне a (Н₀: r = 0), если

                     . (27)

  Одной из наиболее эффективных оценок адекватности регрессионной модели, мерой качества уравнения регрессии, характеристикой прогностической силы анализируемой регрессионной модели является коэффициент детерминации, определяемый по формуле:

                     . (28)

  Величина  R² показывает, какая часть (доля) вариации зависимой переменной обусловлена вариацией объясняющей переменной.

  В случае парной линейной регрессионной модели коэффициент детерминации равен квадрату корреляции, т.е. R² = r².

  Доверительный интервал для индивидуальных значений зависимой переменной .

             - t_{1 – a; n - 2}× £ £ + t_{1 - a; n - 2}× , (29)

где - оценка дисперсии индивидуальных значений у₀ при х = х₀.

     Доверительный интервал для параметров регрессионной модели.

       (30)

1.4. Типичный пример  анализа экономических  процессов  
с использованием пространственных данных

  По 28 предприятиям концерна изучается  зависимость дневной выработки (ед.) у от уровня механизации труда (%) х по следующим данным (табл. 2).

Таблица 2