1. Линейная парная  регрессия

1.1. Основные понятия  и определения

  Корреляционная  зависимость может быть представлена в виде

                      M_x(Y) = j(x)  (1)

или M_y(X) = y(у), где j(x) ¹ const, y(у) ¹ const.

  В регрессионном анализе рассматривается односторонняя зависимость случайной переменной Y от одной (или нескольких) неслучайной независимой переменной Х. Такая зависимость Y от X (иногда ее называют регрессионной) может быть также представлена в виде модельного уравнения регрессии Y от X (1). При этом зависимую переменную Y называют также функцией отклика (объясняемой, выходной, результирующей, эндогенной переменной, результативным признаком), а независимую переменную Х – объясняющей (входной, предсказывающей, предикторной, экзогенной переменной, фактором, регрессором, факторным признаком).

  Для точного описания уравнения регрессии  необходимо знать условный закон  распределения зависимой переменной Y при условии, что переменная Х примет значение х, т.е. Х = х. В статистической практике такую информацию получить, как правило, не удается, так как обычно исследователь располагает лишь выборкой пар значений (x_i, y_i) ограниченного объема n. В этом случае речь может идти об оценке (приближенном выражении, аппроксимации) по выборке функции регрессии. Такой оценкой является выборочная линия (кривая) регрессии:

                   = ( x, b₀, b₁, …, b_p) (2)

где - условная (групповая) средняя переменной Y при фиксированном значении переменной X = x; b₀, b₁, …, b_p – параметры кривой.

  Уравнение (2) называется выборочным уравнением регрессии.

  В дальнейшем рассмотрим линейную модель и представим ее в виде

                      = b₀ + b₁x. (3)

  Для решения поставленной задачи определим  формулы расчета неизвестных  параметров уравнения линейной регрессии (b₀, b₁).

  Согласно  методу наименьших квадратов (МНК) неизвестные параметры b₀ и b₁ выбираются таким образом, чтобы сумма квадратов отклонений эмпирических значений y_i от значений , найденных по уравнению регрессии (3), была минимальной:

              . (4)

  На  основании необходимого условия  экстремума функции двух переменных S = S(b₀, b₁) (4) приравняем к нулю ее частные производные, т.е.

откуда  после преобразований получим систему нормальных уравнений для определения параметров линейной регрессии:

                  (5)

  Теперь, разделив обе части уравнений (5) на n, получим систему нормальных уравнений в следующем виде:

                      (6)

где соответствующие  средние определяются по формулам:

; (7)  ; (9)

; (8)  . (10)

  Решая систему (6), найдем

                  , (11)

где - выборочная дисперсия переменной Х:

                 , (12)

 - выборочный корреляционный момент или выборочная ковариация:

               . (13)

  Коэффициент b₁ называется выборочным коэффициентом регрессии Y по X.

  Коэффициент регрессии Y по X показывает, на сколько единиц в среднем изменяется переменная Y при увеличении переменной X на одну единицу.

  Отметим, что из уравнения регрессии  следует, что линия регрессии проходит через точку , т.е. = b₀ + b_{1 .}

  На  первый взгляд, подходящим измерителем  тесноты связи Y от Х является коэффициент регрессии b₁. Однако b₁ зависит от единиц измерения переменных. Очевидно, что для "исправления" b₁ как показателя тесноты связи нужна такая стандартная система единиц измерения, в которой данные по различным характеристикам оказались бы сравнимы между собой. Если представить уравнение в эквивалентном виде:

                     . (14)

  В этой системе величина называется выборочный коэффициент корреляции и является показателем тесноты связи.

  Если  r > 0 (b₁ > 0), то корреляционная связь между переменными называется прямой, если r < 0 (b₁ < 0), - обратной.

  Учитывая (7)–(13) получим следующие формулы для расчета коэффициента корреляции:

                  ; (15)

          . (16)

  Выборочный  коэффициент корреляции обладает следующими свойствами:

  1. Коэффициент корреляции принимает значения на отрезке [-1: 1], т.е. -1 ≤ r ≥ 1.

  2. При r=±1 корреляционная связь представляет линейную функциональную зависимость. При этом все наблюдения располагаются на прямой линии.

  3. При r = 0 линейная корреляционная связь отсутствует. При этом линия регрессии параллельна оси ОХ.

  В силу воздействия неучтенных факторов и причин отдельные наблюдения переменной Y будут в большей или меньшей мере отклоняться от функции регрессии j(Х). В этом случае уравнение взаимосвязи двух переменных (парная регрессионная модель) может быть представлена в виде:

Y = j(X) + e,

где e - случайная переменная (случайный член), характеризующая отклонение от функции регрессии.

  Рассмотрим  линейный регрессионный анализ, для которого унция j(Х) линейна относительно оцениваемых параметров:

                     M_x(Y) = b₀ + b₁x. (17)

  Предположим, что для оценки параметров линейной функции регрессии (17) взята выборка, содержащая п пар значений переменных (x_i, y_i), где i = 1, 2, …, п. В этом случае линейная парная регрессионная модель имеет вид:

                     y_i = b₀ + b₁x_i + e_i. (18)

  Отметим основные предпосылки регрессионного анализа (условия Гаусса-Маркова).

1. В модели y_i = b₀ + b₁x_i + e_i возмущение e_i есть величина случайная, а объясняющая переменная x_i – величина неслучайная.

2. Математическое ожидание возмущения e_i равно нулю:

                     M(e_i) = 0. (19)

3. Дисперсия возмущения e_i постоянна для любого i:

                     D(e_i) = s². (20)

4. Возмущения e_i и e_j не коррелированны:

                     M(e_i e_j) = 0 (i ¹ j). (21)

5. Возмущения e_i есть нормально распределенная случайная величина.

  Оценкой модели (18) по выборке является уравнение  регрессии  
= b₀ + b₁x. Параметры этого уравнения b₀ и b₁ определяются на основе МНК. Воздействие неучтенных случайных факторов и ошибок наблюдений в модели (18) определяется с помощью дисперсии возмущений (ошибок) или остаточной дисперсии (см. табл. 1).

Теорема Гаусса-Маркова. Если регрессионная модель  
y_i = b₀ + b₁x_i + e_i удовлетворяет предпосылкам 1-5, то оценки b₀, b₁ имеют наименьшую дисперсию в классе всех линейных несмещенных оценок.

  Таким образом, оценки b₀ и b₁ в определенном смысле являются наиболее эффективными линейными оценками параметров b₀ и b₁.

  Проверить значимость уравнения регрессии – значит установить, соответствует ли математическая модель, выражающая зависимость между переменными, экспериментальным данным и достаточно ли включенных в уравнение объясняющих переменных (одной или нескольких) для описания зависимой переменной. Для проверки значимости выдвигают нулевую гипотезу о надежности параметров. Вспомним основные понятия и определения необходимые для анализа значимости параметров регрессии.

  Статистическая  гипотеза – это предположение о свойствах случайных величин или событий, которое мы хотим проверить по имеющимся данным.

  Нулевая гипотеза Н₀ – это основное проверяемое предположение, которое обычно формулируется как отсутствие различий, отсутствие влияние фактора, отсутствие эффекта, равенство нулю значений выборочных характеристик и т.п.

  Другое  проверяемое предположение (не всегда строго противоположное или обратное первому) называется конкурирующей или альтернативной гипотезой.

  Выдвинутая гипотеза может быть правильной или неправильной, поэтому возникает необходимость проверить ее. Так как проверку производят статистическими методами, то данная проверка называется статистической.

  При проверке статистических гипотез возможны ошибки (ошибочные суждения) двух видов:

  - можно отвергнуть нулевую гипотезу, когда она на самом деле верна (так называемая ошибка первого рода);

  - можно принять нулевую гипотезу, когда она на самом деле не верна (так называемая ошибка второго рода).

  Допустимая  вероятность ошибки первого рода может быть равна 5% или 1% (0,05 или 0,01).

  Уровень значимости – это вероятность ошибки первого рода при принятии решения (вероятность ошибочного отклонения нулевой гипотезы).

  Альтернативные  гипотезы принимаются тогда и  только тогда, когда опровергается нулевая гипотеза. Это бывает в случаях, когда различия в средних арифметических экспериментальной и контрольной групп настолько значимы (статистически достоверны), что риск ошибки отвергнуть нулевую гипотезу и принять альтернативную не превышает одного из трех принятых уровней значимости статистического вывода: