Модели стационарных временных рядов и их индефикация

Алгоритмические методы выделения неслучайной составляющей временного ряда (методы скользящего  среднего). В основе этих методов  элиминирования случайных флуктуаций в поведении анализируемого временного ряда лежит простая идея: если «индивидуальный» разброс значений члена временного ряда xt около своего среднего (сглаженного) значения a характеризуется дисперсией 2, то разброс среднего из N членов временного ряда (x1 + x2 +…+ xT) / N около того же значения a будет характеризоваться гораздо  меньшей величиной дисперсии, а  именно дисперсией, равной 2 / N. А уменьшение меры случайного разброса (дисперсии) и означает как раз сглаживание  соответствующей траектории. Поэтому  выбирают некоторую нечетную «длину усреднения» N = 2m + 1, измеренную в числе  подряд идущих членов анализируемого временного ряда. А затем сглаженное значение временного ряда xt вычисляют  по значениям xtm, xtm+1,…, xt, xt+1,…, xt+m

где wk (k = m, m + 1,…, m) некоторые положительные «весовые»  коэффициенты, в сумме равные единице, т.е. wk > 0 и . Поскольку, изменяя t от m + 1 до T m, мы как бы «скользим» по оси  времени, то и методы, основанные на формуле (2.9), принято называть методами скользящей средней (МСС).

Очевидно, один МСС отличается от другого выбором  параметров m и wk.

Определение параметров wk основано на следующей процедуре. В соответствии с теоремой Вейерштрасса любая гладкая функция f(x) при  самых общих допущениях может  быть локально представлена алгебраическим полиномом подходящей степени p. Поэтому берем первые 2m + 1 членов временного ряда x1,…, x2m+1, строим с помощью МНК полином степени p, аппроксимирующий поведение этой начальной части траектории временного ряда, и используем этот полином для определения оценки сглаженного значения f(t) временного ряда в средней (т.е. (m + 1)-й) точке этого отрезка ряда, т.е. полагаем . Затем «скользим» по оси времени на один такт и таким же способом подбираем полином той же степени p к отрезку временного ряда x2,…, xm+2 и определяем оценку сглаженного значения временного ряда в средней точке сдвинутого на единицу отрезка временного ряда, т.е. , и т.д.  

В результате мы найдем оценки для сглаженных значений анализируемого временного ряда при  всех t, кроме t = 1,…, m и t = T,… T m + 1.

Подбор наилучшего (в смысле критерия МНК) аппроксимирующего  полинома к траектории анализируемого временного ряда приводит к формуле  вида ,причем результат не зависит от того, для какого именно из «скользящих» временных интервалов был осуществлен этот подбор.

Метод экспоненциально  взвешенного скользящего среднего (метод Брауна [Brown (1963)]). В соответствии с этим методом оценка сглаженного  значения в точке t определяется как  решение оптимизационной задачи вида

где 0 < < 1. Следовательно, веса k в критерии Q(f) обобщенного («взвешенного») МНК уменьшаются экспоненциально  по мере удаления наблюдений xtk в прошлое. Решение оптимизационной задачи (2.10) дает:

В отличие от обычного МСС здесь скользит только правый конец интервала усреднения и, кроме того, веса экспоненциально  уменьшаются по мере удаления в прошлое. Формула (2.11) дает оценку сглаженного  значения временного ряда не в средней, а в правой конечной точке интервала усреднения.

2.3. Модели стационарных  временных рядов  и их идентификация.

В 2.2 рассматривался класс стационарных временных рядов, в рамках которого подбирается модель, пригодная для описания поведения  случайных остатков исследуемого временного ряда (1). Здесь рассматривается набор  линейных параметрических моделей  из этого класса и методы их идентификации. Таким образом, речь здесь идет не о моделировании временных рядов, а о моделировании их случайных  остатков t, получающихся после элиминирования из исходного временного ряда xt его  неслучайной составляющей (2.8). Следовательно, в отличие от прогноза, основанного  на регрессионной модели, игнорирующего  значения случайных остатков, в прогнозе временных рядов существенно  используется взаимозависимость и  прогноз самих случайных остатков.

Введем обозначения. Так как здесь описывается  поведение случайных остатков, то моделируемый временной ряд обозначим t, и будем полагать, что при  всех t его математическое ожидание равно нулю, т.е. Et, 0. Временные последовательности, образующие «белый шум», обозначим t.

Описание и  анализ, рассматриваемых ниже моделей, формулируется в терминах общего линейного процесса, представимого  в виде взвешенной суммы настоящего и прошлых значений белого шума, а именно:

где 0 = 1

Таким образом, белый шум представляет собой  серию импульсов, в широком классе реальных ситуаций генерирующих случайные  остатки исследуемого временного ряда.

Временной ряд t можно представить в эквивалентном виде, при котором он получается в виде классической линейной модели множественной регрессии, в которой в качестве объясняющих переменных выступают его собственные значения во все прошлые моменты времени:

При этом весовые  коэффициенты 1, 2,… связаны определенными  условиями, обеспечивающими стационарность ряда t. Переход от (2.14) к (2.13) осуществляется с помощью последовательной подстановки  в правую часть (2.14) вместо t1, t2,…  их выражений, вычисленных в соответствии с (2.14) для моментов времени t 1, t 2 и  т.д.

Рассмотрим также  процесс смешанного типа, в котором  присутствуют как авторегрессионные  члены самого процесса, так и скользящее суммирование элементов белого шума:

Будем подразумевать, что p и q могут принимать и бесконечные  значения, а также то, что в  частных случаях некоторые (или  даже все) коэффициенты или равны  нулю.

2.3.1. Модели авторегрессии  порядка p (AR(p)-модели).

Рассмотрим сначала  простейшие частные случаи.

Модель авторегрессии 1-го порядка AR(1) (марковский процесс). Эта  модель представляет собой простейший вариант авторегрессионного процесса типа (2.14), когда все коэффициенты кроме первого равны нулю. Соответственно, она может быть определена выражением

t = t1 + t, (2.15)

где некоторый  числовой коэффициент, не превосходящий  по абсолютной величине единицу (|| < 1), а t последовательность случайных величин, образующая белый шум. При этом t зависит от t и всех предшествующих , но не зависит от будущих значений . Соответственно, в уравнении (2.15) t не зависит от t1 и более ранних значений . В связи с этим, t называют инновацией (обновлением).

Последовательности , удовлетворяющие соотношению (2.15), часто называют также марковскими  процессами. Это означает, что

Et 0, (2.16)

r(t, tk) = k, (2.17)

Dt = , (2.18)

cov(t, tk) = kDt. (2.19)

Одно важное следствие (2.19) состоит в том, что  если величина || близка к единице, то дисперсия t будет намного больше дисперсии . А это значит, что если соседние значения ряда t сильно коррелированы, то ряд довольно слабых возмущений t будет порождать размашистые колебания остатков t.

Основные характеристики процесса авторегрессии 1-го порядка  следующие.

Условие стационарности ряда (2.15) определяется требованием  к коэффициенту : || < 1, или, что то же, корень z0 уравнения 1 z = 0 должен быть по абсолютной величине больше единицы.

Автокорреляционная  функция марковского процесса определяется соотношением (2.17):

r() = r(t, t) = . (2.20)

Отсюда же, в  частности, следует простая вероятностная  интерпретация параметра : = r(t, t1), т.е. значение определяет величину корреляции между двумя соседними членами  ряда t.

Из (2.20) видно, что  степень тесноты корреляционной связи между членами последовательности (2.15) экспоненциально убывает по мере их взаимного удаления друг от друга во времени.

Частная автокорреляционная функция rчаст() = r(t, t+ | t+1 = t+2 =…= t+1 = 0) может  быть подсчитана с помощью формул (2.4)-(2.5). Непосредственное вычисление по этим формулам дает следующий простой  результат: значения частной корреляционной функции rчаст() равны нулю для всех = 2, 3,…. Это свойство может быть использовано при подборе модели: если вычисленные  выборочные частные корреляции статистически  незначимо отличаются от нуля при = 2, 3,…, то использование модели авторегрессии 1-го порядка для описания поведения  случайных остатков временного ряда не противоречит исходным статистическим данным.

Спектральная  плотность марковского процесса (2.15) может быть подсчитана с учетом известного вида автокорреляционной функции (2.20):

В случае значения параметра близкого к 1, соседние значения ряда t близки друг к другу по величине, автокорреляционная функция экспоненциально  убывает оставаясь положительной, а в спектре преобладают низкие частоты, что означает достаточно большое  среднее расстояние между пиками ряда t. При значении параметра близком  к -1, ряд быстро осциллирует (в спектре  преобладают высокие частоты), а  график автокорреляционной функции  экспоненциально спадает до нуля с попеременным изменением знака.

Идентификация модели, т.е. статистическое оценивание ее параметров и по имеющейся реализации временного ряда xt (а не его остатков, которые являются ненаблюдаемыми), основана на соотношениях (2.16)(2.19) и  может быть осуществлена с помощью  метода моментов. Для этого следует  предварительно решить задачу выделения  неслучайной составляющей , что позволит оперировать в дальнейшем остатками.

Затем подсчитывается выборочная дисперсия остатков по формуле

где , а «невязки» (остатки) вычислены по формуле.

Оценку параметра  получаем с помощью формулы (2.18), подставляя в нее вместо коэффициента корреляции его выборочное значение, т.е. .

Наконец, оценка параметра основана на соотношении (2.19), в котором величины Dt и заменяются оценками, соответственно, и :

Модели авторегрессии 2-го порядка - AR(2) (процессы Юла). Эта  модель, как и AR(1), представляет собой  частный случай авторегрессионного процесса, когда все коэффициенты j в правой части (2.14) кроме первых двух, равны нулю. Соответственно, она  может быть определена выражением

t = 1t1 + 2t2 + t, (2.22)

где последовательность 1, 2,… образует белый шум.

Условия стационарности ряда (2.22) (необходимые и достаточные) определяются как:

В рамках общей  теории моделей те же самые условия  стационарности получаются из требования, чтобы все корни соответствующего характеристического уравнения  лежали бы вне единичного круга. Характеристическое уравнение для модели авторегрессии 2-го порядка имеет вид:

Автокорреляционная  функция процесса Юла подсчитывается следующим образом. Два первых значения r(1) и r(2) определены соотношениями 

а значения для r(), = 3, 4,… вычисляются с помощью  рекуррентного соотношения 

r() = 1r( 1) + 2r( 2).

Частная автокорреляционная функция временного ряда, сгенерированного моделью авторегрессии 2-го порядка, обладает следующим отличительным  свойством:rчаст() = 0 при всех = 3, 4,…

Спектральная  плотность процесса Юла может  быть вычислена с помощью формулы:

Идентификация модели авторегрессии 2-го порядка основана на соотношениях, связывающих между  собой неизвестные параметры  модели 1, 2 и со значениями различных  моментов «наблюдаемого» временного ряда t.

По значениям  вычисляются оценки и , соответственно, дисперсии Dt и автокорреляций r(1) и r(2). Это делается с помощью соотношений (2.2) и (2.3):

Модели авторегрессии p-го порядка - AR(p) (p 3). Эти модели, образуя подмножество в классе общих линейных моделей, сами составляют достаточно широкий класс моделей. Если в общей линейной модели (2.14) полагать все параметры j, кроме первых p коэффициентов, равными нулю, то мы приходим к определению AR(p)-модели :

где последовательность случайных величин 1, 2,… образует белый шум.

Условия стационарности процесса, генерируемого моделью (2.23), также формулируются в терминах корней его характеристического  уравнения

1 1z 2z2 … pzp = 0.

Для стационарности процесса необходимо и достаточно, чтобы все корни характеристического  уравнения лежали бы вне единичного круга, т.е. превосходили бы по модулю единицу.

Автокорреляционная  функция процесса (2.23) может быть вычислена с помощью рекуррентного  соотношения по первым p ее значениям r(1),…, r(p). Это соотношение имеет  вид:

r () = 1r( 1) + 2r( 2) +…+ pr( p), = p + 1, p + 2,... (2.24)

Частная автокорреляционная функция процесса (2.23) будет иметь  ненулевые значения лишь при p; все  значения rчаст(p) при > p будут нулевыми см., например, [Бокс, Дженкинс (1974)].. Это  свойство частной автокорреляционной функции AR(p)-процесса используется, в  частности, при подборе порядка  в модели авторегрессии для конкретных анализируемых временных рядов. Если, например, все частные коэффициенты автокорреляции, начиная с порядка k, статистически незначимо отличаются от нуля, то порядок модели авторегрессии  естественно определить равным p = k 1.