Конечно-разностный метод решения краевых задач для обыкновенных дифференциальных уравнений

    

    Такой выбор критерия близости и используется в методе наименьших квадратов.

    Метод наименьших квадратов был предложен  в начале XIX столетия К. Гауссом (1794–95) и независимо от него А. Лежандром (1805–06). Первоначально этот метод использовался для обработки результатов астрономических и геодезических наблюдений. Строгое математическое обоснование и установление границ содержательной применимости метода наименьших квадратов были даны А. А. Марковым и А. Н. Колмогоровым. Сейчас этот метод представляет собой один из важнейших разделов математической статистики и широко используется для статистических выводов в различных областях науки и техники.

    Сущность  обоснования метода наименьших квадратов (по Гауссу) заключается в допущении, что «убыток» от замены точного (неизвестного) значения физической величины её приближённым значением X, вычисленным по результатам наблюдений, пропорционален квадрату ошибки:

    (X – μ)², где μ – оцениваемая величина.

    В этих условиях оптимальной оценкой  естественно признать такую лишённую систематической ошибки величину X, для которой среднее значение "убытка" минимально. Именно это требование и составляет основу метода наименьших квадратов.

    Рассмотрим  частный случай зависимости наблюдаемой  величины от искомых параметров :

    

.

    В дискретных значениях аргумента  получим n значений , где - ошибка измерения величины l в момент .

    Обозначим:

    

.

    Теперь  для определения искомых x, y, z будем  иметь систему n уравнений:

                             .

    Критерий  будет выглядеть следующим образом:

                             .

    Построим  систему нормальных уравнений:

,

                         ,

                         .

    Выполнив  дифференцирование, получим

                         ,

                         ,

                         .

    Имеем систему, состоящую из трех линейных уравнений с тремя неизвестными, которую легко тем или иным способом решить.

      Для обозначения сумм произведений или  квадратов Гаусс предложил применять  прямые скобки следующим образом

, и т.д.

    В этих обозначениях нормальные уравнения  примут вид

,

,

.

    Основное  свойство нормальных уравнений - симметричность матрицы системы:

    Решить  эту систему можно используя, например, формулы Крамера, или один из матричных способов.

    Покажем численный пример применения МНК  для аппроксимации результатов эксперимента линейным уравнением первой степени.

    В результате эксперимента получены семь значений искомой функции Y при семи значениях аргумента X. Используя метод наименьших квадратов, найти функциональную зависимость между Х и У в виде линейной функции у = ах + b. Построить график этой функции. Отметить экспериментальные значения.

      Решение:  Построим корреляционное поле по данным семи наблюдений.

Получили точки  определяющие линию регрессии У на Х. Характер изменения функции У позволяет предположить, что зависимость между У и Х близка к линейной вида у = ах + b.

Коэффициенты "a и b" уравнения найдём, выполнив необходимые вычисления:

    Расчеты  сведем в таблицу. В правом столбце  этой таблицы записаны суммы по её строкам.

Нормальные  уравнения для этого случая будут иметь вид:

    Из  этих уравнений имеем:

   

    Т.о. линейная зависимость У от Х имеет  вид: .

    По  этому уравнению вычислены теоретические  значения величины .

    Прямая  линия зависимости У от Х построена  вместе с ломаной линией по двум точкам:

При  х = 1.       у = 7,443 – 0,5464·1 = 6,897.

При  х = 7.       у = 7,443 – 0,5464·7 = 3,618.

    Определив сумму квадратов отклонений измеренной величины "у" от её средних значений и  сумму квадратов отклонений этой величины от её значений, полученных по уравнению регрессии , можно оценить качество полученного уравнения по коэффициенту детерминации:

    

    Это означает, что зависимость переменной "у" от переменной "х" определяется полученным уравнением регрессии на 78,1%, а вариация величины "у" на оставшиеся 21,9% объясняется другими факторами. 

    1.2.4. Численное интегрирование.

    Численное интегрирование – вычисление значения определённого интеграла (как правило, приближённое), основанное на том, что величина интеграла численно равна площади криволинейной трапеции, ограниченной осью абсцисс, графиком интегрируемой функции и отрезками прямых x = a и x = b, где a и b – пределы интегрирования.

    Необходимость применения численного интегрирования чаще всего может быть вызвана отсутствием у первообразной функции представления в элементарных функциях и, следовательно, невозможностью аналитического вычисления значения определённого интеграла по формуле Ньютона-Лейбница. Также возможна ситуация, когда вид первообразной настолько сложен, что быстрее вычислить значение интеграла численным методом.

    Основная  идея большинства методов численного интегрирования состоит в замене подынтегральной функции на более простую функцию, интеграл от которой легко вычисляется аналитически. При этом для оценки значения интеграла получаются формулы вида:

 где

n –  число точек, в которых вычисляется значение подынтегральной функции. Точки x_i называются узлами метода, числа w_i – весами узлов. При замене подынтегральной функции на полином нулевой, первой и второй степени получаются соответственно методы прямоугольников, трапеций и парабол (Симпсона). Часто формулы для оценки значения интеграла называют квадратурными формулами.

    Частным случаем является метод построения интегральных квадратурных формул для  равномерных сеток, известный как формулы Котеса. Метод назван в честь Роджера Котса. Основной идеей метода является замена подынтегральной функции каким-либо интерполяционным многочленом. После взятия интеграла можно написать

где числа H_i называются коэффициентами Котеса и вычисляются как интегралы от соответствующих многочленов, стоящих в исходном интерполяционном многочлене для подынтегральной функции при значении функции в узле:

 x_i = a + ih; где h = (b − a) / n – шаг сетки; n – число узлов сетки, а индекс узлов . Слагаемое – погрешность метода, которая может быть найдена разными способами. Для нечетных погрешность может быть найдена интегрированием погрешности интерполяционного полинома подынтегральной функции.

    Частными  случаями формул Котеса являются: формулы прямоугольников (n = 0), формулы трапеций (n = 1), формула Симпсона (n = 2), формула Ньютона (n = 3) и т. д.

    При использовании метода прямоугольников используются формулы:

    Формула а), если заданная функция – положительная и возрастающая, то эта формула выражает площадь ступенчатой фигуры, составленной из «входящих» прямоугольников, также называемая формулой левых прямоугольников.

    Формула б) выражает площадь ступенчатой  фигуры, состоящей из «выходящих»  прямоугольников, также называемая формулой правых прямоугольников.

    Чем меньше длина отрезков, на которые  делится отрезок  , тем точнее значение искомого интеграла, вычисляемое по этим формулам.

    Очевидно, стоит рассчитывать на бо́льшую точность если брать в качестве опорной  точки для нахождения высоты точку  посередине промежутка. В результате получаем формулу средних прямоугольников:

    

    Учитывая  бо́льшую точность последней формулы  при том же объеме и характере  вычислений её называют формулой прямоугольников