Построение уравнения множественной регрессии

Задача построения уравнения регрессии сводится к оцениванию коэффициентов

(9.3.3)

в выражении

. (9.3.4)

Поскольку значения факторов могут иметь различный порядок, то для упрощения вычислений целесообразно использовать их центрированные значения

, , , (9.3.5)

где .

Кроме этого вводится n-мерный единичный вектор

,

что необходимо для оценки свободного члена уравнения регрессии. Матрица центрированных значений факторов при этом имеет вид

. (9.3.6)

Из вышеизложенного следует, что коэффициенты регрессии оцениваются в уравнении

. (9.3.7)

После вычисления данных оценок возврат к уравнению вида (9.3.4) осуществляется подстановкой (9.3.5). При этом значение коэффициента b₀ изменяется.

Подходящую оценку вектора B_<k+1> = (b₀, b₁, b₂,…,b_k)^т находим методом наименьших квадратов. Так же, как и в случае однофакторной регрессии, необходимо минимизировать сумму квадратов невязок (9.2.10). В данной формуле оценки математических ожиданий результата находятся из соотношения

. (9.3.8)

Учитывая (9.3.8), выражение (9.2.10) принимает вид

. (9.3.9)

Таким образом, найденные оценки должны удовлетворять условию

. (9.3.10)

Для определения минимума (9.3.10) функции (9.3.9) составляем систему нормальных уравнений вида (8.2.10):

. (9.3.11)

Уравнения (9.3.11) получены исходя из того, что частная производная квадратичной функции (9.3.9) по переменной находится следующим образом:

(9.3.12)

Частную производную (9.3.12) приравниваем к нулю и обе части полученного уравнения умножаем на –2. В результате имеем j-е уравнение системы (9.3.11). Далее выполняем почленное суммирование в уравнениях рассматриваемой системы, переносим в правую часть слагаемые, содержащие y_i, а затем умножаем на –1 обе части каждого уравнения. Указанная последовательность операции приводит к эквивалентной системе уравнений

Учитывая, что = 1, окончательно получаем

(9.3.13)

Система (9.3.13) является системой линейных уравнений относительно оценок коэффициентов регрессии . Данные оценки находим по формулам Крамера:

, (9.3.14)

где | B | – определитель коэффициентов при неизвестных системы уравнений (9.3.13); | B_j |, – определители, полученные из определителя | B | заменой j-го столбца столбцом свободных членов.

Развёрнутый вид данных определителей:

; ;

; .

Система уравнений (9.2.13) может быть записана в виде матричного уравнения

, (9.3.15)

где ,

; .

Для получения вектора умножаем обе части матричного уравнения (9.3.15) на слева:

,

отсюда

или

, (9.3.16)

где E = E_[k+1] – единичная матрица порядка (k+1).

Рассмотренный метод построения уравнения регрессии применим как для модели РА-1, так и РА-2.