Множественная регрессия и корреляция

2.1 Методические указания

 

Множественная регрессия – уравнение связи с несколькими независимыми переменными:

где y - зависимая переменная (результативный признак);

- независимые переменные (факторы).

Для построения множественной регрессии используются линейная, степенная, экспоненциальная и гиперболическая функции. Можно использовать и другие функции, приводимые к линейному виду.

Для линейных и нелинейных уравнений, приводимых к линейным, строится следующая система нормальных уравнений, решение которой позволяет получить оценки параметров регрессии:

Для ее решения может быть применен метод определителей:

……,

где - определитель системы.

Другой вид уравнения множественной регрессии – уравнение регрессии в стандартизованном масштабе:

где - стандартизованные переменные,

- стандартизованные коэффициенты регрессии.

Связь коэффициентов множественной регрессии со стандартизованными коэффициентами описывается соотношением

Параметр а определяется как

Для расчета частных коэффициентов эластичности применяется следующая формула

При построении уравнения множественной регрессии может возникнуть проблема мультиколлинеарности факторов, их тесной линейной связи. Чем сильнее мультиколлинеарность факторов, тем менее надежна оценка распределения суммы объясненной вариации по отдельным факторам с помощью метода наименьших квадратов.

Считается, что две переменные коллинеарны, т.е. находятся между собой в линейной зависимости, если коэффициент корреляции больше или равен 0,7.

Для оценки мультиколлинеарности факторов используется определитель матрицы парных коэффициентов корреляции между факторами.

Если между факторами существует полная линейная зависимость и все коэффициенты корреляции равны 1, то определитель такой матрицы равен 0:

Если факторы не коррелированны между собой, то матрица коэффициентов корреляции имеет определитель, равный 1.

Оценки параметров регрессии должны отвечать определенным критериям. Они должны быть несмещенными, состоятельными и эффективными.

Несмещенность оценки означает, что математическое ожидание остатков равно нулю. Если оценки обладают свойством несмещенности, то их можно сравнивать по разным исследованиям.

Оценки считаются эффективными, если они характеризуются наименьшей дисперсией. В практических исследованиях это означает возможность перехода от точечного оценивания к интервальному.

Состоятельность оценок характеризует увеличение их точности с увеличением объема выборки. Большой практический интерес представляют те результаты регрессии, для которых доверительный интервал ожидаемого значения параметра регрессии b_i имеет предел значений вероятности, равный единице. Иными словами, вероятность получения оценки на заданном расстоянии от истинного значения параметра близка к единице.

Указанные критерии оценок (несмещенность, состоятельность и эффективность) обязательно учитываются при разных способах оценивания. Метод наименьших квадратов строит оценки регрессии на основе минимизации суммы квадратов остатков. Поэтому очень важно исследовать поведение остаточных величин регрессии . Условия, необходимые для получения несмещенных, состоятельных и эффективных оценок, представляют собой предпосылки МНК, соблюдение которых желательно для получения достоверных результатов регрессии.

Исследования остатков предполагают проверку наличия следующих пяти предпосылок МНК:

1) случайный характер остатков;

2) нулевая средняя величина остатков, не зависящая от x_i;

3) гомоскедастичность – дисперсия каждого отклонения , одинакова для всех значений x;

4) отсутствие автокорреляции остатков – значения остатков распределены независимо друг от друга;

5) остатки подчиняются нормальному распределению.

Если распределение случайных остатков не соответствует некоторым предпосылкам МНК, то следует корректировать модель.

Для применения МНК требуется, чтобы дисперсия остатков была гомоскедастичной. Это означает, что для каждого значения фактора x_j остатки имеют одинаковую дисперсию. Если это условие не соблюдается, то имеет место гетероскедастичность.

Уравнения множественной регрессии могут включать в качестве независимых переменных качественные признаки (например, профессия, пол, образование, климатические условия, отдельные регионы и т.д.). Чтобы ввести такие переменные в регрессионную модель их необходимо упорядочить и присвоить им те или иные значения, т.е. качественные переменные преобразовать в количественные. Такие переменные в эконометрике принято называть фиктивными переменными. Например: 1 – мужской пол, 0 – женский.

Коэффициент регрессии при фиктивной переменной интерпретируется как среднее изменение зависимой переменной при переходе от одной категории (женский пол) к другой (мужской пол) при неизменных значениях остальных параметров. На основе t-критерия Стьюдента делается вывод о значимости влияния фиктивной переменной, существенности расхождения между категориями.

 

2.2 Решение типовых задач

Задача 2.1 Зависимость спроса на компьютеры от цены на них и от цены на ноутбуки представлена уравнением:

Требуется:

¾ представить данное уравнение в естественной форме (не в логарифмах);

¾ оценить значимость параметров данного уравнения, если известно, что t-критерий для параметра b₂ при x2 составил 0,8, а для параметра b₃ при x₃составил 1,1.

 

Решение:

Представленное степенное уравнение множественной регрессии приводим к естественной форме путем потенцирования обеих частей уравнения:

Значения коэффициентов регрессии b₁ и b₂ в степенной функции равны коэффициентам эластичности результата x₁ от x₂ и x₃.

Спрос на компьютеры сильнее связан с ценой на ноутбуки – он увеличивается в среднем на 2,86% при росте цен на 1%. С ценой на компьютеры спрос на них связан обратной зависимостью – с ростом цен на 1% потребление снижается в среднем на 0,22%.

Табличные значения t-критерия обычно лежит в интервале от 2 до 3 (табличные значения приведены в приложении). Поэтому в данном примере t-критерий меньше табличного значения, что свидетельствует о случайной природе взаимосвязи, о статистической ненадежности всего уравнения. Применять полученное уравнение для прогноза не рекомендуется.

Задача 2.2 Имеются следующие данные о ценах и дивидендах по обыкновенным акциям, также о доходности кампании.

Таблица 2.2.1

№	Цена акции, у.е.	Доходность капитала, %	Уровень дивидендов, %
		15,2	2,6
		13,9	2,1
		15,8	1,5
		12,8	3,1
		6,9	2,5
		14,6	3,1
		15,4	2,9
		17,3	2,8
		13,7	2,4
		12,7	2,4
		15,3	2,6
		15,2	2,8
		12,0	2,7
		15,3	1,9
		13,7	1,9
		13,3	1,6
		15,1	2,4
		15,0	3,0
		11,2	3,1
		12,1	2,0

 

Задание: построить линейное уравнение множественной регрессии и пояснить экономический смысл его параметров.

Решение.

Необходимо построить расчетную таблицу:

Таблица 2.2.2

№	y	x1	x2	x2* x2	x1* x1	y*x1	y*x2	x1* x2
		15,2	2,6	6,76	231,04	380,0	65,0	39,52
		13,9	2,1	4,41	193,21	278,0	42,0	29,19
		15,8	1,5	2,25	249,64	237,0	22,5	23,70
		12,8	3,1	9,61	163,84	435,2	105,4	39,68
		6,9	2,5	6,25	47,61	138,0	50,0	17,25
		14,6	3,1	9,61	213,16	481,8	102,3	45,26
		15,4	2,9	8,41	237,16	431,2	81,2	44,66
		17,3	2,8	7,84	299,29	519,0	84,0	48,44
		13,7	2,4	5,76	187,69	315,1	55,2	32,88
		12,7	2,4	5,76	161,29	304,8	57,6	30,48
		15,3	2,6	6,76	234,09	382,5	65,0	39,78
		15,2	2,8	7,84	231,04	395,2	72,8	42,56
		12,0	2,7	7,29	144,0	312,0	70,2	32,40
		15,3	1,9	3,61	234,09	306,0	38,0	29,07
		13,7	1,9	3,61	187,69	274,0	38,0	26,03
		13,3	1,6	2,56	176,89	172,9	20,8	21,28
		15,1	2,4	5,76	228,01	317,1	50,4	36,24
		15,0	3,0	9,0	225,0	465,0	93,0	45,0
		11,2	3,1	9,61	125,44	291,2	80,6	34,72
		12,1	2,0	4,0	146,41	133,1	22,0	24,20
Итого		276,5	49,4	126,7	3916,59	6569,1		682,34
Ср. значение	23,55	-	-	-	-	325,455	60,8	34,117

 

По данным табл. 2.2.2 строится система нормальных уравнений с тремя неизвестными:

Из этой системы находятся коэффициенты , b₁, b₂:

Таким образом, уравнение множественной регрессии имеет вид:

Экономический смысл коэффициентов b₁ и b₂ в том, что это показатели силы связи, характеризующие изменение цены акции при изменении какого-либо факторного признака на единицу своего измерения при фиксированном влиянии другого фактора.

2.3 Решение с помощью ППП Excel

Задача 2.3 По 20 предприятиям региона изучается зависимость выработки продукции на одного работника y (тыс. руб.) от ввода в действие новых основных фондов x₁ (% от стоимости фондов на конец года) и от удельного веса рабочих высокой квалификации в общей численности рабочих x₂ (%).

Таблица 2.3.1

Номер предприятия	у	х1	х2
	7,0	3,9	10,0
	7,0	3,9	14,0
	7,0	3,7	15,0
	7,0	4,0	16,0
	7,0	3,8	17,0
	7,0	4,8	19,0
	8,0	5,4	19,0
	8,0	4,4	20,0
	8,0	5,3	20,0
	10,0	6,8	20,0
	9,0	6,0	21,0
	11,0	6,4	22,0
	9,0	6,8	22,0
	11,0	7,2	25,0
	12,0	8,0	28,0
	12,0	8,2	29,0
	12,0	8,1	30,0
	12,0	8,5	31,0
	14,0	9,6	32,0
	14,0	9,0	36,0

 

Сводную таблицу основных статистических характеристик для одного или нескольких массивов данных можно получить с помощью инструмента анализа данных Описательная статистика.Для этого выполните следующие шаги:

1) введите исходные данные или откройте существующий файл, содержащий анализируемые данные;

2) в главном меню выберите последовательно пункты Сервис / Анализ данных / Описательная статистика, после чего щелкните по кнопке ОК;

Рис. 2.1 Диалоговое окно ввода параметров инструмента Описательная статистика

3) заполните диалоговое окно ввода данных и параметров вывода (рис. 2.1):

Входной интервал – диапазон, содержащий анализируемые данные, это может быть одна или несколько строк (столбцов);

Группирование – по столбцам или по строкам – необходимо указывать дополнительно;

Метки – флажок, который указывает, содержит ли первая строка названия столбцов или нет;

Выходной интервал – достаточно указывать левую верхнюю ячейку будущего диапазона;

Новый рабочий лист – можно задать произвольное имя нового листа.

Если необходимо получить дополнительную информацию Итоговой статистики, Уровня надежности, к-го наибольшего и наименьшего значений, установите соответствующие флажки в диалоговом окне. Щелкните по кнопке ОК.

Результат вычисления соответствующих показателей для каждого признака представлены на рис. 2.2.

 

Рис. 2.2 Результат применения инструмента Описательная статистика

 

Матрица парных коэффициентов корреляции переменных рассчитывается с использованием инструмента анализа данных Корреляция. Для этого:

1) в главном меню последовательно выберите пункты Сервис / Анализ данных / Корреляция. Щелкните по кнопке ОК;

2) заполните диалоговое окно ввода данных и параметров вывода (рис. 2.3);

Рис. 2.3 Диалоговое окно ввода параметров инструмента Корреляция

3) результаты вычислений – матрица коэффициентов парной корреляции – представлены на рис. 2.4.

 

Рис. 2.4 Матрица коэффициентов парной корреляции

Для вычисления параметров линейного уравнения множественной регрессии используется инструмент анализа данных Регрессия.Она аналогична расчету параметров парной линейной регрессии, описанной выше, только в отличие от парной регрессии в диалоговом окне при заполнении параметра входной интервал Х следует указывать не один столбец, а все столбцы, содержащие значения факторных признаков (рис. 2.5).

 

Рис. 2.5 Диалоговое окно ввода параметров инструмента Регрессия

Результаты анализа представлены на рис. 2.6.

Рис. 2.6 Результат применения инструмента Регрессия

 

2.4 Контрольные вопросы

 

1) Что представляет собой множественная регрессия?

2) Какие функции применяются для построения множественной регрессии?

3) Чему равен определитель матрицы, если между всеми факторами существует полная линейная связь?

4) Какие факторы включаются в модель множественной регрессии?

5) Как определяется множественный коэффициент корреляции?

6) Что такое фиктивные переменные? Как они входят в уравнение множественной регрессии?

7) Каким критериям должны отвечать оценки параметров регрессии?

8) Для чего применяется анализ остатков при наличии регрессионной модели?

9) Что представляет собой и для чего применяется метод наименьших квадратов?

10) Каким критериям должны отвечать оценки параметров регрессии?

2.5 Пример варианта промежуточного тестирования