В соответствии с 5-й предпосылкой классического РА между столбцами матрицы (9.2) не должно быть линейной или корреляционной зависимости. Если хотя бы один из столбцов может быть выражен в виде линейной комбинации остальных, то существует т.н. строгая мультиколлинеарность. Этот термин следует из того, что если столбцы матрицы регрессоров (9.2) рассматривать как векторы в N – мерном пространстве (где N – число опытов данного эксперимента), то линейная зависимость между ними приводит к однонаправленности, т.е. коллинеарности этих векторов.
Если существует только приблизительная, неточная линейная зависимость между вектор-столбцами (9.2), то при проведении РА возникает явление мультиколлинеарности. Оно приводит к весьма отрицательным последствиям при оценивании коэффициентов регрессии. Проявляются они в следующем:
1. Неустойчивость оценок. Добавление или исключение небольшого количества информации (например, только одного наблюдения) может приводить к очень сильному изменению оценок коэффициентов регрессии аi. При этом резко уменьшается точность предсказания по регрессионной модели.
2. Численная неустойчивость процедуры оценивания, вызванная ошибками округления при машинном счете и накоплением этих ошибок;
3. Коэффициенты регрессии оказываются сильно коррелированными между собой, т.е. имеет место смешивание эффектов, что лишает смысла их интерпретацию.
4. Сильно увеличиваются дисперсии оценок коэффициентов регрессии, что ведет к уменьшению точности предсказания откликов по уравнению регрессии.