Исследование и оптимизация сложных, плохо организованных систем возможны лишь с помощью статистических, вероятностных методов. Исходной точкой для таких исследований является аналог физической формулы – математической модели системы, носящей название модели эксперимента или уравнения регрессии. Однако не всегда экспериментальный материал дает возможность найти удобный и точный вид модели. В более общем случае математическая модель создается на основании статистического метода – регрессионного анализа.
Уравнение регрессии представляет математическую форму зависимости измеряемой физической величины от влияющих на нее факторов. Выбор того или иного вида уравнения (зависящий от самого исследователя, предлагающего модель) определяет точность (адекватность), с которой модель описывает в требуемых пределах реальную действительность. Такой выбор вида уравнения определяется исследователем на основании априорных сведений о процессе, изучения влияющих факторов, от которых зависит измеряемая величина, а также удобства использования математической модели данного конкретного вида. Методы регрессионного анализа позволяют из нескольких различных по виду моделей выбрать наиболее адекватную. Регрессионный анализ сводится к определению на основании экспериментальных данных коэффициентов модели (коэффициентов регрессии), оценки значимости значений этих коэффициентов и степени адекватности модели.
При статистической оценке степени адекватности модели экспериментальным результатам наиболее часто используют критерий значения квадрата отклонения этих результатов от расчетных значений, полученных на основании данной модели . Процедура оценки значений коэффициентов регрессии и адекватности, при которой квадрат отклонения является минимальным , носит название метода наименьших квадратов (МНК).