Коэффициент детерминации характеризует качество регрессионной модели.
Значения различных величин, полученных расчетами, будем в дальнейшем обозначать «~».
Рассмотрим случай парной регрессии . Имеет место равенство . Для суммы квадратов отклонений yi от среднего
(TSS – total sum of squares)
имеем TSS = RSS+ESS, где - сумма квадратов отклонений, объясненная регрессией (RSS — regression sum of squares), - остаточная сумма квадратов отклонений (ESS – error sum of squares).
Коэффициент детерминации определяется по формуле:
. . (15.1)
Из (15.1) видно, что R2Î[0,1] и чем меньше R2 отличается от 1, тем лучше регрессионная модель.
В математической статистике вводится выборочный коэффициент корреляции между данными наблюдений (xi,yi), i=1, 2, …, n. Напомним, что , ,
.
Поскольку , величину r можно представить в виде . С другой стороны , , откуда следует, что
.
Поэтому , т.е. коэффициент детерминации равен квадрату выборочного коэффициента корреляции .