Для определения тесноты связи между факторным и результативным признаком используются:
1 индекс корреляции R, вычисляемый по формуле
где − общая дисперсия,
− дисперсия, измеряющая отклонение y от yx .
Значение R меняется от 0 до 1. Чем ближе к 1, тем связь теснее. Применяется для любого вида связи (не показывает направления).
2 теоретическое корреляционное отношение η:
Частным случаем теоретического корреляционного отношения является линейный коэффициент корреляции ( ), который применяется только в случае линейной связи. Он меняется от −1 до 1, показывает не только тесноту, но и направление связи. Вычисляется по следующей формуле:
.