Коэффициент корреляции Кенделла

Материал из MachineLearning.

(Различия между версиями)

Текущая версия

Содержание

1 Описание
2 Статистическая проверка наличия корреляции
3 Примеры
4 Связь коэффициентов корреляции Кенделла и Пирсона
5 Связь коэффициентов корреляции Кенделла и Спирмена
6 История
7 Примечания
8 Литература
9 Ссылки

Коэффициент корреляции Кенделла (Kendall tau rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Кенделла является ранговой, то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.

Описание

Заданы две выборки $x = (x_1,\ldots,x_n),\; y = (y_1,\ldots,y_n)$ .

Вычисление корреляции Кенделла:

Коэффициент корреляции Кенделла вычисляется по формуле:

$\tau=1-\frac{4}{n(n-1)}R$ , где $R = \sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[ \left[ x_i\ <\ x_j \right] \neq \left[ y_i\ <\ y_j \right] \right]$ — количество инверсий, образованных величинами $y_i$ , расположенными в порядке возрастания соответствующих $x_i$ .

Коэффициент $\tau$ принимает значения из отрезка $[-1;\;1]$ . Равенство $\tau=1$ указывает на строгую прямую линейную зависимость, $\tau=-1$ на обратную.

Обоснование критерия Кенделла:

Будем говорить, что пары $(x_i,\; y_i)$ и $(x_j,\; y_j)$ согласованы, если $x_i\ <\ x_j$ и $y_i\ <\ y_j$ или $x_i\ >\ x_j$ и $y_i\ >\ y_j$ , то есть $sign(x_j-x_i)sign(y_j-y_i)=1$ . Пусть $S$ - число согласованных пар, $R$ - число несогласованных пар. Тогда, в предположении, что среди $x_i$ и среди $y_i$ нет совпадений, превышение согласованности над несогласованностью есть:

$T = S - R = \sum_{i < j}sign(x_j-x_i)sign(y_j-y_i)$ .

Для измерения степени согласия Кенделл предложил следующий коэффициент:

$\tau = \frac{T}{max{T}} = \frac{2T}{n(n-1)} = \frac{2(S-R)}{n(n-1)} = 1 - \frac{4}{n(n-1)}R$ .

Таким образом, коэффициент $\tau$ (линейно связанный с $R$ ) можно считать мерой неупорядоченности второй последовательности относительно первой.^[1]

Статистическая проверка наличия корреляции

Критическая область критерия Кенделла.

Нулевая гипотеза $H_0$ : Выборки $x$ и $y$ не коррелируют.

Статистика критерия: $\tau.$

Асимптотический критерий (при уровне значимости $\alpha$ ):

Рассмотрим центрированную и нормированную статистику Кенделла:

$\tilde{\tau} = \frac{\tau}{\sqrt{D_{\tau}}},$ , где $D_{\tau}=\frac{2(2n+5)}{9n(n-1)}$ .

Нулевая гипотеза отвергается (против альтернативы $H_1$ - наличие корреляции), если:

$\left|\tilde{\tau}\right| \ge \Phi_{1-\alpha/2}$ , где $\Phi_{1-\alpha}$ есть $(1-\alpha)$ -квантиль стандартного нормального распределения.

Аппроксимация удовлетворительно работает, начиная с $n\geq 10$ .^[1]

Примеры

Ниже приведены примеры вычисления корреляций Кенделла и Спирмена. Значения коэффициентов указаны над каждым изображением в виде $(\tau,\ \rho)$ , где $\tau$ - корреляция Кенделла, $\rho$ - Спирмена. Заметно, что в большинстве случаев $\left| \rho \right|\ >\ \left| \tau \right|$ . Объяснение этого эффекта приводится ниже.

Направление линейной зависимости

Корреляции Кенделла и Спирмена. Нормальные сгущения.

Коэффициенты корреляции реагируют на изменение направления и зашумлённость линейной зависимости между переменными.

Наклон линейного тренда

Корреляции Кенделла и Спирмена. Вращающаяся полоса.

Коэффициенты корреляции реагируют на изменение направления, но не реагируют на изменение наклона тренда. На первом, четвёртом и седьмом рисунках дисперсия одной из переменных близка к нулю, поэтому не удаётся зафиксировать факт линейной зависимости.

Нелинейная зависимость

Корреляции Кенделла и Спирмена. Нелинейная зависимость.

Корреляции Кенделла и Спирмена не отражают меры нелинейной зависимости между переменными.

Линейная и нелинейная зависимости

На каждой из приведённых ниже иллюстраций осуществляется переход от линейной зависимости к нелинейной. Коэффициенты корреляции Кенделла и Спирмена реагируют на это одинаковым образом.

Корреляции Кенделла и Спирмена. Перекрещенные полосы.

Корреляции Кенделла и Спирмена. Расширяющаяся полоса.

Корреляции Кенделла и Спирмена. Синусоида с переменной амплитудой.

По мере смены линейной зависимости нелинейной значения коэффициентов корреляции падают.

Связь коэффициентов корреляции Кенделла и Пирсона

В случае выборок из нормального распределения коэффициент корреляции Кенделла $\tau$ может быть использован для оценки коэффициента корреляции Пирсона $r$ по формуле:

$r=sin{\frac{\pi\tau}{2}}$ .^[1]

Связь коэффициентов корреляции Кенделла и Спирмена

Выборкам $x$ и $y$ соответствуют последовательности рангов:

$R_x=(R_{x_1},\ldots,R_{x_n})$ , где $R_{x_i}$ — ранг $i$ -го объекта в вариационном ряду выборки $x$ ;

$R_y=(R_{y_1},\ldots,R_{y_n})$ , где $R_{y_i}$ — ранг $i$ -го объекта в вариационном ряду выборки $y$ .

Проведем операцию упорядочивания рангов.

Расположим ряд значений $x_i$ в порядке возрастания величины: $x_1\leq x_2\leq\cdots\leq x_n$ . Тогда последовательность рангов упорядоченной выборки $x$ будет представлять собой последовательность натуральных чисел $1,2,\cdots,n$ . Значения $y$ , соответствующие значениям $x$ , образуют в этом случае некоторую последовательность рангов $T=(T_1,\cdots,T_n)$ :

$(R_{x_i},\;R_{y_i})\rightarrow^{sort} (i,\;T_i),\; i=1,\cdots,n$ .

Коэффициент корреляции Кенделла $\tau$ и коэффициент корреляции Спирмена $\rho$ выражаются через ранги $T_i,\; i=1,\cdots,n$ следующим образом:

$\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i\ >\ T_j]};$

$\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i\ >\ T_j];$

Заметно, что в случае $\rho$ инверсиям придаются дополнительные веса $(j-i)$ , таким образом $\rho$ сильнее реагирует на несогласие ранжировок, чем $\tau$ . Этот эффект проявляется в приведённых выше примерах: в большинстве из них $\left| \rho \right|\ >\ \left| \tau \right|$ .

Утверждение.^[1] Если выборки $x$ и $y$ не коррелируют (выполняется гипотеза $H_0$ ), то величины $\rho$ и $\tau$ сильно закоррелированы. Коэффициент корреляции между ними можно вычислить по формуле:

$corr(\rho,\;\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}$ .

История

Критерий был введён в 1938 году известным британским статистиком Морисом Джорджем Кенделлом.

Примечания

Литература

Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006. — 624-626 с.
Лагутин М. Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003. — 345-346 с.
Лапач С. Н., Чубенко А. В., Бабич П. Н. Статистика в науке и бизнесе. — Киев: Морион, 2002. — 187-189 с.

Ссылки

Ранговая корреляция
Коэффициент корреляции Спирмена — другой способ расчёта ранговой корреляции.
Коэффициент корреляции Пирсона
Коэффициент корреляции — статья в русскоязычной Википедии.
Kendall tau rank correlation coefficient — статья в англоязычной Википедии.

Данная статья является непроверенным учебным заданием.

Студент: Василий Ломакин

Преподаватель: К. В. Воронцов

Срок: 31 декабря 2009

До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.

Источник — «http://recognition.su/wiki/index.php?title=%D0%9A%D0%BE%D1%8D%D1%84%D1%84%D0%B8%D1%86%D0%B8%D0%B5%D0%BD%D1%82_%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BB%D1%8F%D1%86%D0%B8%D0%B8_%D0%9A%D0%B5%D0%BD%D0%B4%D0%B5%D0%BB%D0%BB%D0%B0»

Категории: Прикладная статистика | Энциклопедия анализа данных | Корреляционный анализ | Непроверенные учебные задания

@@ Строка 1: / Строка 1: @@
 {{TOCright}}
-Корреляцию Кенделла также называют мерой взаимной неупорядоченности или рассогласования.
-Заданы две выборки <tex>x = (x_1,\ldots,x_n),\;\; y = (y_1,\ldots,y_n)</tex>.
+'''Коэффициент корреляции Кенделла''' (Kendall tau rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Кенделла является [[Ранговая корреляция|ранговой]], то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.
-'''[[Коэффициент корреляции]]''', предложенный Кенделлом равен
+==Описание==
-:: <tex>\tau=1-\frac{4}{n(n-1)}\sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[[x_i<x_j]\neq[y_i<y_j]\right]</tex>,
-где [логическое выражение]=1, если логическое выражение верно, иначе, 0, например,
+Заданы две выборки <tex>x = (x_1,\ldots,x_n),\; y = (y_1,\ldots,y_n)</tex>.
-<tex>[x_i<x_j]=\left\{ \begin{array}{l} 1, x_i>x_j;\\     0, x_i \geq x_j.\\ \end{array} \right</tex>
-Коэффициент <tex>\tau</tex> принимает значения от -1 до 1. Равенство <tex>\tau=1</tex> указывает на строгую линейную корреляцию.
+'''Вычисление корреляции Кенделла:'''
-'''Гипотеза <tex>H_0</tex>:''' Выборки <tex>x</tex> и <tex>y</tex> независимы.
+Коэффициент корреляции Кенделла вычисляется по формуле:
+::<tex>\tau=1-\frac{4}{n(n-1)}R</tex>, где <tex>R = \sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[ \left[ x_i\ <\ x_j \right] \neq \left[ y_i\ <\ y_j \right] \right]</tex> — количество инверсий, образованных величинами <tex>y_i</tex>, расположенными в порядке возрастания соответствующих <tex>x_i</tex>.
-'''Статистика критерия:'''
+Коэффициент <tex>\tau</tex> принимает значения из отрезка <tex>[-1;\;1]</tex>. Равенство <tex>\tau=1</tex> указывает на строгую прямую линейную зависимость, <tex>\tau=-1</tex> на обратную.
-::<tex>\frac{\tau}{\sqrt{D_{\tau}}},</tex>
-где <tex>D_{\tau}=\frac{2(2n+5)}{9n(n-1)}</tex>.
+'''Обоснование критерия Кенделла:'''
-При <tex>n\geq 10</tex> статистику критерия можно приблизить нормальным распределением с параметрами (0,1):
+Будем говорить, что пары <tex>(x_i,\; y_i)</tex> и <tex>(x_j,\; y_j)</tex> согласованы, если <tex>x_i\ <\ x_j</tex> и <tex>y_i\ <\ y_j</tex> или <tex>x_i\ >\ x_j</tex> и <tex>y_i\ >\ y_j</tex>, то есть <tex>sign(x_j-x_i)sign(y_j-y_i)=1</tex>. Пусть <tex>S</tex> - число согласованных пар, <tex>R</tex> - число несогласованных пар. Тогда, в предположении, что среди <tex>x_i</tex> и среди <tex>y_i</tex> нет совпадений, превышение согласованности над несогласованностью есть:
-::<tex>\frac{\tau}{\sqrt{D_{\tau}}}\sim N(0,1)</tex>
-'''Критерий''' (при [[уровень значимости|уровне значимости]] <tex>\alpha</tex>):
+::<tex>T = S - R = \sum_{i < j}sign(x_j-x_i)sign(y_j-y_i)</tex>.
-*против альтернативы <tex>H_1</tex>: наличие корреляции
-:: если <tex>|\tau| > \tau_{\alpha}=u_{\alpha}\cdot\sqrt{D_{\tau_{xy}}} </tex>, где <tex>u_{\alpha}</tex> — <tex>\alpha</tex>-квантиль стандартного нормального распределения.
-==Связь коэффициента корреляции Кенделла с [[коэффициент корреляции Пирсона|коэффициентом корреляции Пирсона]]==
+Для измерения степени согласия Кенделл предложил следующий коэффициент:
-В случае выборок из нормального распределения коэффициент корреляции Кенделла <tex>\tau</tex> может быть использован для оценки [[коэффициент корреляциии Пирсона|коэффициента корреляции Пирсона]] <tex>r</tex> по формуле
+::<tex>\tau = \frac{T}{max{T}} = \frac{2T}{n(n-1)} = \frac{2(S-R)}{n(n-1)} = 1 - \frac{4}{n(n-1)}R</tex>.
-:: <tex>r=sin{\frac{\pi\tau}{2}}</tex>
-==Связь коэффициента корреляции Кенделла с [[коэффициент корреляциии Спирмена|коэффициентом корреляциии Спирмена]]==
+Таким образом, коэффициент <tex>\tau</tex> (линейно связанный с <tex>R</tex>) можно считать ''мерой неупорядоченности'' второй последовательности относительно первой.<ref>Лагутин М. Б. Наглядная математическая статистика. — 345 с.</ref>
+==Статистическая проверка наличия корреляции==
+[[Изображение:Standard_Normal_Density_-_Double-sided_Critical_Area.png|thumb|Критическая область критерия Кенделла.]]
+'''[[Нулевая гипотеза]]''' <tex>H_0</tex>: Выборки <tex>x</tex> и <tex>y</tex> не коррелируют.
+'''Статистика критерия:''' <tex>\tau.</tex>
+'''Асимптотический критерий''' (при [[уровень значимости|уровне значимости]] <tex>\alpha</tex>):
+Рассмотрим центрированную и нормированную статистику Кенделла:
+::<tex>\tilde{\tau} = \frac{\tau}{\sqrt{D_{\tau}}},</tex>, где <tex>D_{\tau}=\frac{2(2n+5)}{9n(n-1)}</tex>.
+Нулевая гипотеза отвергается (против альтернативы <tex>H_1</tex> - наличие корреляции), если:
+:: <tex> \left|\tilde{\tau}\right| \ge \Phi_{1-\alpha/2} </tex>, где <tex>\Phi_{1-\alpha}</tex> есть <tex>(1-\alpha)</tex>-[[квантиль]] стандартного нормального распределения.
+Аппроксимация удовлетворительно работает, начиная с <tex>n\geq 10</tex>.<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref>
+==Примеры==
+Ниже приведены примеры вычисления корреляций Кенделла и Спирмена. Значения коэффициентов указаны над каждым изображением в виде <tex>(\tau,\ \rho)</tex>, где <tex>\tau</tex> - корреляция Кенделла, <tex>\rho</tex> - Спирмена. Заметно, что в большинстве случаев <tex>\left| \rho \right|\ >\ \left| \tau \right|</tex>. Объяснение этого эффекта приводится [[Коэффициент_корреляции_Кенделла#Связь коэффициентов корреляции Кенделла и Спирмена|ниже]].
+===Направление линейной зависимости===
+[[Изображение:Fig1.1-c2.png|left|frame|Корреляции Кенделла и Спирмена. Нормальные сгущения.]]<br clear="both" />
+Коэффициенты корреляции реагируют на изменение направления и зашумлённость линейной зависимости между переменными.
+===Наклон линейного тренда===
+[[Изображение:Kendall Spearman 2.png|left|frame|Корреляции Кенделла и Спирмена. Вращающаяся полоса.]]<br clear="both" />
+Коэффициенты корреляции реагируют на изменение направления, но не реагируют на изменение наклона тренда.  На первом, четвёртом и седьмом рисунках дисперсия одной из переменных близка к нулю, поэтому не удаётся зафиксировать факт линейной зависимости.
+===Нелинейная зависимость===
+[[Изображение:Kendall Spearman 3.png|left|frame|Корреляции Кенделла и Спирмена. Нелинейная зависимость.]]<br clear="both" />
+Корреляции Кенделла и Спирмена не отражают меры нелинейной зависимости между переменными.
+===Линейная и нелинейная зависимости===
+На каждой из приведённых ниже иллюстраций осуществляется переход от линейной зависимости к нелинейной. Коэффициенты корреляции Кенделла и Спирмена реагируют на это одинаковым образом.
+[[Изображение:Kendall Spearman 1.2.png|left|frame|Корреляции Кенделла и Спирмена. Перекрещенные полосы.]]<br clear="both" />
+[[Изображение:Kendall Spearman 1.3.png|left|frame|Корреляции Кенделла и Спирмена. Расширяющаяся полоса.]]<br clear="both" />
+[[Изображение:Kendall Spearman 1.4.png|left|frame|Корреляции Кенделла и Спирмена. Синусоида с переменной амплитудой.]]<br clear="both" />
+По мере смены линейной зависимости нелинейной значения коэффициентов корреляции падают.
+==Связь коэффициентов корреляции Кенделла и [[коэффициент корреляции Пирсона|Пирсона]]==
+В случае выборок из нормального распределения коэффициент корреляции Кенделла <tex>\tau</tex> может быть использован для оценки [[коэффициент корреляции Пирсона|коэффициента корреляции Пирсона]] <tex>r</tex> по формуле:
+:: <tex>r=sin{\frac{\pi\tau}{2}}</tex>.<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref>
+==Связь коэффициентов корреляции Кенделла и [[Коэффициент корреляции Спирмена|Спирмена]]==
 Выборкам <tex>x</tex> и <tex>y</tex>  соответствуют последовательности рангов:
@@ Строка 37: / Строка 89: @@
 ::<tex>R_y=(R_{y_1},\ldots,R_{y_n})</tex>, где <tex>R_{y_i}</tex> — ранг <tex>i</tex>-го объекта в [[вариационный ряд|вариационном ряду]] выборки <tex>y</tex>.
-Проведем операцию упорядочевания рангов.
+Проведем операцию упорядочивания рангов.
-Расположим ряд значений <tex>x_i</tex> в порядке возрастания величины: <tex>x_1\leq x_2\leq\cdots\leq x_n</tex>. Тогда последовательность рангов упорядоченной выборки <tex>x</tex> будет представлять собой последовательность натуральных чисел <tex>1,2,\cdots,n</tex>. Значения <tex>y</tex>, соответствующие значениям <tex>x</tex>, образуют в этом случае некоторую последовательность рангов <tex>T=(T_1,\cdots,T_n)</tex>.
+Расположим ряд значений <tex>x_i</tex> в порядке возрастания величины: <tex>x_1\leq x_2\leq\cdots\leq x_n</tex>. Тогда последовательность рангов упорядоченной выборки <tex>x</tex> будет представлять собой последовательность натуральных чисел <tex>1,2,\cdots,n</tex>. Значения <tex>y</tex>, соответствующие значениям <tex>x</tex>, образуют в этом случае некоторую последовательность рангов <tex>T=(T_1,\cdots,T_n)</tex>:
-::<tex>(R_{x_i},R_{y_i})\rightarrow (i,T_i),\; i=1,\cdots,n</tex>
+::<tex>(R_{x_i},\;R_{y_i})\rightarrow^{sort} (i,\;T_i),\; i=1,\cdots,n</tex>.
-Коэффициент корриляции Кенделла <tex>\tau</tex> и коэффициент корриляции Спирмена <tex>\rho</tex> выражаются через ранги <tex>T_i,\; i=1,\cdots,n</tex> следующим образом:
+Коэффициент корреляции Кенделла <tex>\tau</tex> и [[коэффициент корреляции Спирмена]] <tex>\rho</tex> выражаются через ранги <tex>T_i,\; i=1,\cdots,n</tex> следующим образом:
-::<tex>\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i>T_j]}</tex>
+::<tex>\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i\ >\ T_j]};</tex>
-::<tex>\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i>T_j]</tex>
+::<tex>\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i\ >\ T_j];</tex>
-Коэффициент корриляции Спирмена учитывает насколько сильна неупорядоченность.
+Заметно, что в случае <tex>\rho</tex> инверсиям придаются дополнительные веса <tex>(j-i)</tex>, таким образом <tex>\rho</tex> сильнее реагирует на несогласие ранжировок, чем <tex>\tau</tex>. Этот эффект проявляется в приведённых выше примерах: в большинстве из них <tex>\left| \rho \right|\ >\ \left| \tau \right|</tex>.
-== Литература ==
-# ''Кобзарь А. И.'' Прикладная математическая статистика. — М.:&nbsp;Физматлит, 2006. — 816&nbsp;с.
-{{UnderConstruction|[[Участник:Tsurko Varvara]] 13:33, 11 ноября 2008 (MSK)}}
+'''Утверждение.'''<ref>Лагутин М. Б. Наглядная математическая статистика. — 345-346 с.</ref> Если  выборки <tex>x</tex> и <tex>y</tex> не коррелируют (выполняется гипотеза <tex>H_0</tex>), то величины <tex>\rho</tex> и <tex>\tau</tex> сильно закоррелированы. Коэффициент корреляции между ними можно вычислить по формуле:
+::<tex>corr(\rho,\;\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}</tex>.
+== История ==
+Критерий был введён в 1938 году известным британским статистиком Морисом Джорджем Кенделлом.
-{{stub}}
+== Примечания ==
+<references/>
+== Литература ==
+# ''Кобзарь А. И.'' Прикладная математическая статистика. — М.:&nbsp;Физматлит, 2006. — 624-626&nbsp;с.
+# ''Лагутин М. Б.'' Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003. — 345-346&nbsp;с.
+# ''Лапач С. Н., Чубенко А. В., Бабич П. Н.'' Статистика в науке и бизнесе. — Киев: Морион, 2002. — 187-189 с.
+==Ссылки==
+*[[Ранговая корреляция]]
+*[[Коэффициент корреляции Спирмена]] — другой способ расчёта ранговой корреляции.
+*[[Коэффициент корреляции Пирсона]]
+*[http://ru.wikipedia.org/wiki/Коэффициент_корреляции Коэффициент корреляции] — статья в русскоязычной Википедии.
+*[http://en.wikipedia.org/wiki/Kendall_tau_rank_correlation_coefficient Kendall tau rank correlation coefficient] — статья в англоязычной Википедии.
 [[Категория:Прикладная статистика]]
 [[Категория:Энциклопедия анализа данных]]
+[[Категория:Корреляционный анализ|К]]
+{{Задание|Василий Ломакин|К. В. Воронцов|31 декабря 2009|Василий Ломакин|Vokov}}