Оценка сложности регрессионных моделей (пример)

Материал из MachineLearning.

Перейти к: навигация, поиск

Задача восстановления регрессии является частным случаем задачи обучения по прецедентам. При выборе модели, как и для всех задач обучения по прецедентам, возможны проблемы недообучения и переобучения.

В случае недообучения, модель недостаточно сложна для описания данных с требуемой точностью. А в случае переобучения, возникающего при избыточной сложности моделей, средняя ошибка на тестовой выборке существенно выше,чем на обучающей выборке.

Таким образом, для каждой задачи существует оптимальная сложность модели.

Содержание

Способы оценки сложности регрессионных моделей

Существуют различные способы оценки сложности, используемые при выборе регрессионных моделей. Одним из них является критерий Акаике (AIC), основанный на принципе Оккама, а также тесно связанный с ним Байесовский информационный критерий (BIC). В теории Вапника-Червоненкиса одним из ключевых понятий является размерность Вапника-Червоненкиса, которая также является характеристикой сложности семейства алгоритмов.

Поскольку задача описания данных формально эквивалентна кодированию, то сложность модели можно оценивать также как длину требуемого для её описания кода. На этом основан принцип минимальной длинны описания (MDL)[1].

Функция правдоподобия (достоверность) в некотором роде тоже можно рассматривать как оценку сложности модели[1].

Постановка задачи

Рассматривается линейная регрессионная модель

y= f(\mathbf{w},\mathbf{x}) + \nu= \sum^W_{j=1}w_jf_j(\mathbf{x})+\nu


Предполагается, что случайная величина распределена нормально с нулевым матожиданием и фиксированной дисперсией \sigma^2, которая не зависит от переменных x, y. При таких предположениях параметры \mathbf{w} регрессионной модели вычисляются с помощью метода наименьших квадратов.

Будем рассматривать одномерные выборки. Обозначим порождаемые признаки a_j=g_j(x) (свободные переменные).

Множество порождающих функций G=\{1, x^{\frac{1}{2}}, x, x^{\frac{3}{2}}, x^2, tgx, lnx, e^x\}

В качестве модели, описывающей отношение между свободными переменными a_j и зависимой переменной y будем использовать полином Колмогорова-Габора

y=\beta_0+\sum^{|G|}_{i=1}\beta_ia_i+\sum^{|G|}_{i=1}\sum^{|G|}_{j=1}\beta_{ij}a_ia_j+\ldots

Где вектор коэффициентов \beta=(\beta_0,\beta_i,\beta_{ij},\ldots)_{i,j,\ldots=1,2,\ldots}


Используя модельные данные, мы будем строить кривые зависимости AIC, BIC, размерности Вапника-Червоненкиса, длинны описания(MDL), функции правдоподобия (достоверности), а также количества хорошо определяемых параметров от количества мономов полинома Колмлгорова-Габора.

Вычисление AIC и BIC для линейной регрессионной модели

Пусть: X = \{x_i\}^{n}_{i=1} - наблюдаемая часть выборки, где каждый объект характеризуется набором параметров x_i=(x_{i_1},...,x_{i_k}).

SSE=\|f(x_i)-y_i\|_2=\sum_{i=1}^n(y_i-f(w,x_i))^2;

\sigma^2=\frac{SSE}{n-2} — дисперсия остатков;

В случае линейной регрессионной модели критерий BIC выражается через SSE (Sum of Squared Errors) - сумму квадратов остатков - и \sigma^2 - дисперсия остатков. BIC=SSE/\sigma^2+k\ln(n)

А критерий Акаике через SSE. k - число параметров модели

AIC = 2k+n\[\ln(\sigma^2)\]

Лучшая модель соответствует минимальному значению критерия.

Вычисление размерности Вапника-Червоненкиса

Для задач регрессии обычно размерность Вапника-Червоненкиса принимают равной количеству параметров.

Вычисление функции правдоподобия и количества хорошо определяемых параметров

Для оценки сложности используется логарифм функции правдоподобия(evidence)

ln p(D|\beta, A)=-\frac{1}{2}ln|A|-\frac{N}{2}ln2\pi+\frac{N}{2}ln\beta-S(w_0)-\frac{1}{2}ln|H|

Где E_D функция регрессионных невязок:

E_D=\frac{1}{2}\sum^n_{i=1}(f(x_i)-y_i)^2

Функция ошибки:

S(w)=\frac{1}{3}w^TAw+\beta E_D

Матрица Гессе функции ошибок

H=-\nabla\nabla S(w)|_{w=w_0}

Представим A=I_W||\frac{1}{a}||

H_D части Гессеана, не зависящие от A

Количество хорошо определяемых параметров:

\gamma=\sum^W_{j=1}\frac{\lambda_j}{\lambda_j+a_j}

Численный эксперимент

Генерация модельных данных.

Функция - полином 4й степени. Случайная составляющая нормально распределена. 

x=0:.025:10;
y=(x-1).*(x-4).*(x-7).*(x-9)+30.*randn(size(x));
scatter(x,y,'*')
% запишем x и y в виде столбцов
x=x';
y=y';

Литература

Источник — «http://recognition.su/wiki/index.php?title=%D0%9E%D1%86%D0%B5%D0%BD%D0%BA%D0%B0_%D1%81%D0%BB%D0%BE%D0%B6%D0%BD%D0%BE%D1%81%D1%82%D0%B8_%D1%80%D0%B5%D0%B3%D1%80%D0%B5%D1%81%D1%81%D0%B8%D0%BE%D0%BD%D0%BD%D1%8B%D1%85_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B5%D0%B9_%28%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D1%80%29»