Алгоритм AnyBoost
Материал из MachineLearning.
(→Литература) |
|||
Строка 1: | Строка 1: | ||
{{Задание|Mordasova|Константин Воронцов|10 февраля 2010}} | {{Задание|Mordasova|Константин Воронцов|10 февраля 2010}} | ||
- | '''Алгоритм AnyBoost''' - класс алгоритмов, представляющих [[бустинг]] как процесс градиентного спуска | + | '''Алгоритм AnyBoost''' - класс алгоритмов, представляющих [[бустинг]] как процесс градиентного спуска. В основе алгоритма лежит последовательное уточнение функции, представляющей собой линейную комбинацию базовых классификаторов, с тем чтобы минимизировать функцию потерь. В класс AnyBoost входят практически все алгоритмы [[бустинга|бустинг]] как частные случаи. |
==Описание алгоритма== | ==Описание алгоритма== | ||
'''Алгоритм AnyBoost''' | '''Алгоритм AnyBoost''' | ||
- | + | Рассмотрим задачу классификации на два класса, <tex>Y=\{-1,+1\}</tex>. Базовые классификаторы - отображения на множество <tex>Y</tex>, и все | |
- | + | ||
- | * Класс базовых классификаторов <tex>F\subseteq\chi</tex> | + | |
- | * | + | '''Дано''': |
+ | |||
+ | * Класс базовых классификаторов <tex>F\subseteq\chi</tex>. | ||
+ | * Дифференцируемая функция потерь <tex>C: \mathrm{lin}(F)\to\mathbb{R}</tex>. | ||
+ | * | ||
==См. также== | ==См. также== |
Версия 11:05, 7 февраля 2010
![]() | Данная статья является непроверенным учебным заданием.
До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}. См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе. |
Алгоритм AnyBoost - класс алгоритмов, представляющих бустинг как процесс градиентного спуска. В основе алгоритма лежит последовательное уточнение функции, представляющей собой линейную комбинацию базовых классификаторов, с тем чтобы минимизировать функцию потерь. В класс AnyBoost входят практически все алгоритмы бустинг как частные случаи.
Содержание |
Описание алгоритма
Алгоритм AnyBoost
Рассмотрим задачу классификации на два класса, . Базовые классификаторы - отображения на множество
, и все
Дано:
- Класс базовых классификаторов
.
- Дифференцируемая функция потерь
.
См. также
Литература
- Mason L., Baxter J., Bartlett P., Frean M. Boosting algorithms as gradient descent. — Advances in Neural Information Processing Systems. — MIT Press, 2000. — T. 12. — 512--518 с.