Машина опорных векторов
Материал из MachineLearning.
(Различия между версиями)
(викификация) |
|||
| Строка 12: | Строка 12: | ||
=== Линейно неразделимая выборка === | === Линейно неразделимая выборка === | ||
=== Ядра и спрямляющие пространства === | === Ядра и спрямляющие пространства === | ||
| + | Наиболее распространенные ядра: | ||
| + | |||
| + | * Полиномиальное: <tex>k(\mathbf{x},\mathbf{x}')=(\mathbf{x} \cdot \mathbf{x'})^d</tex> | ||
| + | * Полиномиальное: <tex>k(\mathbf{x},\mathbf{x}')=(\mathbf{x} \cdot \mathbf{x'} + 1)^d</tex> | ||
| + | * Радиальное: <tex>k(\mathbf{x},\mathbf{x}')=\exp(-\gamma \|\mathbf{x} - \mathbf{x'}\|^2)</tex>, для <tex>\gamma > 0</tex> | ||
=== Алгоритмы настройки === | === Алгоритмы настройки === | ||
Версия 10:21, 13 мая 2008
Машина опорных векторов — является одной из наиболее популярных методологий обучения по прецедентам, предложенной В. Н. Вапником и известной в англоязычной литературе под названием SVM (Support Vector Machine).
Оптимальная разделяющая гиперплоскость. Понятие зазора между классами (margin). Случай линейной разделимости. Задача квадратичного программирования. Опорные векторы. Случай отсутствия линейной разделимости. Функции ядра (kernel functions), спрямляющее пространство, теорема Мерсера. Способы построения ядер. Примеры ядер. Сопоставление SVM и нейронной RBF-сети. Обучение SVM методом активных ограничений. SVM-регрессия.
Содержание |
Машина опорных векторов в задачах классификации
Понятие оптимальной разделяющей гиперплоскости
Линейно разделимая выборка
Линейно неразделимая выборка
Ядра и спрямляющие пространства
Наиболее распространенные ядра:
- Полиномиальное:
- Полиномиальное:
- Радиальное:
, для
Алгоритмы настройки
Машина опорных векторов в задачах регрессии
Программные реализации
Литература
- Вапник В. Н. Восстановление зависимостей по эмпирическим данным. — М.: Наука, 1979.
