Метод Ньютона. Проблема области сходимости. Метод парабол. Совмещение методов Ньютона и парабол
Материал из MachineLearning.
(Различия между версиями)
Строка 9: | Строка 9: | ||
# Показать, что целевая функция <tex>f(\vec{x})</tex> не ограничена. | # Показать, что целевая функция <tex>f(\vec{x})</tex> не ограничена. | ||
# Найти <tex>\vec{x}^*\in\mathbb{X}:\;f(\vec{x}^*)=\min_{\vec{x}\in\mathbb{X}}f(\vec{x})</tex>. | # Найти <tex>\vec{x}^*\in\mathbb{X}:\;f(\vec{x}^*)=\min_{\vec{x}\in\mathbb{X}}f(\vec{x})</tex>. | ||
- | # Если <tex>\ | + | # Если <tex>\not\exists \vec{x}^* </tex>, то найти <tex>\inf_{\vec{x}\in\mathbb{X}}f(\vec{x})</tex>. |
Если минимизируемая функция не является выпуклой, то часто ограничиваются поиском локальных минимумов и максимумов: точек <tex>x_0</tex> таких, что всюду в некоторой их окрестности <tex>f(x)\ge f(x_0)</tex> для минимума и <tex>f(x)\le f(x_0)</tex> для максимума. | Если минимизируемая функция не является выпуклой, то часто ограничиваются поиском локальных минимумов и максимумов: точек <tex>x_0</tex> таких, что всюду в некоторой их окрестности <tex>f(x)\ge f(x_0)</tex> для минимума и <tex>f(x)\le f(x_0)</tex> для максимума. |
Версия 20:44, 16 ноября 2008
Содержание |
Постановка задачи одномерной оптимизации
Задача одномерной оптимизации определяется следующим образом:
- Допустимое множество — множество
;
- Целевую функцию — отображение
;
- Критерий поиска (max или min).
Тогда решить задачу означает одно из:
- Показать, что
.
- Показать, что целевая функция
не ограничена.
- Найти
.
- Если
, то найти
.
Если минимизируемая функция не является выпуклой, то часто ограничиваются поиском локальных минимумов и максимумов: точек таких, что всюду в некоторой их окрестности
для минимума и
для максимума.
Если допустимое множество , то такая задача называется задачей безусловной оптимизации, в противном случае — задачей условной оптимизации.