Метод Ньютона. Проблема области сходимости. Метод парабол. Совмещение методов Ньютона и парабол
Материал из MachineLearning.
(Различия между версиями)
Строка 1: | Строка 1: | ||
== Постановка задачи одномерной оптимизации == | == Постановка задачи одномерной оптимизации == | ||
Задача одномерной оптимизации определяется следующим образом: | Задача одномерной оптимизации определяется следующим образом: | ||
- | # ''Допустимое множество'' — множество <tex>\mathbb{X} | + | # ''Допустимое множество'' — множество <tex>\mathbb{X} \subseteq \mathbb{R}</tex>; |
# ''Целевую функцию'' — отображение <tex>f:\;\mathbb{X}\to\mathbb{R}</tex>; | # ''Целевую функцию'' — отображение <tex>f:\;\mathbb{X}\to\mathbb{R}</tex>; | ||
# ''Критерий поиска'' (max или min). | # ''Критерий поиска'' (max или min). | ||
Тогда решить задачу <tex>f(x)\to \min_{x\in\mathrm{X}}</tex> означает одно из: | Тогда решить задачу <tex>f(x)\to \min_{x\in\mathrm{X}}</tex> означает одно из: | ||
- | # Показать, что <tex>\mathbb{X}=\not\ | + | # Показать, что <tex>\mathbb{X}=\not\bigcirc</tex>. |
# Показать, что целевая функция <tex>f(x)</tex> не ограничена. | # Показать, что целевая функция <tex>f(x)</tex> не ограничена. | ||
# Найти <tex>x^*\in\mathbb{X}:\;f(x^*)=\min_{x\in\mathbb{X}}f(\vec{x})</tex>. | # Найти <tex>x^*\in\mathbb{X}:\;f(x^*)=\min_{x\in\mathbb{X}}f(\vec{x})</tex>. |
Версия 20:49, 16 ноября 2008
Содержание |
Постановка задачи одномерной оптимизации
Задача одномерной оптимизации определяется следующим образом:
- Допустимое множество — множество ;
- Целевую функцию — отображение ;
- Критерий поиска (max или min).
Тогда решить задачу означает одно из:
- Показать, что .
- Показать, что целевая функция не ограничена.
- Найти .
- Если , то найти .
Если минимизируемая функция не является выпуклой, то часто ограничиваются поиском локальных минимумов и максимумов: точек таких, что всюду в некоторой их окрестности для минимума и для максимума.
Если допустимое множество , то такая задача называется задачей безусловной оптимизации, в противном случае — задачей условной оптимизации.