Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Рекомендуемые обозначения
Материал из MachineLearning.
(Различия между версиями)
(→Список обозначений) |
|||
(8 промежуточных версий не показаны.) | |||
Строка 1: | Строка 1: | ||
+ | {{Main|Численные методы обучения по прецедентам (практика, В.В. Стрижов)}} | ||
+ | |||
==Список обозначений== | ==Список обозначений== | ||
Рекомендовано для курса "Численные методы обучения по прецедентам" | Рекомендовано для курса "Численные методы обучения по прецедентам" | ||
Строка 7: | Строка 9: | ||
*<tex>{\mathbb{R}}</tex> — множество действительных чисел | *<tex>{\mathbb{R}}</tex> — множество действительных чисел | ||
*<tex>{\mathbb{N}}</tex> — множество натуральных чисел | *<tex>{\mathbb{N}}</tex> — множество натуральных чисел | ||
- | *<tex>{X}</tex> — матрица плана (объект-признак), <tex>X=[x_j^i]\in\mathbb{R}^{m\times n}</tex> | + | *<tex>{\mathbf{X}}</tex> — матрица плана (объект-признак), <tex>\mathbf{X}=[x_j^i]\in\mathbb{R}^{m\times n}</tex> |
- | *<tex>{X}</tex> — множество признаков <tex>X=[\mathbf{x}_1,\ldots,\mathbf{x}_n]</tex> | + | *<tex>{\mathbf{X}}</tex> — множество признаков <tex>\mathbf{X}=[\mathbf{x}_1,\ldots,\mathbf{x}_n]</tex> |
- | *<tex>{ | + | *<tex>{\mathbf{X}_{\mathcal{A}}}</tex> — подмножество столбцов (признаков), заданное индексным множеством <tex>\mathcal{A}</tex> |
- | *<tex> | + | *<tex>\mathbf{X}</tex> — множество значений свободной переменной, <tex>\mathbf{X}=\{\mathbf{x}_i|\mathbf{x}\in\mathbb{R}^n, i=1,...,m\}</tex> |
- | + | *<tex>{\mathbf{\chi}_j}</tex> — реализации <tex>j</tex>-й свободной переменной, признак, <tex>j</tex>-й столбец матрицы <tex>X</tex> | |
- | *<tex>{\mathbf{ | + | *<tex>{\mathbf{x}_i}</tex> — <tex>i</tex>-й объект выборки, <tex>\mathbf{x}_i\in\mathbb{R}^n</tex> |
- | *<tex>{\mathbf{x} | + | *<tex>{\mathbf{x}}</tex> — многомерная свободная переменная, <tex>\mathbf{x}=[x_1,\ldots,x_n]^T\in\mathbb{R}^n</tex> |
- | *<tex>{\mathbf{x}}</tex> — многомерная свободная переменная, <tex>\mathbf{x}=[x_1,\ldots,x_n]\in\mathbb{R}^n</tex> | + | *<tex>{\mathbf{y}</tex> — зависимая переменная, многомерная случайная величина <tex>\mathbf{y}=[y_1,\ldots,y_m]^T\in\mathbb{R}^m</tex> |
- | *<tex>{\mathbf{y}</tex> — зависимая переменная, многомерная случайная величина <tex>\mathbf{y}=[y_1,\ldots,y_m]\in\mathbb{R}^m</tex> | + | *<tex>\mathbf{D}</tex> — выборка, множество пар <tex>\{(\mathbf{x}_i,y_i)|i=1,\ldots,m\}</tex>, также <tex>\mathbf{D}=(\mathbf{X},\mathbf{y})</tex> |
- | *<tex>{D}</tex> — выборка, множество пар <tex>\{(\mathbf{x}_i,y_i)|i=1,\ldots,m\}</tex>, также <tex>D=(X,\mathbf{y})</tex> | + | |
*<tex>{\mathcal{I}}</tex> — множество индексов (объектов) элементов выборки | *<tex>{\mathcal{I}}</tex> — множество индексов (объектов) элементов выборки | ||
*<tex>{\mathcal{B}}</tex> — множество индексов опорных объектов, <tex>\mathcal{I}\subseteq\mathcal{I}</tex> | *<tex>{\mathcal{B}}</tex> — множество индексов опорных объектов, <tex>\mathcal{I}\subseteq\mathcal{I}</tex> | ||
Строка 27: | Строка 28: | ||
*<tex>{\mathbf{w}}</tex> — вектор параметров <tex>\mathbf{w}=[w_1,\ldots,w_n]^T</tex> модели | *<tex>{\mathbf{w}}</tex> — вектор параметров <tex>\mathbf{w}=[w_1,\ldots,w_n]^T</tex> модели | ||
*<tex>{\mathbf{\varepsilon}}</tex> — многомерная случайная величина <tex>\mathbf{\varepsilon}=[\varepsilon_1,\ldots,\varepsilon_m]^T</tex> | *<tex>{\mathbf{\varepsilon}}</tex> — многомерная случайная величина <tex>\mathbf{\varepsilon}=[\varepsilon_1,\ldots,\varepsilon_m]^T</tex> | ||
- | *<tex>{A}</tex> — ковариационная матрица многомерной случайной величины <tex>\mathbf{w}</tex> | + | *<tex>{\mathbf{A}}</tex> — ковариационная матрица многомерной случайной величины <tex>\mathbf{w}</tex> |
- | *<tex>{B}</tex> — ковариационная матрица многомерной случайной величины <tex>\mathbf{y}</tex>, вариант — <tex>\mathbf{\varepsilon}</tex> | + | *<tex>\mathbf{B}</tex> — ковариационная матрица многомерной случайной величины <tex>\mathbf{y}</tex>, вариант — <tex>\mathbf{\varepsilon}</tex> |
- | *<tex>{J}</tex> — матрица Якоби фукнции <tex>f</tex> с элементами <tex> | + | *<tex>\mathbf{J}</tex> — матрица Якоби фукнции <tex>f</tex> с элементами <tex>\mathbf{J}_{ij}=\left[ \frac{\partial f(\mathbf{w},\mathbf{x}_i)}{\partial w_j} \right]</tex> |
- | *<tex>{H}</tex> — матрица Гессе фукнции <tex>f</tex> с элементами <tex> | + | *<tex>\mathbf{H}</tex> — матрица Гессе фукнции <tex>f</tex> с элементами <tex>\mathbf{H}_{ij}=\left[ \frac{\partial^2 f(\mathbf{w},\mathbf{x}_i)}{\partial w_j w_k} \right]</tex> |
*<tex>{g}</tex> — порождающая функция, <tex>g=g(\mathbf{w},\cdot)</tex> | *<tex>{g}</tex> — порождающая функция, <tex>g=g(\mathbf{w},\cdot)</tex> | ||
*<tex>{\mathcal{G}}</tex> — множество порождающий функций, <tex>\mathcal{G}=\{g\}</tex> | *<tex>{\mathcal{G}}</tex> — множество порождающий функций, <tex>\mathcal{G}=\{g\}</tex> | ||
Строка 37: | Строка 38: | ||
*<tex>{RSS}</tex> — сумма квадратов невязок, <tex>RSS = \sum_{i=1}^{m}\bigl(y_i - f(\mathbf{w},\mathbf{x}_i)\bigr)^2</tex> | *<tex>{RSS}</tex> — сумма квадратов невязок, <tex>RSS = \sum_{i=1}^{m}\bigl(y_i - f(\mathbf{w},\mathbf{x}_i)\bigr)^2</tex> | ||
*<tex>{MSE}</tex> — среднеквадратичная ошибка, <tex>MSE = \frac{RSS}{m}</tex> | *<tex>{MSE}</tex> — среднеквадратичная ошибка, <tex>MSE = \frac{RSS}{m}</tex> | ||
- | |||
- | |||
- | |||
- | |||
- | |||
- |
Текущая версия
Список обозначений
Рекомендовано для курса "Численные методы обучения по прецедентам"
В процессе редактирования |
Матрицы обозначены заглавными буквами, векторы полужирными прописными буквами, множества (как правило) каллиграфическими буквами.
- множество действительных чисел
- множество натуральных чисел
- матрица плана (объект-признак),
- множество признаков
- подмножество столбцов (признаков), заданное индексным множеством
- множество значений свободной переменной,
- реализации -й свободной переменной, признак, -й столбец матрицы
- -й объект выборки,
- многомерная свободная переменная,
- зависимая переменная, многомерная случайная величина
- выборка, множество пар , также
- множество индексов (объектов) элементов выборки
- множество индексов опорных объектов,
- множество индексов свободных переменных (признаков)
- множество индексов активных признаков,
- число зависимых переменных, размерность пространства зависимых переменных,
- число свободных переменных, размерность пространства свободной переменной,
- регрессионная модель, , по определению
- регрессионная модель (вектор-функция),
- вектор параметров модели
- многомерная случайная величина
- ковариационная матрица многомерной случайной величины
- ковариационная матрица многомерной случайной величины , вариант
- матрица Якоби фукнции с элементами
- матрица Гессе фукнции с элементами
- порождающая функция,
- множество порождающий функций,
- множество индуктивно-порожденных регрессионных моделей,
- целевая функция (критерий качества), , полный вариант для модели на выборке
- сумма квадратов невязок,
- среднеквадратичная ошибка,