Байесовский выбор моделей II (теория и практика, А.А. Адуенко, В.В. Стрижов)/Группа 874, весна 2022
Материал из MachineLearning.
(Различия между версиями)
(18 промежуточных версий не показаны.) | |||
Строка 13: | Строка 13: | ||
* [[Media:Aduenko_map_estimate_for_mixture_of_linear_regressions2.zip|Лекция 3 (Воспоминание): Практика по EM и вариационному ЕМ-алгоритму.]] | * [[Media:Aduenko_map_estimate_for_mixture_of_linear_regressions2.zip|Лекция 3 (Воспоминание): Практика по EM и вариационному ЕМ-алгоритму.]] | ||
* [[Media:Aduenko2022HMC_vs_Var_EM.pdf|Лекция 4 (Воспоминание): Гамильтоновы методы Монте-Карло и сравнение с вариационным ЕМ-алгоритмом.]] | * [[Media:Aduenko2022HMC_vs_Var_EM.pdf|Лекция 4 (Воспоминание): Гамильтоновы методы Монте-Карло и сравнение с вариационным ЕМ-алгоритмом.]] | ||
- | * [[Media: | + | * [[Media:Aduenko_var_em_and_elbo_for_mixture_of_linear_regressions_2.zip|Лекция 4 (Воспоминание): Практика по вариационному ЕМ-алгоритму и сравнение с HMC.]] |
+ | * [[Media:Aduenko2022Graphical_models.pdf|Лекция 5: Графические модели. Условная независимость переменных.]] | ||
+ | * [[Media:Bayes_applied_1_2022.pdf|Практическое задание 1]] | ||
+ | * [https://www.dropbox.com/s/4ma46t6jq9uzg4w/2022_task1_data.zip?dl=0 Данные для практического задания 1] | ||
+ | * [[Media:Aduenko2022Graphical_models_directed_vs_undirected_2.pdf|Лекция 6: Ориентированные и неориентированные графические модели и связь между ними.]] | ||
+ | * [[Media:Aduenko2022Graphical_models_factor_graphs_and_inference_2.pdf|Лекция 7: Факторные графы и точный вывод в ациклических графических моделях.]] | ||
+ | * [[Media:Aduenko2022Graphical_models_hmm.pdf|Лекция 8: Алгоритм Max-Sum и скрытые марковские модели.]] | ||
+ | * [[Media:Aduenko2022Graphical_models_hmm_baum_welch.pdf|Лекция 9: Алгоритм Баума-Велча для оценки параметров скрытых марковских моделей.]] | ||
+ | * [[Media:Aduenko_baum_welch_illustration.zip|Лекция 9: Практика по алгоритму Баума-Велча.]] | ||
+ | * [[Media:Aduenko2022Graphical_models_graphcut2.pdf|Лекция 10: Алгоритмы поиска минимального разреза в графах для вывода в графических моделях.]] | ||
+ | * [[Media:Aduenko2022Graphical_models_trw2.pdf|Лекция 11: Алгоритм TRW для вывода в циклических графических моделях для общей энергии.]] | ||
+ | * [[Media:Aduenko2022Graphical_models_hyper_2.pdf|Лекция 12: Оценивание гиперпараметров графических моделей.]] | ||
+ | * [[Media:Bayes_game_2022.pdf|Соревнование.]] | ||
+ | * [[Media:Bayes_exam_2022.pdf|Экзаменационные билеты.]] | ||
== Дополнительные материалы == | == Дополнительные материалы == |
Текущая версия
Байесовский выбор моделей
Курс лекций, преподаватель Александр Александрович Адуенко (aduenko at phystech.edu; aduenko1 at gmail.com)
- Первая часть курса, прочитанная осенью 2021 года
- Короткий адрес страницы https://bit.ly/34UGdgP
- Лекция 1 (Доклад Никиты Линдеманна): Выбор априорного распределения, неинформативные априорное распределения и распределения Джеффриса.
- Лекция 2 (Воспоминание): ЕМ-алгоритм.
- Лекция 2 (Воспоминание): Практика по EM-алгоритму.
- Лекция 3 (Воспоминание): Вариационный ЕМ-алгоритм.
- Лекция 3 (Воспоминание): Практика по EM и вариационному ЕМ-алгоритму.
- Лекция 4 (Воспоминание): Гамильтоновы методы Монте-Карло и сравнение с вариационным ЕМ-алгоритмом.
- Лекция 4 (Воспоминание): Практика по вариационному ЕМ-алгоритму и сравнение с HMC.
- Лекция 5: Графические модели. Условная независимость переменных.
- Практическое задание 1
- Данные для практического задания 1
- Лекция 6: Ориентированные и неориентированные графические модели и связь между ними.
- Лекция 7: Факторные графы и точный вывод в ациклических графических моделях.
- Лекция 8: Алгоритм Max-Sum и скрытые марковские модели.
- Лекция 9: Алгоритм Баума-Велча для оценки параметров скрытых марковских моделей.
- Лекция 9: Практика по алгоритму Баума-Велча.
- Лекция 10: Алгоритмы поиска минимального разреза в графах для вывода в графических моделях.
- Лекция 11: Алгоритм TRW для вывода в циклических графических моделях для общей энергии.
- Лекция 12: Оценивание гиперпараметров графических моделей.
- Соревнование.
- Экзаменационные билеты.
Дополнительные материалы
- См. последний слайд каждой лекции со списком литературы.
- David MacKay, 2005, Information Theory, Inference, and Learning Algorithms
- Christopher Bishop, 2006, Pattern Recognition and Machine Learning
- David Barber, 2014, Bayesian Reasoning and Machine Learning
- Daphne Koller and Nir Friedman, 2009, Probabilistic Graphical Models
- Kevin P. Murphy, 2012, Machine Learning: a Probabilistic Perspective
- Wainwright, M. J., & Jordan, M. I., 2008, Graphical models, exponential families, and variational inference.