Вероятностные тематические модели (курс лекций, К.В.Воронцов)
Материал из MachineLearning.
м (→Суммаризация и визуализация) |
(→Задача тематического моделирования) |
||
(38 промежуточных версий не показаны.) | |||
Строка 10: | Строка 10: | ||
'''Основной материал:''' | '''Основной материал:''' | ||
- | * ''Воронцов К. В.'' [[Media:voron17survey-artm.pdf|Вероятностное тематическое моделирование: | + | * ''Воронцов К. В.'' [[Media:voron17survey-artm.pdf|Вероятностное тематическое моделирование: теория регуляризации ARTM и библиотека с открытым кодом BigARTM]]. {{важно|— обновление 26.06.2023}}. |
+ | * [https://www.youtube.com/playlist?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозаписи, 2023 осень (МФТИ)]. | ||
= Программа курса = | = Программа курса = | ||
== Задача тематического моделирования == | == Задача тематического моделирования == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron24ptm-intro.pdf|(PDF, 1,4 МБ)]] {{важно|— обновление 19.09.2024}}. |
- | [https:// | + | [https://www.youtube.com/watch?v=k0XHeu4MeBo&list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Цели и задачи тематического моделирования.''' | '''Цели и задачи тематического моделирования.''' | ||
Строка 29: | Строка 30: | ||
* Теорема о необходимом условии максимума регуляризованного правдоподобия для ARTM. | * Теорема о необходимом условии максимума регуляризованного правдоподобия для ARTM. | ||
* Классические тематические модели [[Вероятностный латентный семантический анализ|PLSA]] и [[Латентное размещение Дирихле|LDA]] как частные случаи ARTM. | * Классические тематические модели [[Вероятностный латентный семантический анализ|PLSA]] и [[Латентное размещение Дирихле|LDA]] как частные случаи ARTM. | ||
- | |||
'''Практика тематического моделирования.''' | '''Практика тематического моделирования.''' | ||
Строка 37: | Строка 37: | ||
* Датасеты и практические задания по курсу. | * Датасеты и практические задания по курсу. | ||
- | == Онлайновый ЕМ-алгоритм и | + | == Проект «Тематизатор» == |
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-project.pdf|(PDF, 6,2 МБ)]] {{важно|— обновление 21.09.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/LctW1J93lmw?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
+ | |||
+ | '''Визуализация тематических моделей''' | ||
+ | * Концепция distant reading. | ||
+ | * Карты знаний, иерархии, взаимосвязи, динамика, сегментация. | ||
+ | * Спектр тем. | ||
+ | * Визуализация матричного разложения. | ||
+ | |||
+ | '''Примеры прикладных задач''' | ||
+ | * Поиск этно-релевантных тем в социальных сетях. | ||
+ | * Анализ программ развития российских вузов. | ||
+ | * Поиск и рубрикация научных статей на 100 языках. | ||
+ | * Проекты Школы Прикладного Анализа Данных. | ||
+ | |||
+ | '''Анализ требований к «Тематизатору»''' | ||
+ | * Функциональные требования. | ||
+ | * Требования к интерпретируемости. | ||
+ | * Основной пользовательский сценарий: Загрузка, Предобработка, Моделирование, Визуализация, Коррекция. | ||
+ | * Этапизация работ. | ||
+ | |||
+ | == Онлайновый ЕМ-алгоритм и регуляризаторы == | ||
+ | Презентация: [[Media:Voron23ptm-regular.pdf|(PDF, 1,3 МБ)]] {{важно|— обновление 21.09.2023}}. | ||
+ | [https://www.youtube.com/live/wq7MlvWph3s?si=38czCY8IbWNYSUVw Видеозапись 2022 г.] Дополнение: | ||
+ | [https://youtu.be/LctW1J93lmw?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись 2023 г.] | ||
'''Онлайновый ЕМ-алгоритм.''' | '''Онлайновый ЕМ-алгоритм.''' | ||
Строка 58: | Строка 81: | ||
* Эксперименты на синтетических и реальных данных. | * Эксперименты на синтетических и реальных данных. | ||
* Сравнение с байесовской моделью HDP (Hierarchical Dirichlet Process). | * Сравнение с байесовской моделью HDP (Hierarchical Dirichlet Process). | ||
- | * Эффект отбрасывания малых, дублирующих и линейно зависимых тем. | + | * Эффект отбрасывания малых, дублирующих и линейно зависимых тем. |
== Разведочный информационный поиск == | == Разведочный информационный поиск == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-exp.pdf|(PDF, 2,5 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/GzjQHdWYYBI?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Разведочный информационный поиск.''' | '''Разведочный информационный поиск.''' | ||
Строка 81: | Строка 104: | ||
== Оценивание качества тематических моделей == | == Оценивание качества тематических моделей == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-quality.pdf|(PDF, 1,3 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/udJ3qsMkwJc?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Измерение качества тематических моделей.''' | '''Измерение качества тематических моделей.''' | ||
* Правдоподобие и перплексия. | * Правдоподобие и перплексия. | ||
- | * Интерпретируемость и когерентность. | + | * Интерпретируемость и когерентность. Внутритекстовая когерентность. |
* Разреженность и различность. | * Разреженность и различность. | ||
'''Эксперименты с регуляризацией.''' | '''Эксперименты с регуляризацией.''' | ||
- | * | + | * Регуляризаторы сглаживания, разреживания, декоррелирования и отбора тем. |
- | * | + | * Комбинирование регуляризаторов, эмпирические рекомендации. |
+ | * Задача планирования экспериментов для подбора гиперпараметров. | ||
'''Проверка гипотезы условной независимости.''' | '''Проверка гипотезы условной независимости.''' | ||
Строка 98: | Строка 122: | ||
* Применение статистических тестов условной независимости. | * Применение статистических тестов условной независимости. | ||
- | == | + | == BigARTM и базовые инструменты == |
''Мурат Апишев''. | ''Мурат Апишев''. | ||
Презентация: [[Media:Base_instruments.zip|(zip, 0,6 МБ)]] {{важно|— обновление 17.02.2017}}. | Презентация: [[Media:Base_instruments.zip|(zip, 0,6 МБ)]] {{важно|— обновление 17.02.2017}}. | ||
Строка 122: | Строка 146: | ||
== Теория ЕМ-алгоритма == | == Теория ЕМ-алгоритма == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-emlda.pdf|(PDF, 1,3 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/svQTYv0X2cs?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Классические модели PLSA, LDA.''' | '''Классические модели PLSA, LDA.''' | ||
Строка 141: | Строка 165: | ||
== Байесовское обучение модели LDA == | == Байесовское обучение модели LDA == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-bayes.pdf|(PDF, 1,5 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/bPUHRCGJMow?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Вариационный байесовский вывод.''' | '''Вариационный байесовский вывод.''' | ||
Строка 161: | Строка 185: | ||
== Тематические модели сочетаемости слов == | == Тематические модели сочетаемости слов == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-cooc.pdf|(PDF, 1,7 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/khDdc6OvEHc?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Мультиграммные модели.''' | '''Мультиграммные модели.''' | ||
Строка 171: | Строка 195: | ||
'''Автоматическое выделение терминов.''' | '''Автоматическое выделение терминов.''' | ||
* Алгоритм TopMine для быстрого поиска частых фраз. Критерии выделения коллокаций. | * Алгоритм TopMine для быстрого поиска частых фраз. Критерии выделения коллокаций. | ||
- | * Синтаксический разбор. | + | * Синтаксический разбор. Нейросетевые синтаксические анализаторы SyntaxNet, UDpipe. |
* Критерии тематичности фраз. | * Критерии тематичности фраз. | ||
* Комбинирование синтаксической, статистической и тематической фильтрации фраз. | * Комбинирование синтаксической, статистической и тематической фильтрации фраз. | ||
Строка 186: | Строка 210: | ||
== Анализ зависимостей == | == Анализ зависимостей == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-rel.pdf|(PDF, 1,7 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/uKCMr9yK3gw?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Зависимости, корреляции, связи.''' | '''Зависимости, корреляции, связи.''' | ||
Строка 205: | Строка 229: | ||
== Мультимодальные тематические модели == | == Мультимодальные тематические модели == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-modal.pdf|(PDF, 2,7 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/AfwH0A3NJCQ?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
'''Мультиязычные тематические модели.''' | '''Мультиязычные тематические модели.''' | ||
Строка 222: | Строка 246: | ||
* Гиперграфовая модель ARTM. Теорема о необходимом условии максимума регуляризованного правдоподобия. | * Гиперграфовая модель ARTM. Теорема о необходимом условии максимума регуляризованного правдоподобия. | ||
* Транзакционные данные в рекомендательных системах. Симметризованная гиперграфовая модель ARTM. | * Транзакционные данные в рекомендательных системах. Симметризованная гиперграфовая модель ARTM. | ||
+ | * Тематическая модель предложений и модель коротких сообщений Twitter-LDA. | ||
* Анализ транзакционных данных для выявления паттернов экономического поведения клиентов банка. '''[https://youtu.be/0q5p7xP4cdA?t=15168 Видео]'''. | * Анализ транзакционных данных для выявления паттернов экономического поведения клиентов банка. '''[https://youtu.be/0q5p7xP4cdA?t=15168 Видео]'''. | ||
* Анализ банковских транзакционных данных для выявления видов деятельности компаний. | * Анализ банковских транзакционных данных для выявления видов деятельности компаний. | ||
== Моделирование локального контекста == | == Моделирование локального контекста == | ||
- | Презентация: [[Media: | + | Презентация: [[Media:Voron23ptm-segm.pdf|(PDF, 2,2 МБ)]] {{важно|— обновление 06.12.2023}}. |
- | [https://youtu.be/ | + | [https://youtu.be/KHamaJ6Zf6o?list=PLk4h7dmY2eYE_JjvexGUS5MSozoxDFovp Видеозапись] |
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
'''Тематическая сегментация.''' | '''Тематическая сегментация.''' | ||
Строка 238: | Строка 258: | ||
* Критерии качества сегментации. | * Критерии качества сегментации. | ||
* Оптимизация параметров модели TopicTiling. | * Оптимизация параметров модели TopicTiling. | ||
+ | |||
+ | '''Тематическое моделирование связного текста''' | ||
+ | * Линейная тематизация текста за один проход без матрицы <tex>\Theta</tex>. | ||
+ | * Локализация E-шага. Сравнение с моделью внимания self-attention. | ||
+ | * Двунаправленная тематическая модель контекста. | ||
'''Позиционный регуляризатор в ARTM.''' | '''Позиционный регуляризатор в ARTM.''' | ||
Строка 244: | Строка 269: | ||
* Примеры регуляризаторов Е-шага. Разреживание распределения p(t|d,w). Сглаживание тематики слов по контексту. | * Примеры регуляризаторов Е-шага. Разреживание распределения p(t|d,w). Сглаживание тематики слов по контексту. | ||
- | + | == Именование и суммаризация тем == | |
- | + | Презентация: [[Media:Voron23ptm-sum.pdf|(PDF, 4,3 МБ)]] {{важно|— обновление 04.05.2024}}. | |
- | + | [https://youtu.be/nShxhkPbGWY Видеозапись] | |
- | + | ||
- | + | ||
- | == | + | |
- | Презентация: [[Media: | + | |
- | + | ||
- | + | ||
- | + | ||
- | [https://youtu.be/ | + | |
'''Методы суммаризации текстов.''' | '''Методы суммаризации текстов.''' | ||
Строка 267: | Строка 284: | ||
* Оценивание качества именования тем. | * Оценивание качества именования тем. | ||
- | ''' | + | '''Задача суммаризации темы''' |
- | * | + | * Задача ранжирования документов |
- | * | + | * Задача фильтрации репрезентативных релевантных фраз. |
- | * | + | * Задача генерации связного текста |
- | + | ||
- | + | ||
=Отчетность по курсу= | =Отчетность по курсу= | ||
Условием сдачи курса является выполнение индивидуальных практических заданий. | Условием сдачи курса является выполнение индивидуальных практических заданий. | ||
- | '''Рекомендуемая структура отчёта об исследовании | + | '''Рекомендуемая структура отчёта об исследовании:''' |
* Постановка задачи: неформальное описание, ДНК (дано–найти–критерий), структура данных | * Постановка задачи: неформальное описание, ДНК (дано–найти–критерий), структура данных | ||
* Описание простого решения baseline | * Описание простого решения baseline | ||
Строка 295: | Строка 310: | ||
=Литература= | =Литература= | ||
- | # ''Воронцов К. В.'' [[Media:voron17survey-artm.pdf| | + | # ''Воронцов К. В.'' [[Media:voron17survey-artm.pdf|Вероятностное тематическое моделирование: теория регуляризации ARTM и библиотека с открытым кодом BigARTM]]. 2023. |
# ''Hamed Jelodar, Yongli Wang, Chi Yuan, Xia Feng.'' [https://arxiv.org/ftp/arxiv/papers/1711/1711.04305.pdf Latent Dirichlet Allocation (LDA) and Topic modeling: models, applications, a survey]. 2017. | # ''Hamed Jelodar, Yongli Wang, Chi Yuan, Xia Feng.'' [https://arxiv.org/ftp/arxiv/papers/1711/1711.04305.pdf Latent Dirichlet Allocation (LDA) and Topic modeling: models, applications, a survey]. 2017. | ||
# ''Hofmann T.'' Probabilistic latent semantic indexing // Proceedings of the 22nd annual international ACM SIGIR conference on Research and development in information retrieval. — New York, NY, USA: ACM, 1999. — Pp. 50–57. | # ''Hofmann T.'' Probabilistic latent semantic indexing // Proceedings of the 22nd annual international ACM SIGIR conference on Research and development in information retrieval. — New York, NY, USA: ACM, 1999. — Pp. 50–57. | ||
# ''Blei D. M., Ng A. Y., Jordan M. I.'' Latent Dirichlet allocation // Journal of Machine Learning Research. — 2003. — Vol. 3. — Pp. 993–1022. | # ''Blei D. M., Ng A. Y., Jordan M. I.'' Latent Dirichlet allocation // Journal of Machine Learning Research. — 2003. — Vol. 3. — Pp. 993–1022. | ||
# ''Asuncion A., Welling M., Smyth P., Teh Y. W.'' On smoothing and inference for topic models // Proceedings of the International Conference on Uncertainty in Artificial Intelligence. — 2009. | # ''Asuncion A., Welling M., Smyth P., Teh Y. W.'' On smoothing and inference for topic models // Proceedings of the International Conference on Uncertainty in Artificial Intelligence. — 2009. | ||
- | |||
<!-- | <!-- | ||
+ | # ''Янина А. О., Воронцов К. В.'' [http://jmlda.org/papers/doc/2016/no2/Ianina2016Multimodal.pdf Мультимодальные тематические модели для разведочного поиска в коллективном блоге] // Машинное обучение и анализ данных. 2016. T.2. №2. С.173-186. | ||
# ''Воронцов К.В.'' Тематическое моделирование в BigARTM: теория, алгоритмы, приложения. [[Media:Voron-2015-BigARTM.pdf|Voron-2015-BigARTM.pdf]]. | # ''Воронцов К.В.'' Тематическое моделирование в BigARTM: теория, алгоритмы, приложения. [[Media:Voron-2015-BigARTM.pdf|Voron-2015-BigARTM.pdf]]. | ||
# ''Воронцов К.В.'' Лекции по тематическому моделированию. [[Media:Voron-2013-ptm.pdf|Voron-2013-ptm.pdf]]. | # ''Воронцов К.В.'' Лекции по тематическому моделированию. [[Media:Voron-2013-ptm.pdf|Voron-2013-ptm.pdf]]. | ||
Строка 343: | Строка 358: | ||
<!--------------------------------------------------- | <!--------------------------------------------------- | ||
- | ''' | + | '''Модели связного текста.''' |
- | * | + | * Контекстная документная кластеризация (CDC). |
- | * | + | * Метод лексических цепочек. |
- | + | ||
+ | '''Инициализация.''' | ||
+ | * Случайная инициализация. Инициализация по документам. | ||
+ | * Контекстная документная кластеризация. | ||
+ | * Поиск якорных слов. Алгоритм Ароры. | ||
'''Расширяемые тематические модели.''' | '''Расширяемые тематические модели.''' | ||
Строка 369: | Строка 387: | ||
== Инициализация, траектория регуляризации, тесты адекватности == | == Инициализация, траектория регуляризации, тесты адекватности == | ||
Презентация: [[Media:Voron-PTM-10.pdf|(PDF, Х,Х МБ)]] {{важно|— обновление ХХ.ХХ.2016}}. | Презентация: [[Media:Voron-PTM-10.pdf|(PDF, Х,Х МБ)]] {{важно|— обновление ХХ.ХХ.2016}}. | ||
- | |||
- | |||
- | |||
- | |||
- | |||
'''Траектория регуляризации.''' | '''Траектория регуляризации.''' |
Текущая версия
Спецкурс читается студентам 2—5 курсов на кафедре «Математические методы прогнозирования» ВМиК МГУ с 2013 года и студентам 6 курса на кафедре «Интеллектуальные системы» ФУПМ МФТИ с 2019 года.
В спецкурсе изучается вероятностное тематическое моделирование (topic modeling) коллекций текстовых документов. Тематическая модель определяет, какие темы содержатся в большой текстовой коллекции, и к каким темам относится каждый документ. Тематические модели позволяют искать тексты по смыслу, а не по ключевым словам, и создавать информационно-поисковые системы нового поколения, основанные на парадигме семантического разведочного поиска (exploratory search). Рассматриваются тематические модели для классификации, категоризации, сегментации, суммаризации текстов естественного языка, а также для рекомендательных систем, анализа банковских транзакционных данных, анализа биомедицинских сигналов. В спецкурсе развивается многокритериальный подход к построению моделей с заданными свойствами — аддитивная регуляризация тематических моделей (АРТМ). Он основан на регуляризации некорректно поставленных задач стохастического матричного разложения. Особое внимание уделяется методам лингвистической регуляризации для моделирования связности текста. Предполагается проведение студентами численных экспериментов на модельных и реальных данных с помощью библиотеки тематического моделирования BigARTM.
От студентов требуются знания курсов линейной алгебры, математического анализа, теории вероятностей. Знание математической статистики, методов оптимизации, машинного обучения, языков программирования Python и С++ желательно, но не обязательно.
Краткая ссылка на эту страницу: bit.ly/2EGWcjA.
Основной материал:
- Воронцов К. В. Вероятностное тематическое моделирование: теория регуляризации ARTM и библиотека с открытым кодом BigARTM. — обновление 26.06.2023.
- Видеозаписи, 2023 осень (МФТИ).
Программа курса
Задача тематического моделирования
Презентация: (PDF, 1,4 МБ) — обновление 19.09.2024. Видеозапись
Цели и задачи тематического моделирования.
- Понятие «темы», цели и задачи тематического моделирования.
- Вероятностная модель порождения текста.
- EM-алгоритм и его элементарная интерпретация. Формула Байеса и частотные оценки условных вероятностей.
- Принцип максимума правдоподобия.
Аддитивная регуляризация тематических моделей.
- Понятие некорректно поставленной задачи по Адамару. Регуляризация.
- Лемма о максимизации на единичных симплексах. Условия Каруша–Куна–Таккера.
- Теорема о необходимом условии максимума регуляризованного правдоподобия для ARTM.
- Классические тематические модели PLSA и LDA как частные случаи ARTM.
Практика тематического моделирования.
- Проект с открытым кодом BigARTM.
- Этапы решения практических задач.
- Методы предварительной обработки текста.
- Датасеты и практические задания по курсу.
Проект «Тематизатор»
Презентация: (PDF, 6,2 МБ) — обновление 21.09.2023. Видеозапись
Визуализация тематических моделей
- Концепция distant reading.
- Карты знаний, иерархии, взаимосвязи, динамика, сегментация.
- Спектр тем.
- Визуализация матричного разложения.
Примеры прикладных задач
- Поиск этно-релевантных тем в социальных сетях.
- Анализ программ развития российских вузов.
- Поиск и рубрикация научных статей на 100 языках.
- Проекты Школы Прикладного Анализа Данных.
Анализ требований к «Тематизатору»
- Функциональные требования.
- Требования к интерпретируемости.
- Основной пользовательский сценарий: Загрузка, Предобработка, Моделирование, Визуализация, Коррекция.
- Этапизация работ.
Онлайновый ЕМ-алгоритм и регуляризаторы
Презентация: (PDF, 1,3 МБ) — обновление 21.09.2023. Видеозапись 2022 г. Дополнение: Видеозапись 2023 г.
Онлайновый ЕМ-алгоритм.
- Рациональный ЕМ-алгоритм (встраивание Е-шага внутрь М-шага).
- Оффлайновый регуляризованный EM-алгоритм.
- Онлайновый пакетный мультимодальный регуляризованный EM-алгоритм. Распараллеливание.
- Как подбирать коэффициенты регуляризации.
- Относительные коэффициенты регуляризации.
- Библиотеки BigARTM и TopicNet.
Часто используемые регуляризаторы.
- Сглаживание и разреживание.
- Частичное обучение.
- Декоррелирование тем.
Проблема определения числа тем.
- Разреживающий регуляризатор для отбора тем.
- Эксперименты на синтетических и реальных данных.
- Сравнение с байесовской моделью HDP (Hierarchical Dirichlet Process).
- Эффект отбрасывания малых, дублирующих и линейно зависимых тем.
Разведочный информационный поиск
Презентация: (PDF, 2,5 МБ) — обновление 06.12.2023. Видеозапись
Разведочный информационный поиск.
- Концепция разведочного поиска.
- Особенности разведочного поиска.
- Поисково-рекомендательная система SciSarch.AI
Иерархические тематические модели.
- Иерархии тем. Послойное построение иерархии.
- Регуляризаторы для разделения тем на подтемы.
- Псевдодокументы родительских тем.
- Модальность родительских тем.
Эксперименты с тематическим поиском.
- Методика измерения качества поиска.
- Тематическая модель для документного поиска.
- Оптимизация гиперпараметров.
Оценивание качества тематических моделей
Презентация: (PDF, 1,3 МБ) — обновление 06.12.2023. Видеозапись
Измерение качества тематических моделей.
- Правдоподобие и перплексия.
- Интерпретируемость и когерентность. Внутритекстовая когерентность.
- Разреженность и различность.
Эксперименты с регуляризацией.
- Регуляризаторы сглаживания, разреживания, декоррелирования и отбора тем.
- Комбинирование регуляризаторов, эмпирические рекомендации.
- Задача планирования экспериментов для подбора гиперпараметров.
Проверка гипотезы условной независимости.
- Статистики на основе KL-дивергенции и их обобщения.
- Регуляризатор семантической однородности.
- Применение статистических тестов условной независимости.
BigARTM и базовые инструменты
Мурат Апишев. Презентация: (zip, 0,6 МБ) — обновление 17.02.2017. Видеозапись
Предварительная обработка текстов
- Парсинг «сырых» данных.
- Токенизация, стемминг и лемматизация.
- Выделение энграмм.
- Законы Ципфа и Хипса. Фильтрация словаря коллекции. Удаление стоп-слов.
Библиотека BigARTM
- Методологические рекоммендации по проведению экспериментов.
- Установка BigARTM.
- Формат и импорт входных данных.
- Обучение простой модели (без регуляризации): создание, инициализация, настройка и оценивание модели.
- Инструмент визуализации тематических моделей VisARTM. Основные возможности, демонстрация работы.
Дополнительный материал:
- Презентация: (PDF, 1,5 МБ) — обновление 17.03.2017.
- Видео — обновление 22.03.2017.
- Воркшоп по BigARTM на DataFest'4. Видео.
Теория ЕМ-алгоритма
Презентация: (PDF, 1,3 МБ) — обновление 06.12.2023. Видеозапись
Классические модели PLSA, LDA.
- Модель PLSA.
- Модель LDA. Распределение Дирихле и его свойства.
- Максимизация апостериорной вероятности для модели LDA.
Общий EM-алгоритм.
- EM-алгоритм для максимизации неполного правдоподобия.
- Регуляризованный EM-алгоритм. Сходимость в слабом смысле.
- Альтернативный вывод формул ARTM.
Эксперименты с моделями PLSA, LDA.
- Проблема неустойчивости (на синтетических данных).
- Проблема неустойчивости (на реальных данных).
- Проблема переобучения и робастные модели.
Байесовское обучение модели LDA
Презентация: (PDF, 1,5 МБ) — обновление 06.12.2023. Видеозапись
Вариационный байесовский вывод.
- Основная теорема вариационного байесовского вывода.
- Вариационный байесовский вывод для модели LDA.
- VB ЕМ-алгоритм для модели LDA.
Сэмплирование Гиббса.
- Основная теорема о сэмплировании Гиббса.
- Сэмплирование Гиббса для модели LDA.
- GS ЕМ-алгоритм для модели LDA.
Замечания о байесовском подходе.
- Оптимизация гиперпараметров в LDA.
- Графическая нотация (plate notation). Stop using plate notation.
- Сравнение байесовского подхода и ARTM.
- Как читать статьи по баейсовским моделям и строить эквивалентные ARTM-модели.
Тематические модели сочетаемости слов
Презентация: (PDF, 1,7 МБ) — обновление 06.12.2023. Видеозапись
Мультиграммные модели.
- Модель BigramTM.
- Модель Topical N-grams (TNG).
- Мультимодальная мультиграммная модель.
Автоматическое выделение терминов.
- Алгоритм TopMine для быстрого поиска частых фраз. Критерии выделения коллокаций.
- Синтаксический разбор. Нейросетевые синтаксические анализаторы SyntaxNet, UDpipe.
- Критерии тематичности фраз.
- Комбинирование синтаксической, статистической и тематической фильтрации фраз.
Тематические модели дистрибутивной семантики.
- Дистрибутивная гипотеза. Модели CBOW и SGNS в программе word2vec.
- Модель битермов BTM (Biterm Topic Model) для тематизации коллекций коротких текстов.
- Модели WNTM (Word Network Topic Model) и WTM (Word Topic Model). Связь с моделью word2vec.
- Регуляризаторы когерентности.
Дополнительный материал:
- Потапенко А. А. Векторные представления слов и документов. DataFest'4. Видео.
Анализ зависимостей
Презентация: (PDF, 1,7 МБ) — обновление 06.12.2023. Видеозапись
Зависимости, корреляции, связи.
- Тематические модели классификации и регрессии.
- Модель коррелированных тем CTM (Correlated Topic Model).
- Регуляризаторы гиперссылок и цитирования. Выявление тематических влияний в научных публикациях.
Время и пространство.
- Регуляризаторы времени.
- Обнаружение и отслеживание тем.
- Гео-пространственные модели.
Социальные сети.
- Сфокусированный поиск в социальных медиа (пример: поиск этно-релевантного контента).
- Выявление тематических сообществ. Регуляризаторы для направленных и ненаправленных связей.
- Регуляризаторы для выявления социальных ролей пользователей.
Мультимодальные тематические модели
Презентация: (PDF, 2,7 МБ) — обновление 06.12.2023. Видеозапись
Мультиязычные тематические модели.
- Параллельные и сравнимые коллекции.
- Регуляризаторы для учёта двуязычных словарей.
- Кросс-язычный информационный поиск.
Трёхматричные модели.
- Модели трёхматричных разложений. Понятие порождающей модальности.
- Автор-тематическая модель (author-topic model).
- Модель для выделения поведений объектов в видеопотоке.
Тематические модели транзакционных данных.
- Примеры транзакционных данных в рекомендательных системах, социальных и рекламных сетях.
- Гиперграфовая модель ARTM. Теорема о необходимом условии максимума регуляризованного правдоподобия.
- Транзакционные данные в рекомендательных системах. Симметризованная гиперграфовая модель ARTM.
- Тематическая модель предложений и модель коротких сообщений Twitter-LDA.
- Анализ транзакционных данных для выявления паттернов экономического поведения клиентов банка. Видео.
- Анализ банковских транзакционных данных для выявления видов деятельности компаний.
Моделирование локального контекста
Презентация: (PDF, 2,2 МБ) — обновление 06.12.2023. Видеозапись
Тематическая сегментация.
- Метод TopicTiling. Критерии определения границ сегментов.
- Критерии качества сегментации.
- Оптимизация параметров модели TopicTiling.
Тематическое моделирование связного текста
- Линейная тематизация текста за один проход без матрицы
.
- Локализация E-шага. Сравнение с моделью внимания self-attention.
- Двунаправленная тематическая модель контекста.
Позиционный регуляризатор в ARTM.
- Гипотеза о сегментной структуре текста.
- Регуляризация и пост-обработка Е-шага. Формулы М-шага.
- Примеры регуляризаторов Е-шага. Разреживание распределения p(t|d,w). Сглаживание тематики слов по контексту.
Именование и суммаризация тем
Презентация: (PDF, 4,3 МБ) — обновление 04.05.2024. Видеозапись
Методы суммаризации текстов.
- Задачи автоматической суммаризации текстов. Подходы к суммаризации: extractive и abstractive.
- Оценивание и отбор предложений для суммаризации. Релаксационный метод для многокритериальной дискретной оптимизации.
- Тематическая модель предложений для суммаризации.
- Критерии качества суммаризации. Метрики ROUGE, BLUE.
Автоматическое именование тем (topic labeling).
- Формирование названий-кандидатов.
- Релевантность, покрытие, различность.
- Оценивание качества именования тем.
Задача суммаризации темы
- Задача ранжирования документов
- Задача фильтрации репрезентативных релевантных фраз.
- Задача генерации связного текста
Отчетность по курсу
Условием сдачи курса является выполнение индивидуальных практических заданий.
Рекомендуемая структура отчёта об исследовании:
- Постановка задачи: неформальное описание, ДНК (дано–найти–критерий), структура данных
- Описание простого решения baseline
- Описание основного решения и его вариантов
- Описание набора данных и методики экспериментов
- Результаты экспериментов по подбору гиперпараметров основного решения
- Результаты экспериментов по сравнению основного решения с baseline
- Примеры визуализации модели
- Выводы: что работает, что не работает, инсайты
- Ссылка на код
Примеры отчётов:
Литература
- Воронцов К. В. Вероятностное тематическое моделирование: теория регуляризации ARTM и библиотека с открытым кодом BigARTM. 2023.
- Hamed Jelodar, Yongli Wang, Chi Yuan, Xia Feng. Latent Dirichlet Allocation (LDA) and Topic modeling: models, applications, a survey. 2017.
- Hofmann T. Probabilistic latent semantic indexing // Proceedings of the 22nd annual international ACM SIGIR conference on Research and development in information retrieval. — New York, NY, USA: ACM, 1999. — Pp. 50–57.
- Blei D. M., Ng A. Y., Jordan M. I. Latent Dirichlet allocation // Journal of Machine Learning Research. — 2003. — Vol. 3. — Pp. 993–1022.
- Asuncion A., Welling M., Smyth P., Teh Y. W. On smoothing and inference for topic models // Proceedings of the International Conference on Uncertainty in Artificial Intelligence. — 2009.
Ссылки
- Тематическое моделирование
- Аддитивная регуляризация тематических моделей
- Коллекции документов для тематического моделирования
- BigARTM
- Видеозапись лекции на ТМШ, 19 июня 2015
- Воронцов К.В. Практическое задание по тематическому моделированию, 2014.
Материалы для первого ознакомления:
- Тематический анализ больших данных. Краткое популярное введение в BigARTM.
- Разведочный информационный поиск. Видеолекция на ПостНауке.
- Тематическое моделирование. FAQ на ПостНауке, совместно с Корпоративным университетом Сбербанка.
- Байесовская и классическая регуляризация в вероятностном тематическом моделировании. Научно-образовательный семинар «Актуальные проблемы прикладной математики» Новосибирского Государственного Университета, 19 февраля 2021. Презентация.
- Тематическое моделирование на пути к разведочному информационному поиску. Лекция на DataFest3, 10 сентября 2016. Видеозапись.
Подстраницы
Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2015 | Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2016 | Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2017 |
Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2018 | Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2019, ВМК | Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2020 |
Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2021 |