Участник:Vokov

|[[Изображение:VorontsovFace.jpg]]   

к.ф.-м.н.

Зам. директора по науке [[Компания Forecsys|ЗАО «Форексис»]], [http://www.forecsys.ru www.forecsys.ru].

С.н.с. [[Вычислительный центр РАН|Вычислительного центра РАН]].

Зам. зав. каф. «[[Интеллектуальные системы (кафедра МФТИ)|Интеллектуальные системы]]» [[ФУПМ]] [[МФТИ]].

Доц. каф. «[[Математические методы прогнозирования (кафедра ВМиК МГУ)|Математические методы прогнозирования]]» [[ВМиК МГУ]].

Один из идеологов и [[ML:АДМ|Администраторов]] ресурса '''MachineLearning.RU'''.

 

Прочие подробности — на подстранице '''[[Участник:Vokov/CV|Curriculum vitæ]]'''.

* [[Машинное обучение (курс лекций, К.В.Воронцов)|Математические методы обучения по прецедентам (машинное обучение)]], годовой курс, [[Интеллектуальные системы (кафедра МФТИ)|кафедра «Интеллектуальные системы»]] [[ФУПМ]] [[МФТИ]] и [[Математические методы прогнозирования (кафедра ВМиК МГУ)|кафедра ММП]] [[ВМиК МГУ]].

* [[Теория надёжности обучения по прецедентам (курс лекций, К.В.Воронцов)|Теория надёжности обучения по прецедентам]], спецкурс, [[Математические методы прогнозирования (кафедра ВМиК МГУ)|кафедра ММП]] [[ВМиК МГУ]].

* [[Статистический анализ данных (курс лекций, К.В.Воронцов)|Прикладной статистический анализ данных]], семестровый курс, [[Математические методы прогнозирования (кафедра ВМиК МГУ)|кафедра ММП]] [[ВМиК МГУ]].

 

* [[Задачи анализа данных в бизнес-аналитике (семинар К. В. Воронцова)]]

* [[Семинар К. В. Рудакова]] — регулярный '''не виртуальный''' семинар (следите за объявлениями!)

* [[Анализ клиентских сред и коллаборативная фильтрация (виртуальный семинар)]]

=== Методические рекомендации для преподавателей ===

== Диссертация ==

Защита состоялась 22 апреля 2010 года в [[ВЦ РАН]]. Учёный совет квалифицировал работу как ''новое направление'' в теории статистического обучения.

[[Медиа:Voron10doct-autoref.pdf|Текст автореферата]].

Замечания, вопросы, найденные ошибки и опечатки, пожалуйста, [[Служебная:EmailUser/Vokov|присылайте по почте]].

Дискуссию можно вести в обсуждении страниц [[Расслоение и сходство алгоритмов (виртуальный семинар)]] и [[Слабая вероятностная аксиоматика]].

== Выступления на конференциях и семинарах ==

* 20 октября 2010. Точные комбинаторные оценки обобщающей способности онлайнового обучения. Конференция [[Интеллектуализация обработки информации (конференция)|ИОИ-8]] '''[[Медиа:Voron10iip8.pdf|(PDF, 1.2 MБ)]]'''.

* 18 октября 2010. Комбинаторный подход к выводу точных оценок вероятности переобучения. Конференция [[Интеллектуализация обработки информации (конференция)|ИОИ-8]] '''[[Медиа:VoronReshetnyak10iip8.pdf|(PDF, 400 KБ)]]'''.

* 22 апреля 2010. Комбинаторная теория надёжности обучения по прецедентам. Защита докторской диссертации. '''[[Медиа:Voron10doct-slides.pdf|(PDF, 1760 КБ)]]'''.

* 27 июля 2009. Методы машинного обучения, основанные на индукции правил (логические методы классификации). Доклад на семинаре [http://www.iis.nsk.su/news/conferences/20090303_elsewhere/index_e.shtml Знания и онтологии ELSEWHWRE], Москва, [[Высшая школа экономики|ВШЭ]]. '''[[Media:slides-Logic(elsewhere-2009).pdf|(PDF, 1202 КБ)]]'''.

* 10 ноября 2008. Методы коллаборативной фильтрации и их применение. Выступление на семинаре Б.Г.Миркина, [[Высшая школа экономики|ВШЭ]]. '''[[Media:Voron-2008-11-10-cf.pdf|(PDF, 1083 КБ)]]'''.

* 12 июня 2008. Слабая вероятностная аксиоматика, оценки надёжности эмпирических предсказаний, расслоение и различность алгоритмов. Конференция [[ИОИ|ИОИ-2008]], Крым, Алушта. '''[[Media:VoronBeam-IOI-2008.pdf|(PDF, 950 КБ)]]'''

* 28 апреля 2008. [[Участник:Vokov/Некоторые задачи интеллектуального анализа данных (лекция)|О некоторых задачах интеллектуального анализа данных]] — одна лекция в рамках курса «Современные проблемы прикладной математики» для студентов 5 курса [[ВМиК МГУ]]. '''[[Media:VokovLectureMMP-2008.pdf|(PDF, 764Кб)]]'''.

* 28 апреля 2008. Ломоносовские чтения 2008. Оценки надёжности эмпирических предсказаний (комбинаторный подход). '''[[Media:VoronBeam2008-04-18.pdf|(PDF, 804 КБ)]]'''.

* 20 august 2007. 7th Open German/Russian Workshop (OGRW-7) on Pattern Recognition and Image Understanding, Ettlingen, Germany. Combinatorial Approach to Generalization Bounds Tightening. '''[[Media:VoronBeam2007-08-20.pdf|(PDF, 1895 KБ, на английском)]]'''.

* 5 ноября 2005. [[ММРО]]-12. Измерение локальной эффективной функции роста в задачах поиска логических закономерностей. '''[[Media:Voron-MMPO12-present.pdf|(PDF, 285 КБ)]]''', вместе с речью — '''[[Media:Voron-MMPO12-speach.pdf|(PDF, 308 КБ)]]'''.

Всё, что скрывается за терминами «[[интеллектуальный анализ данных]]» (data mining) и «[[машинное обучение]]» (machine learning):

[[Методы оптимизации|численные методы оптимизации]].

Практический анализ данных в разнообразных областях

([[Приложения в экономике|экономика]],

[[Приложения в медицине|медицина]],

Проблема [[обобщающая способность|обобщающей способности]] является ключевой и в то же время наиболее сложной в машинном обучении.

Если алгоритм обучен по конечной [[выборка|выборке]] [[прецедент]]ов, то как предсказать качество его работы на новых прецедентах?

Активное исследование этих вопросов началось в конце 60-х, когда В.Н.Вапник и А.Я.Червоненкис предложили [[теория Вапника-Червоненкиса|статистическую теорию восстановления зависимостей по эмпирическим данным]] и получили верхние оценки вероятности ошибки обученного алгоритма.

[[Медиа:Voron10doct.pdf|Комбинаторная теория переобучения]] — это принципиально новый подход,

впервые позволивший получить точные (не завышенные, не асимптотические) оценки [[Вероятность переобучения|вероятности переобучения]]

Пока что полученные оценки не могут быть непосредственно применены на практике.

либо относятся к модельным семействам алгоритмов,

либо являются ненаблюдаемыми (их вычисление требует знания будущих контрольных данных),

либо численно неэффективны (их вычисление требует неадекватно больших затрат времени).

Доведение комбинаторной теории переобучения до уровня практической применимости представляется вполне реалистичным, но требует дополнительных исследований.

Основные направления дальнейших исследований:

overfitting, generalization ability, computational learning theory, Vapnik-Chervonenkis theory, local Rademacher complexity.

Именно её и имеет смысл предсказывать.

рассматривается конечная выборка ''неслучайных объектов'', которые появляются в ''случайном порядке''.

В слабой аксиоматике удаётся переформулировать значительную часть фундаментальных результатов теории вероятностей математической статистики, оносящихся к конечным выборкам независимых наблюдений. В их числе: [[закон больших чисел]], закон сходимости эмпирических распределений ([[критерий Смирнова]]), многие [[непараметрические статистические тесты|непараметрические]], [[ранговые статистические тесты|ранговые]] и [[перестановочные статистические тесты|перестановочные]] статические критерии, теория [[Обобщающая способность|обобщающей способности]], [[теория информации]]. Во многих случаях получаемые оценки являются точными, т.е. не асимптотическими и не завышенными. Однако для их вычисления может потребоваться разработка специальных эффективных алгоритмов.

Основные направления исследований:

* множественное тестирование статистических гипотез.

Ключевые слова:

=== Алгоритмические композиции ===

Самый простой пример композиции — усреднение ответов, выдаваемых базовыми алгоритмами.

Можно выделять [[область компетентности|области компетентности]] различных алгоритмов, и в каждой области использовать свое распределение весов.

Как обучать базовые алгоритмы, учитывая, что они будут работать не по-отдельности, а в составе композиции?

Как оценивать и целенаправленно улучшать обобщающую способность композиции?

В зарубежных исследованиях это тема стала чрезвычайно популярной в 90-е годы, после изобретения алгоритмов [[бустинг]]а, [[бэггинг]]а, [[смесь экспертов|смесей экспертов]] и других композитных конструкций.

Основные направления исследований:

* разработка эффективных алгоритмов построения композиций;

* монотонная коррекция классификаторов на основе комбинаторных оценок [[Полный скользящий контроль|полного скользящего контроля]].

* композиции алгоритмов [[прогнозирование|прогнозирования]];

* сравнительный анализ различных методов построения композиций.

Ключевые слова:

multiple classifier systems, ensemble learning, classifier fusion, mixture of experts.

 

=== Анализ клиентских сред и коллаборативная фильтрация ===

Один из типичных примеров клиентской среды — интернет-портал, предоставляющий доступ к большому количеству ресурсов, скажем, интернет-магазин или поисковый сервер.

Технология АКС позволяет решать задачи персонализации контента — когда результаты поиска, информационные каталоги, предложения товаров и услуг, и т.д. выстраиваются в таком порядке, чтобы пользователю легче было находить информацию, необходимую именно ему, именно в данный момент.

Основные направления исследований:

* разработка эффективных алгоритмов АКС и [[коллаборативная фильтрация|коллаборативной фильтрации]], позволяющих строить иерархические хорошо интерпретируемые профили клиентов и ресурсов в условиях динамичного потока исходных данных;

* решение задач [[персонализация|персонализации]];

Ключевые слова:

collaborative filtering, recommender systems, personalization, web mining, web usage mining, client relationship management.

Основные направления исследований:

Ключевые слова:

=== Прогнозирование объёмов продаж ===

{{main|Прогнозирование объёмов продаж}}

Задачи прогнозирования объёмов продаж в сетях супермаркетов характеризуются огромным количеством временных рядов, фактической невозможностью использования классических ресурсоёмких методов прогнозирования, несимметричностью функции потерь, разнородностью и нестационарностью временных рядов, наличием пропусков и неточностей в данных, возможностью привлечения дополнительной информации о структуре ассортимента, географии продаж, ценах, промо-акциях и поведении конкурентов.

* адаптивные композиции алгоритмов прогнозирования при несимметричной функции потерь;

* адаптивные методы прогнозирования плотности распределения;

* адаптивные методы квантильной регрессии;

* поиск взаимозаменяемых товаров, анализ и прогнозирование каннибализации брендов.

sales forecast, density forecast, forecasting under asymmetric loss.

Основные направления исследований:

* сравнение и кластеризация белков;

* распознавание вторичной структуры белка по первичной.

=== Другие проекты ===

* [[Обобщающая способность классифицирующих закономерностей (виртуальный семинар)]]

[http://www.ccas.ru/voron/bib-voron.html Список публикаций]

== Софт ==

* [[ChartLib]] — [http://www.ccas.ru/voron/chartlib.html ChartLib] ([http://www.ccas.ru/frc/chartlive/intro.html документация])

*[[Интеллектуальный анализ данных]]

*[[Выборка]]

*[[Коллаборативная фильтрация]]

*[[Прогнозирование плотности]]

*[[Обучение с учителем]]

*[[BibTeX]]

=== Статьи, нуждающиеся в доработке ===

*[[Персептрон]]

*[[:Категория:Машинное обучение]] и статья [[Машинное обучение]]

*[[Максимум правдоподобия]] = [[Метод максимума правдоподобия]] = [[Максимизация правдоподобия]] = [[Правдоподобие]]

*[[P-Value]] = [[пи-величина]] = [[пи-значение]]

 

 

 

 

 

 

 

 

 

=== Корреляционный анализ и регрессия ===

 

 

 

 

 

 

 

 

 

* [[MachineLearning:Правила именования статей]] — порядок выбора названий страниц при их создании.