Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 574, весна 2018

Материал из MachineLearning.

Перейти к: навигация, поиск
Видео докладов по курсу на канале Machine Learning на Youtube


Содержание


Моя первая научная публикация

Участвуют эксперты, индивидуальные консультанты и студенты кафедры Интеллектуальные системы ФУПМ МФТИ.

Роли

Студент третьего курса очень хочет научиться ставить задачи формально, находить нужную литературу, порождать новые и актуальные идеи и решения задач.

Консультант помогает студенту в пользовании инструментами, отвечает на вопросы по специальности, консультирует выполнение работ, оперативно реагирует на проблемы, проверяет (в среду) результаты, ставит оценки. Предполагается, что консультант сам пишет работу-спутник по этой теме. В конце работы могут быть объединены или выполнены и опубликованы параллельно. По возможности, рекомендуется организовать правки текста студента с целью улучшить стиль изложения таким образом, чтобы студент вносил правки самостоятельно. Возможно, при очной встрече или по скайпу.

Эксперт: поставщик задачи, владелец данных, либо тот, кто гарантирует новизну и актуальность работы.

Результаты

Автор Тема научной работы Ссылка Консультант Рецензент Доклад Буквы \Sigma=3+13
Гончаров Алексей (пример) Метрическая классификация временных рядов code,

paper, slides

Мария Попова Задаянчук Андрей BMF AILSBRCVTDSWH>
Астахов Антон Восстановление структуры прогностической модели по вероятностному представлению folder

code paper

Александр Катруца Кислинский Вадим BHF A-I-L0S0B0R0C0V0T0 [A-I-L-S-B0R0C0V0T0E0D0W0S] + [AILSBRCBTEDWS] 2+4
Гаврилов Юрий Выбор интерпретируемых мультимоделей в задачах кредитного скоринга folder

code paper video

А.В. Гончаров Остроухов Петр BF A+IL-S0B-R0 [A+ILSBRC-VT0E0D0W0S] + (W) 2+9+1
Гадаев Тамаз Оценка оптимального объема выборки folder

code paper slides video

Александр Катруца Шульгин Егор BHF A-IL>SB-R-C0V0T0 [AILSBR0CVT0E-D0W0S] 2+9
Гладин Егор Экономия заряда акселерометра на основе прогнозирования временных рядов folder

code paper slides

Мария Владимирова Козлинский Евгений

review

.F AILS [A-I-L-SB0R0C000V0T0E0D0W0S] 1+4
Грабовой Андрей Автоматическое определение релевантности параметров нейросети. folder

code paper slides video

Бахтеев О.Ю. Кульков Александр BHMF A+ILS+BRC+VTE>D> [AILSBRCVTEDWS] [\emptyset] 3+13
Нурланов Жакшылык Deep Learning for reliable detection of tandem repeats in 3D protein structures folder

code paper slides video

С. В. Грудинин, Guillaume Pages Плетнев Никита

Review

BHF AILB [A-I-LS-BRC0V0T-E0D0W0S] 2+7
Рогозина Анна Deep learning for RNA secondary structure prediction folder

code paper slides video

Мария Попова Гадаев Тамаз BHMF AILSBR> [AILSBRC0V0T0E0D0W0S]+CW 3+9
Терехов Олег Порождение признаков с помощью локально-аппроксимирующих моделей folder

code paper slides

С.Д. Иванычев, Р.Г.Нейчев Гладин Егор

review

BHM AILSBRCVTDSW [AIL0SB0R0C0V0TE0D0W0S] 2+12
Шульгин Егор Порождение признаков, инвариантных к изменению частоты временного ряда folder

code paper

Р.Г.Нейчев Терехов Олег BHM AIL [AI-LS-BR0CV0T0E0D0W0S] 2+5
Малиновский Григорий Предсказание графовой структуры нейросетевой модели folder

code paper slides video

Бахтеев О.Ю. Грабовой Андрей

review

BHMF A+I+L+SBR>C>V>T>E>D> [AILSBRC0VTED0WS]+(C) 3+11
Кульков Александр Декодирование сигналов мозга и прогнозирование намерений folder

code paper slides video

Р.В. Исаченко Малиновский Григорий

review

BHMF AILSBR [AILSBRCVTED0W0S] 3+11
Плетнев Никита Аппроксимация границ радужки глаза paper

slides [ video]

Александр Адуенко Нурланов Жакшылык BF AILSB>R> [AILSTWS] 2+7
Остроухов Петр Selection of models superposition for identification of a person on the basis of a ballistocardiogram folder

paper code slides

Александр Прозоров Гаврилов Юрий

review

BhF AIL>S?B?R? [AILSBRCVT-E0D0W0S] 2+10
Кислинский Вадим Предсказание музыкальных плейлистов пользователей в рекомендательной системе. folder

code slides paper video

Евгений Фролов Астахов Антон .F (AIL)------(SB)---(RCVT)-- [AILS-BRCVTED0W0S] 1+11
Козлинский Евгений Анализ банковских транзакционных данных физических лиц для выявления паттернов потребления клиентов. folder

code paper slides video

Роза Айсина Рогозина Анна

review

BHMF AILSBR>CV> [AILSBR0C0V0TE0D0WS]+(С) 3+8+1

Расписание

Дата N Что делаем Результат для обсуждения Буква
Февраль 8 1 Организация работы, расписание, инструменты
15 2 ДЗ-1. Выбор задачи Тема в ML и ссылка на работу в SF помещена напротив фамилии.
22 3 Составить список публикаций по выбранной задаче, найти данные. Написать аннотацию и введение с обзором собранной литературы. Аннотация (600 знаков), введение (1-2 страницы), список литературы в bib-файле. Abstract, Introduction, Literature
Март 1 4 Поставить задачу и сделать описание базового алгоритма, подготовить базовый вычислительный эксперимент. Постановка задачи (0.5-1 страница), описание базового алгоритма. Подготовить доклад 45 сек. B-talk, Statement
8 5 Поставить базовый вычислительный эксперимент. Провести первичный анализ работы алгоритма. Показ статьи. Базовый код, отчет о работе базового алгоритма (кратко). Basic code, Report, cHeck
15 6 Поставить вычислительный эксперимент на основе предлагаемого алгоритма с учетом предыдущих результатов. Код, визуализация полученных результатов, анализ ошибки, анализ качества. Code, Visualization
22 7 Описать алгоритм. Теоретическая и алгоритмическая часть статьи (второй / третий раздел). Подготовить промежуточный доклад со слайдами, 2-3 минуты. M-talk, Theory
29 8 Завершение вычислительного эксперимента. Описание эксперимента с анализом ошибок. Error
Апрель 5 9 Описание теоретической части и вычислительного эксперимента. Описание рисунков, выводы, заключение. Черновой вариант статьи с разделами «Вычислительный экперимент» и «Заключение». Document
12 10 Контрольная точка — показ статьи в целом, рецензия. Статья в варианте для рецензирования. сHeck, RevieW
19 11 Доработка статьи. Подготовка презентации. Доработанная статья. Final show, Slides
26 12 Доклады и обсуждение. Статья подготовлена к подаче в журнал. Final show, Journal

Работа и консультации

  1. Работы сдаются в течение недели.
  2. Желательна итеративная сдача работ, начинать показ лучше в выходные.
  3. Дедлайн последней версии работы: среда 6:00am (проверка занимает всю среду).
  4. Каждый этап работ +1 балл по системе (А--, А-, А, А+, А++). Несделанная работа — A0. Мотивированный перенос работы — знак «A>». Недельное опоздание — знак «-».

Список проектов

Шаблон описания проекта — научной статьи

  • Название: Название, под которым статья подается в журнал.
  • Задача: Описание или постановка задачи. Желательна постановка в виде задачи оптимизации (в формате argmin). Также возможна ссылка на классическую постановку задачи.
  • Данные: Краткое описание данных, используемых в вычислительном эксперименте, и ссылка на выборку.
  • Литература: Список научных работ, дополненный 1) формулировкой решаемой задачи, 2) ссылками на новые результаты, 3) основной информацией об исследуемой проблеме.
  • Базовой алгоритм: Ссылка на алгоритм, с которым проводится сравнение или на ближайшую по теме работу.
  • Решение: Предлагаемое решение задачи и способы проведения исследования. Способы представления и визуализации данных и проведения анализа ошибок, анализа качества алгоритма.
  • Новизна: Обоснование новизны и значимости идей (для редколлегии и рецензентов журнала).
  • Авторы: эксперт, консультант.

Задача 1

  • Название: Аппроксимация границ радужки глаза
  • Задача: По изображению человеческого глаза определить окружности, аппроксимирующие внутреннюю и внешнюю границу радужки.
  • Данные: Растровые монохромные изображения, типичный размер 640*480 пикселей (однако, возможны и другие размеры)[1], [2].
  • Литература:
    • Адуенко А.А. Выбор мультимоделей в задачах классификации (научный руководитель В.В. Стрижов). Московский физико-технический институт, 2017. [3]
    • К.А.Ганькин, А.Н.Гнеушев, И.А.Матвеев Сегментация изображения радужки глаза, основанная на приближенных методах с последующими уточнениями // Известия РАН. Теория и системы управления, 2014, № 2, с. 78–92.
    • Duda, R. O. Use of the Hough transformation to detect lines and curves in pictures / R. O. Duda, P. E. Hart // Communications of the ACM. 1972. Vol. 15, no. 1. Pp.
  • Базовый алгоритм: Ефимов Юрий. Поиск внешней и внутренней границ радужки на изображении глаза методом парных градиентов, 2015.
  • Решение: См. Iris_circle_problem.pdf
  • Новизна: Предложен быстрый беспереборный алгоритм аппроксимации границ с помощью линейных мультимоделей.
  • Консультант: Александр Адуенко (автор Стрижов В.В., эксперт Матвеев И.А.)

Задача 2

  • Название: Оценка оптимального объема выборки
  • Задача: В условиях недостаточного числа дорогостоящих измерений требуется спрогнозировать оптимальный объем пополняемой выборки.
  • Данные: Выборки измерений в медицинской диагностике, в частности, выборка иммунологических маркеров.
  • Литература:
    • Мотренко А.П. Материалы по алгоритмам оценки оптимального объема выборки в репозитории MLAlgorithms[4], [5].
  • Базовый алгоритм: Алгоритмы оценки объема выборки при .
  • Решение: Исследование свойств пространства параметров при пополнении выборки.
  • Новизна: Предложена новая методология прогнозирования объема выборки, обоснованная с точки зрения классической и байесовской статистики.
  • Авторы: А.М. Катруца, В.В. Стрижов, эксперт А.П. Мотренко

Задача 3

  • Название: Восстановление структуры прогностической модели по вероятностному представлению
  • Задача: Требуется восстановить дерево суперпозиции по порожденному графу вероятностей связей.
  • Данные: Сегменты временных, пространственно-временных рядов (и текстовые коллекции).
  • Литература:
    • Работы Tommy Yakkola и других в LinkReview [6].
  • Базовый алгоритм: Метод ветвей и границ, динамическое пограммирование при построении полносвязного графа.
  • Решение: Построение модели в виде GAN, VAE порождает взвешенный граф, NN аппроксимирует структуру дерева.
  • Новизна: Предложен способ оштрафовать граф за то, что он не является деревом. Предложен способ прогнозирования структур прогностических моделей.
  • Авторы: А.М. Катруца, В.В. Стрижов

Задача 4

  • Название: Распознавание текста на основе скелетного представления толстых линий и сверточных сетей
  • Задача: Требуется построить две CNN, одна распознает растровое представление изображения, другая векторное.
  • Данные: Шрифты в растровом представлении.
  • Литература: Список работ [7], в частности arXiv:1611.03199 и
  • Базовый алгоритм: Сверточная сеть для растрового изображения.
  • Решение: Требуется предложить способ свертывания графовых структур, позволяющий породить информативное описание скелета толстой линии.
  • Новизна: Предложен способ повышения качества распознавания толстых линий за счет нового способа порождения их описаний.
  • Авторы: Л.М. Местецкий, И.А. Рейер, В.В. Стрижов

Задача 5

  • Название: Порождение признаков с помощью локально-аппроксимирующих моделей
  • Задача: Требуется проверить выполнимость гипотезы о простоте выборки для порожденных признаков. Признаки - оптимальные параметры аппроксимирующих моделей. При этом вся выборка не является простой и требует смеси моделей для ее аппроксимации. Исследовать информативность порожденных признаков - параметров аппроксимирующих моделей, обученных на сегментах исходного временного ряда.
  • Данные:
    • WISDM (Kwapisz, J.R., G.M. Weiss, and S.A. Moore. 2011. Activity recognition using cell phone accelerometers. ACM SigKDD Explorations Newsletter. 12(2):74–82.), USC-HAD или сложнее. Данные акселерометра (Human activity recognition using smart phone embedded sensors: A Linear Dynamical Systems method, W Wang, H Liu, L Yu, F Sun - Neural Networks (IJCNN), 2014)
    • (Временной ряд (библиотека примеров), раздел Accelerometry).
  • Литература:
    • Кузнецов М.П., Ивкин Н.П. Алгоритм классификации временных рядов акселерометра по комбинированному признаковому описанию // Машинное обучение и анализ данных. 2015. T. 1, № 11. C. 1471-1483.[8]
    • Карасиков М.Е., Стрижов В.В. Классификация временных рядов в пространстве параметров порождающих моделей // Информатика и ее применения, 2016.URL
    • Кузнецов М.П., Ивкин Н.П. Алгоритм классификации временных рядов акселерометра по комбинированному признаковому описанию // Машинное обучение и анализ данных. 2015. T. 1, № 11. C. 1471 - 1483. URL
    • Исаченко Р.В., Стрижов В.В. Метрическое обучение в задачах многоклассовой классификации временных рядов // Информатика и ее применения, 2016, 10(2) : 48-57. URL
    • Задаянчук А.И., Попова М.С., Стрижов В.В. Выбор оптимальной модели классификации физической активности по измерениям акселерометра // Информационные технологии, 2016. URL
    • Motrenko A.P., Strijov V.V. Extracting fundamental periods to segment human motion time series // Journal of Biomedical and Health Informatics, 2016, Vol. 20, No. 6, 1466 - 1476. URL
    • Ignatov A., Strijov V. Human activity recognition using quasiperiodic time series collected from a single triaxial accelerometer // Multimedia Tools and Applications, 2015, 17.05.2015 : 1-14. URL
  • Базовый алгоритм: Описан в работе Кузнецова, Ивкина.
  • Решение: Требуется построить набор локально-аппроксимирующих моделей и выбрать наиболее адекватные.
  • Новизна: Создан стандарт построения локально-аппроксимирующих моделей.
  • Авторы: С.Д. Иванычев, Р.Г. Нейчев, В.В. Стрижов

Задача 6

  • Название: Декодирование сигналов мозга и прогнозирование намерений
  • Задача: Требуется построить модель, восстанавливающую движение конечностей по кортикограмме.
  • Данные: neurotycho.org [9]
  • Литература:
    • Нейчев Р.Г., Катруца А.М., Стрижов В.В. Выбор оптимального набора признаков из мультикоррелирующего множества в задаче прогнозирования // Заводская лаборатория. Диагностика материалов, 2016, 82(3) : 68-74. [10]
    • MLAlgorithms: Motrenko, Isachenko (submitted)
  • Базовый алгоритм: Partial Least Squares[11]
  • Решение: Создать алгоритм выбора признаков, альтернативный PLS и учитывающий неортогональную структуру взаимозависимости признаков.
  • Новизна: Предложен способ выбора признаков, учитывающий закономерности как и независимой, так и в зависимой переменной.
  • Авторы: Р.В. Исаченко, В.В. Стрижов

Задача 7

  • Название: Автоматическое определение релевантности параметров нейросети.
  • Задача: Рассматривается задача нахождения устойчивой (и не избыточной по параметрам) структуры нейросети. Для отсечения избыточных параметров предлагается ввести априорные вероятностные предположения о распределении параметров и удалить из нейросети неинформативные параметры методом Белсли. Для настройки априорного распределения предлагается использовать градиентные методы.
  • Данные: Выборка рукописных цифр MNIST
  • Базовый алгоритм: Optimal Brain Damage, прореживание на основе вариацинного вывода. Структуру итоговой модели предлагается сравнивать с моделью, полученной алгоритмом AdaNet.
  • Литература:
    • [12] Градиентные методы оптимизации гиперпараметров.
    • [13] Градиентные методы оптимизации гиперпараметров.
    • [14] Optimal Brain Damage.
    • [15] AdaNet
    • [16] Метод Белсли
  • Авторы: О.Ю. Бахтеев, В.В. Стрижов

Задача 8

  • Название: Предсказание графовой структуры нейросетевой модели.
  • Задача: Рассматривается задача нахождения устойчивой (и не избыточной по параметрам) структуры сверточной нейросети. Предлагается предсказывать структуру нейросети с использованием doubly-recurrent нейросетей. В качестве обучающей выборки предлагается использовать структуры моделей, показавших хорошее качество на подвыборках небольшой мощности.
  • Данные: Выборки MNIST, CIFAR-10
  • Базовый алгоритм: случайный поиск. Возможно сравнение с работами по обучению с подкреплением.
  • Литература:
    • [17] doubly-recurrent нейросети.
    • [18] Схожий подход с использованием обучения с подкреплением.
  • Авторы: О.Ю. Бахтеев. В.В. Стрижов

Задача 9

  • Название: Deep Learning for reliable detection of tandem repeats in 3D protein structures подробнее в PDF
  • Задача: Deep learning algorithms pushed computer vision to a level of accuracy comparable or higher than a human vision. Similarly, we believe that it is possible to recognize the symmetry of a 3D object with a very high reliability, when the object is represented as a density map. The optimization problem includes i) multiclass classification of 3D data. The output is the order of symmetry. The number of classes is ~10-20 ii) multioutput regression of 3D data. The output is the symmetry axis (a 3-vector). The input data are typically 24x24x24 meshes. The total amount of these meshes is of order a million. Biological motivation : Symmetry is an important feature of protein tertiary and quaternary structures that has been associated with protein folding, function, evolution, and stability. Its emergence and ensuing prevalence has been attributed to gene duplications, fusion events, and subsequent evolutionary drift in sequence. Methods to detect these symmetries exist, either based on the structure or the sequence of the proteins, however, we believe that they can be vastly improved.
  • Данные: Synthetic data are obtained by ‘symmetrizing’ folds from top8000 library (http://kinemage.biochem.duke.edu/databases/top8000.php).
  • Литература: Our previous 3D CNN: [19] Invariance of CNNs (and references therein): [20], [21]
  • Базовой алгоритм: A prototype has already been created using the Tensorflow framework [4], which is capable to detect the order of cyclic structures with about 93% accuracy. The main goal of this internship is to optimize the topology of the current neural network prototype and make it rotational and translational invariant with respect to input data. [4] [22]
  • Решение: The network architecture needs to be modified according to the invariance properties (most importantly, rotational invariance). Please see the links below [23],

[24] The code is written using the Tensorflow library, and the current model is trained on a single GPU (Nvidia Quadro 4000)of a desktop machine.

  • Новизна: Applications of convolutional networks to 3D data are still very challenging due to large amount of data and specific requirements to the network architecture. More specifically, the models need to be rotationally and transnationally invariant, which makes classical 2D augmentation tricks loosely applicable here. Thus, new models need to be developed for 3D data.
  • Авторы: эксперт Sergei Grudinin, консультанты Guillaume Pages, Vadim Strijov

Задача 10

  • Название: Semi-supervised representation learning with attention
  • Задача: обучение векторных представлений с использованием механизма attention, благодаря которому значительно выросло качество машинного перевода. Предлагается использовать его в сети архитектуры encoder-decoder для получения векторов фрагментов текста произвольной длины.
  • Данные: Предлагается рассмотреть две выборки: Microsoft Paraphrase Corpus (небольшой набор предложений, https://www.microsoft.com/en-us/download/details.aspx?id=52398) и PPDB(набор коротких сегментов, не всегда корректная разметка. http://sitem.herts.ac.uk/aeru/ppdb/en/)
  • Литература:

1. Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin. Attention Is All You Need (https://arxiv.org/abs/1706.03762). 2. John Wieting, Mohit Bansal, Kevin Gimpel, Karen Livescu. Towards Universal Paraphrastic Sentence Embeddings (https://arxiv.org/abs/1511.08198). 3. Ryan Kiros, Yukun Zhu, Ruslan Salakhutdinov, Richard S. Zemel, Antonio Torralba, Raquel Urtasun, Sanja Fidler. Skip-Thought Vectors (https://arxiv.org/abs/1506.06726). 4. Keras seq2seq (https://github.com/farizrahman4u/seq2seq).

  • Базовый алгоритм: решение [3] или векторные представления, полученные с использованием seq2seq [].
  • Решение: в задаче предлагается обучить векторные представления для фраз, используя механизм attention и метод частичного обучения. В качестве внутреннего функционала качества предлагается использовать усовершенствованную функцию ошибки из [2]. В качестве прикладной задачи можно рассмотреть задачу детектирования перефразирований и сентимент-анализ. Причем, исходя из результатов, полученный в [1], можно сделать предположение о том, что механизм attention в большей степени влияет на получение универсальных векторов для фраз, чем архитектура сети. Предлагается протестировать эту гипотезу с использованием двух различных архитектур - стандартной рекуррентной и feed-forward сети.
  • Новизна: новый метод.
  • Авторы: Рита Кузнецова, консультант

Задача 11

  • Название: Выбор интерпретируемых мультимоделей в задачах кредитного скоринга
  • Задача: Задача кредитного скоринга заключается в определении уровня кредитоспособности заемщика. Для этого используется анкета заемщика, содержащая как числовые (возраст, доход), так и категориальные признаки (пол, профессия). Требуется, имея историческую информацию о возвратах кредитов другими заемщиками, определить, вернет ли заемщик кредит. Данные могут быть разнородными (например, в случае наличия в стране разных регионов по доходу), и для адекватной классификации потребуется несколько моделей. Необходимо определить оптимальное число моделей. По набору параметров моделей необходимо составить портрет заемщика.
  • Данные: Предлагается рассмотреть пять выборок из репозиториев UCI и Kaggle, мощностью от 50000 объектов.
  • Литература: Диссертация А.А. Адуенко \MLAlgorithms\PhDThesis; С. Bishop, Pattern recognition and machine learning, последняя глава; 20 years of Mixture experts.
  • Базовой алгоритм: Кластеризация и построение независимых моделей логистической регрессии, Адабуст, Решающий лес (с ограничениями на сложность), Смесь экспертов.
  • Решение: Предлагается алгоритм выбора мультимодели (смеси моделей или смеси экспертов) и определения оптимального числа моделей.
  • Новизна: Предлагается функция расстояния между моделями, в которых распределения параметров заданы на разных носителях.
  • Авторы: А.В. Гончаров, В.В. Стрижов.

Задача 12

  • Название: Порождение признаков, инвариантных к изменению частоты временного ряда.
  • Задача: Неформально: есть набор временных рядов определенной частоты (s1), причем интересующая нас информация различима и при меньшей частоте дискретизации (например, отсчеты происходят каждую миллисекунду, а интересующие нас события происходят на интервале 0.1 с). Данные ряды интегрируются, снижая частоту в 10 раз (т.е. каждые 10 значений просто суммируются) и получается набор временных рядов s2.Предлагается найти такие преобразования над временным рядом, зависящие от частоты, что временные ряды высокой частоты s1и более низкой частоты s2 будут описываться одинаково. Формально: Задан набор временных рядов s1, ..., sNSс высокой частотой дискретизации 1. Целевая информация (например, движение рукой/cуточное колебание цены/…) различима и при меньшей частоте дискретизации 2 < 1. Необходимо найти такое отображение f: S G, -частота ряда, что оно будет порождать похожие признаковые описания для рядов различной частоты. Т.е.

f* = argminf E(f1(s1) -f2(s2)) , где E- некоторая функция ошибки.

  • Данные: Наборы временных рядов физической активности людей с акселерометров; временные ряды ЭЭГ человека; временные ряды энергопотребления городов/промышленных объектов. Ссылка на выборку: репозиторий UCI, наши выборки по ЭЭГ и акселерометрам.
  • Литература: См выше про Акселерометры
  • Базовой алгоритм: Преобразование Фурье.
  • Решение: Построение автоэнкодера с частично фиксированным внутренним представлением в виде того же временного ряда с меньшей частотой.
  • Новизна: Для временных рядов отсутствует “общепринятый подход” к анализу, в отличие, например, от анализа изображений. Если посмотреть на проблему отвлеченно, сейчас кот определяется так же хорошо, как и кот, занимающий вдвое меньшее пространство на изображении. Напрашивается аналогия с временными рядами. Тем более, природа данных в картинках и во временных рядах похожа: в картинках иерархия между значениями есть по двум осям (x и y), а во временных рядах - по одной - по оси времени. Гипотеза заключается в том, что сходные с анализом изображений методы позволят получить качественные результаты. Полученное признаковое представление может в дальнейшем использоваться для классификации и предсказания временных рядов.
  • Авторы: Р. Г. Нейчев, В.В. Стрижов.

Задача 13

  • Название: Deep learning for RNA secondary structure prediction
  • Задача: RNA secondary structure is an important feature which defines RNA functional properties. Its importance can be illustrated by the fact, that it is evolutionary preserved and some types of functional RNAs always * have the same secondary structure, for example all tRNAs fold into cloverleaf. As secondary structure often defines functions, knowing RNAs secondary structure may help investigate functions of novel RNA molecules. RNA folding is not as easy as DNA folding, because RNA is single stranded molecule which forms complicated base-pairing interactions, while DNA mostly exists as fully base paired double helices. Current methods of RNA structure prediction rely on experimentally evaluated thermodynamic rules, but with thermodynamics alone only 80% of structures can be accurately predicted. We propose an AI-driven method for predicting RNA secondary structure inspired by neural machine translation model.
  • Данные: RNA sequences in form of strings of characters
  • Литература: https://arxiv.org/abs/1609.08144
  • Базовой алгоритм: https://www.ncbi.nlm.nih.gov/pubmed/16873527
  • Решение: Deep learning recurrent encoder-decoder model with attention
  • Новизна: Currently RNA secondary structure prediction still remains unsolved problem and to the best of our knowledge DL approach has never been introduced in the literature before
  • Авторы: консультант Мария Попова

Задача 14

to be done

Задача 15

to be done

  • Название: Иерархическое тематическое моделирование текстовой коллекции
  • Задача: (варианты: новостной поток на русском / выпускные работы студентов на русском / научные статьи на английском / научпоп на русском).
  • Данные:
  • Литература:
    1. Воронцов К.В. Обзор вероятностных тематических моделей. 2017.
  • Базовой алгоритм:
  • Решение: построение тематической модели с помощью библиотеки BigARTM.
  • Новизна:
  • Авторы: К.В.Воронцов

Задача 16

to be done

  • Название: Анализ банковских транзакционных данных физических лиц для выявления паттернов потребления клиентов.
  • Задача:
  • Данные:
  • Литература:
    1. Воронцов К.В. Обзор вероятностных тематических моделей. 2017.
  • Базовой алгоритм:
  • Решение: построение тематической модели с помощью библиотеки BigARTM.
  • Новизна:
  • Авторы: К.В.Воронцов, консультанты Роза Айсина, Филипп Никитин.

Задача 17

to be done

Задача 18

  • Название: Сравнение нейросетевых и непрерывно-морфологических методов в задаче детекции текста (Text Detection).
  • Задача: Automatically Detect Text in Natural Images.
  • Данные: синтетические сгенерированные данные + подготовленная выборка фотографий + COCO-Text dataset + Конкурс Avito 2014.
  • Литература: COCO benchmark, One of a state-of-the-art architecture
  • Базовой алгоритм: code + морфологические методы, Avito 2014 winner's solution.
  • Решение: Предлагается сравнить работы нескольких state-of-the-art алгоритмов, которым нужна обширная обучающая выборка, с морфологическими методы, требующие небольшого числа данных. Предлагается определить границы применимости тех или иных методов.
  • Новизна: предложить алгоритм, основанный на использовании как нейросетевых, так и морфологических методов (решение задачи word detection).
  • Авторы: И.Н. Жариков.
  • Эксперт: Л.М. Местецкий (морфологические методы).
Личные инструменты