Советские школы ИИ

Материал из MachineLearning.

Версия от 11:17, 15 июля 2026; Kirill Novoselov (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск

Содержание

Советские научные школы искусственного интеллекта — совокупность исследовательских направлений, сложившихся в СССР в 1950–1970-х годах на пересечении кибернетики, теории управления, физиологии зрения, дискретной математики и распознавания образов. В отличие от американской традиции, институциональным символом которой стал Дартмутский семинар, многие советские работы исходили не из задачи построения универсального символического решателя, а из конкретных проблем: выделения информативных признаков, обучения по малой выборке, идентификации сложных систем, синтеза надёжного решения из эвристических процедур.

В статье рассматриваются четыре влиятельные школы: школа М. М. Бонгарда, школа А. Г. Ивахненко, школа М. А. Айзермана и школа Ю. И. Журавлёва. Границы между ними не были непроницаемыми: исследователи работали в общей среде советской кибернетики, участвовали в одних семинарах и решали близкие задачи. Поэтому слово «школа» ниже обозначает не только коллектив учеников, но и устойчивую программу исследований с собственным языком, типовыми постановками и последующим развитием.

Важно различать приоритет, влияние и содержательное сходство. Некоторые идеи имеют прослеживаемую линию развития: например, статья Айзермана, Бравермана и Розоноэра 1964 года прямо цитируется в литературе по ядерным методам. В других случаях, например при сопоставлении алгебраических корректоров Журавлёва с современными ансамблями, корректнее говорить о близости принципов, а не о прямом переименовании или обязательном историческом заимствовании.

Исторический контекст

После идеологических дискуссий конца 1940-х — начала 1950-х годов кибернетика в СССР была признана легитимным научным направлением. Существенную роль сыграли работы А. И. Китова, А. А. Ляпунова и С. Л. Соболева, а также семинары по кибернетике и теории автоматов. Советская программа искусственного интеллекта формировалась сразу в нескольких институциональных центрах:

  • в Институте биологической физики и позднее в Институте проблем передачи информации АН СССР изучались зрение, восприятие и адаптивное поведение;
  • в Институте автоматики и телемеханики АН СССР (ныне ИПУ РАН) развивались обучение автоматов, распознавание и теория управления;
  • в Институте кибернетики АН УССР исследовались идентификация и самоорганизация моделей сложных систем;
  • в Сибирском отделении АН СССР, Вычислительном центре АН СССР и МГУ развивались дискретные и алгебраические методы распознавания.

Краткая хронология ключевых результатов:

Год Событие Современная область сопоставления
1958–1961 М. М. Бонгард начинает компьютерное моделирование физиологических процессов; создаётся программа «Кора» поиск закономерностей, интерпретируемые правила, feature construction
1960–1964 формулируется гипотеза компактности и публикуются теоретические основы метода потенциальных функций ядерные классификаторы, kernel perceptron
1965–1971 А. Г. Ивахненко и В. Г. Лапа развивают самоорганизацию многослойных полиномиальных моделей; появляется МГУА автоматический выбор архитектуры, глубокое обучение, model selection
1967 выходит книга М. М. Бонгарда «Проблема узнавания» с задачником из ста визуальных задач few-shot concept learning, визуальное и нейросимвольное рассуждение
1971 Ю. И. Журавлёв и В. В. Никифоров описывают алгоритмы вычисления оценок метрические и логические классификаторы, голосование по опорным фрагментам
1976–1978 Ю. И. Журавлёв строит теорию корректных алгебр над эвристическими алгоритмами обучаемые композиции, корректоры, ансамбли алгоритмов

Школа М. М. Бонгарда

Михаил Моисеевич Бонгард (1924–1971).
Михаил Моисеевич Бонгард (1924–1971).

От физиологии зрения к проблеме узнавания

Михаил Моисеевич Бонгард пришёл к распознаванию из биофизики и физиологии зрения. В 1950-х годах он исследовал цветоразличение и кодирование сигналов в зрительной системе, а с 1958 года использовал ЭВМ М-2 для моделирования физиологических процессов. В 1961–1962 годах М. М. Бонгард, М. Л. Цетлин и В. И. Варшавский организовали Комаровскую зимнюю школу по теории автоматов и распознаванию образов. Тем самым задача машинного узнавания рассматривалась не только как статистическая классификация, но и как модель восприятия и формирования понятий.

Центральное различие у Бонгарда — различие между рецепторным описанием объекта и пространством признаков. Пусть объект x наблюдается через первичные измерения r_1(x),\ldots,r_d(x). Узнающая система должна не просто подобрать решающее правило в фиксированном пространстве, а построить вторичные признаки

\varphi_j(x)=F_j(r_1(x),\ldots,r_d(x)), \qquad j=1,\ldots,m,

которые делают различие классов коротко выразимым. Эта постановка близка к современному обучению представлений, но исторически возникла независимо и реализовывалась иными средствами — перебором структурированных признаков, логическими операциями и оценкой их полезности.

В статье «О понятии „полезная информация“» Бонгард связывал ценность сообщения не только с уменьшением энтропии, но и с изменением вероятности достижения цели. Для распознавания такой целью является правильное решение. Следовательно, информативность признака зависит от задачи и выбранного решающего механизма; один и тот же сигнал может быть полезным, бесполезным или дезинформирующим.

Программа «Кора»

Программа «Кора», разработка которой началась под руководством Бонгарда в 1961 году, искала короткие сочетания элементарных свойств, характерные для одного класса и почти не встречающиеся в другом. В современной записи пусть обучающая выборка имеет вид

X=\{(x_i,y_i)\}_{i=1}^{\ell}, \qquad x_i\in\{0,1\}^{d},\quad y_i\in\{-1,+1\}.

Конъюнктивным признаком ранга r назовём предикат

P_{J,b}(x)=\prod_{s=1}^{r}[x_{j_s}=b_s], \qquad J=(j_1,\ldots,j_r),\quad b_s\in\{0,1\},

где скобка Айверсона равна единице при истинном условии и нулю иначе. Для него вычисляются частоты в двух классах

n_{+}(P)=\sum_{i:y_i=+1}P(x_i), \qquad n_{-}(P)=\sum_{i:y_i=-1}P(x_i).

Признак считается закономерностью класса +1, если n_{+}(P) достаточно велико, а n_{-}(P) не превосходит допустимого числа исключений; симметрично определяются закономерности класса -1. В классическом варианте перебирались прежде всего небольшие наборы, в частности тройки бинарных признаков. После отбора правила голосуют:

\Gamma_c(x)=\sum_{P\in\mathcal P_c}w_P P(x), \qquad a(x)=\arg\max_{c\in\{-1,+1\}}\Gamma_c(x).

Таким образом, «Кора» соединяла четыре идеи: построение признаков, комбинаторный поиск, контроль числа контрпримеров и взвешенное голосование интерпретируемых правил. Программа применялась, в частности, к геологическому прогнозированию нефтеносности. По современному языку она близка к поиску контрастных паттернов, ассоциативным правилам и логическим классификаторам. Однако это сходство не устраняет различий: «Кора» работала с явно заданным словарём элементарных свойств и полным либо ограниченным комбинаторным перебором, а современные методы часто обучают непрерывное представление градиентно.

Задачи Бонгарда

В приложении к книге «Проблема узнавания» (1967) были приведены сто задач. Каждая задача содержит две небольшие группы изображений; требуется сформулировать простое понятие, истинное для всех изображений одной группы и ложное для изображений другой. Формально для множеств примеров X^+ и контрпримеров X^- нужно найти предикат h из языка гипотез \mathcal H такой, что

h(x)=1\quad\forall x\in X^+, \qquad h(x)=0\quad\forall x\in X^-,

причём среди согласованных гипотез предпочтительна содержательно простая. Именно требование найти объясняющее понятие, а не только метку, делает эти задачи ранним тестом абстрактного визуального рассуждения.

Позднее задачи были популяризированы Д. Хофштадтером, а в XXI веке стали основой наборов Bongard-LOGO и Bongard-HOI. Современные работы относят их к few-shot concept learning, program induction и нейросимвольному ИИ. Результаты на Bongard-LOGO показывают, что высокая точность обычного распознавания объектов ещё не гарантирует способности вывести контекстно зависимое правило по нескольким примерам. Тем самым исходный замысел Бонгарда оказался не закрытой исторической задачей, а современным диагностическим тестом границы между восприятием и рассуждением.

Что было развито позднее

  • построение вторичных признаков соответствует общей идее representation learning, хотя методы реализации различаются;
  • короткие конъюнктивные закономерности получили развитие в rule learning, subgroup discovery и interpretable machine learning;
  • разделение примеров и контрпримеров по краткому описанию стало центральным для индуктивного программирования и нейросимвольных систем;
  • задачи Бонгарда предвосхитили современные тесты на few-shot-обобщение, композиционность и контекстное восприятие.

См. также: Алгоритм КОРА, Тесты Бонгарда, Индуктивное формирование понятий, Логические алгоритмы классификации.

Школа А. Г. Ивахненко

Изображение:Ivahnenko.JPG
Алексей Григорьевич Ивахненко (1913–2007).

Индуктивная самоорганизация моделей

Алексей Григорьевич Ивахненко развивал в Киеве инженерную кибернетику и идентификацию сложных систем. В книге А. Г. Ивахненко и В. Г. Лапы «Кибернетические предсказывающие устройства» (1965), статье 1968 года и последующей «Полиномиальной теории сложных систем» (1971) была сформулирована программа автоматического построения модели по данным. Её наиболее известная реализация — метод группового учёта аргументов (МГУА; англ. Group Method of Data Handling, GMDH).

Исходной универсальной формой служит полином Колмогорова—Габора

y=a_0+\sum_i a_i x_i+\sum_{i,j}a_{ij}x_ix_j+\sum_{i,j,k}a_{ijk}x_ix_jx_k+\cdots.

Полный полином быстро становится слишком большим. Поэтому МГУА строит его не прямой оценкой всех коэффициентов, а последовательностью частичных моделей. Типичный опорный элемент для пары входов имеет вид

z_k=a_0+a_1u+a_2v+a_3uv+a_4u^2+a_5v^2.

Коэффициенты a оцениваются на одной части данных, а качество структуры проверяется на другой. Лучшие выходы z_k становятся входами следующего слоя, где процедура повторяется.

Процедура МГУА

Пусть выборка разделена на обучающую часть D_{\mathrm{fit}} и проверочную часть D_{\mathrm{val}}.

  1. На первом слое образуются кандидаты f_k^{(1)}(x_{i_k},x_{j_k};a_k) для различных пар исходных переменных.
  2. Для каждого кандидата параметры a_k оцениваются по D_{\mathrm{fit}}, например методом наименьших квадратов.
  3. По внешнему критерию
    CR_k^{(s)}=\frac{1}{|D_{\mathrm{val}}|}\sum_{(x,y)\in D_{\mathrm{val}}}\left(y-f_k^{(s)}(x)\right)^2
  4. отбирается несколько лучших моделей слоя s.
  5. Их выходы образуют переменные для слоя s+1.
  6. Рост сети прекращается, когда минимум внешнего критерия перестаёт уменьшаться:
    \min_k CR_k^{(s+1)}\geq \min_k CR_k^{(s)}.

Здесь внешний критерий означает, что структура сравнивается не на тех же наблюдениях, по которым подбирались её коэффициенты. Это ранняя и содержательно ясная форма разделения подгонки параметров и выбора модели. Число слоёв, состав связей и эффективная степень полинома определяются данными, а не задаются полностью заранее.

Ивахненко называл этот процесс самоорганизацией: конкурируют не только численные параметры, но и структуры моделей. В статье 1971 года была показана многослойная сеть, применённая к моделированию британской экономики. Поздние исторические обзоры нейронных сетей, в частности обзор Ю. Шмидхубера, относят МГУА к первым работоспособным алгоритмам обучения глубоких многослойных сетей.

МГУА и современное глубокое обучение

Сходство с глубоким обучением состоит в композиции многих обучаемых нелинейных слоёв и в появлении внутренних представлений. Но различия принципиальны:

МГУА Типичная современная глубокая сеть
структура порождается перебором кандидатов и послойным отбором структура обычно задаётся архитектурой, а её параметры обучаются совместно
параметры локальных полиномов часто находятся аналитически параметры оптимизируются обратным распространением ошибки
внешний критерий непосредственно управляет глубиной и числом узлов контрольная выборка чаще выбирает гиперпараметры и момент остановки
узлы обычно имеют явную полиномиальную интерпретацию скрытые признаки могут быть высокоразмерными и трудно интерпретируемыми

Поэтому выражение «первая глубокая сеть» допустимо как ретроспективная классификация, но не означает тождества МГУА и современных нейросетей. Более точная историческая формула: школа Ивахненко раньше массового распространения deep learning продемонстрировала обучаемую многослойную композицию, автоматический рост архитектуры и отбор сложности по данным.

См. также: Метод группового учёта аргументов, Самоорганизация моделей, Глубокое обучение, Выбор модели, Кросс-валидация.

Школа М. А. Айзермана

Изображение:Aizerman.jpg
Марк Аронович Айзерман (1913–1992).

Обучение автоматов и гипотеза компактности

Марк Аронович Айзерман возглавлял в Институте автоматики и телемеханики направление, в котором работали Э. М. Браверман и Л. И. Розоноэр. Исследования выросли из теории управления и обучения автоматов. Их геометрическая основа — гипотеза компактности: объекты одного класса после подходящего описания образуют компактные множества, а близость в пространстве признаков несёт информацию о принадлежности классу.

Эта гипотеза не утверждает, что любой класс компактен в исходных координатах. Она задаёт программу построения такого представления и такой меры сходства, в которых эмпирические классы можно разделить. В 1964 году М. А. Айзерман, Э. М. Браверман и Л. И. Розоноэр опубликовали теоретические основы метода потенциальных функций, позднее систематизированного в монографии 1970 года.

Метод потенциальных функций

Пусть (x_i,y_i), y_i\in\{-1,+1\}, — обучающие примеры. Каждый пример создаёт в точке x потенциал K(x,x_i), а классификатор складывает потенциалы с учётом класса:

F(x)=\sum_{i=1}^{\ell}\alpha_i y_i K(x,x_i), \qquad a(x)=\operatorname{sign}F(x).

Коэффициенты \alpha_i\geq0 увеличиваются для тех объектов, на которых текущее правило ошибается. Если y_iF(x_i)\leq0, то простейшая коррекция имеет вид

\alpha_i\leftarrow\alpha_i+1.

В работе 1964 года исследовался более общий класс схем и были доказаны теоремы конечной сходимости при выполнении гипотезы о разделимости классов выбранными потенциальными функциями.

Ключевой шаг состоит в представлении потенциала как скалярного произведения признаковых отображений:

K(x,z)=\langle\Phi(x),\Phi(z)\rangle=\sum_{r}\varphi_r(x)\varphi_r(z).

Тогда

F(x)=\left\langle \sum_{i=1}^{\ell}\alpha_i y_i\Phi(x_i),\Phi(x)\right\rangle,

то есть нелинейное правило в исходном пространстве является линейным в пространстве признаков. Вычислять координаты \Phi(x) явно не требуется, если доступна функция K(x,z). В современной терминологии это ядровой персептрон и ранний пример kernel trick.

От потенциальных функций к ядерным машинам

Работа Айзермана, Бравермана и Розоноэра предшествовала массовому развитию ядерных методов на несколько десятилетий. В 1990-х годах метод опорных векторов сделал ядерное представление центральным инструментом машинного обучения. Однако потенциальный метод и SVM не тождественны:

  • в потенциальном методе коэффициенты исправляются последовательными ошибками;
  • SVM решает задачу оптимизации с максимизацией геометрического зазора и регуляризацией;
  • положительно определённое ядро задаёт общее вычислительное представление, но критерии выбора решения различны.

Поэтому исторически точнее считать метод потенциальных функций одним из истоков ядерных классификаторов, а не ранней формой уже полностью построенного SVM. Современные обзоры kernel methods прямо указывают статью 1964 года как первое применение ядерной идеи к распознаванию.

Внутри школы развивались также автоматическая классификация без учителя, структурные методы анализа данных и «второй потенциал» — способ учитывать малые преобразования изображения уже на рецепторном поле. Последняя идея содержательно близка современному конструированию инвариантных мер сходства, хотя методы свёрточных сетей возникли в другой технической традиции.

См. также: Метод потенциальных функций, Ядерные методы, Ядерный персептрон, Метод опорных векторов, Кластерный анализ.

Школа Ю. И. Журавлёва

Юрий Иванович Журавлёв (1935–2022).
Юрий Иванович Журавлёв (1935–2022).

От дискретного анализа к распознаванию

Юрий Иванович Журавлёв начал исследования распознавания в 1960-х годах, перенеся в прикладную задачу язык дискретного анализа и алгебры алгоритмов. Для школы Журавлёва характерны два уровня: создание широких моделей эвристических процедур и затем синтез корректного алгоритма из элементов такой модели.

Слово эвристический здесь не означает произвольный или неправильный по реализации алгоритм. Оно означает, что алгоритм разумно устроен и может хорошо работать на практике, но не обязан давать верный ответ на каждом объекте заданной задачи.

Алгоритмы вычисления оценок

Модель алгоритмов вычисления оценок (АВО), предложенная Ю. И. Журавлёвым и В. В. Никифоровым, объединяет распознавание по частичным сходствам и голосование. Пусть объект описан признаками x=(x_1,\ldots,x_d), а X_c — обучающие объекты класса c. Задаётся семейство опорных множеств \Omega\subseteq\{1,\ldots,d\}, веса w_\Omega и предикат сходства S_\Omega(x,x_i) по признакам из \Omega. Оценка принадлежности классу имеет общий вид

\Gamma_c(x)=\sum_{x_i\in X_c}\sum_{\Omega\in\mathcal O}w_\Omega S_\Omega(x,x_i).

Например, для бинарных признаков можно положить

S_\Omega(x,x_i)=\prod_{j\in\Omega}[x_j=x_{ij}].

Затем решающее правило C переводит вектор оценок (\Gamma_1(x),\ldots,\Gamma_q(x)) в метку класса или отказ от классификации. В абстрактной записи алгоритм представляется суперпозицией

A=C\circ B,

где распознающий оператор B строит матрицу оценок, а решающее правило C принимает окончательное решение.

Выбором системы опорных множеств, функции близости, нормировки и порогов в АВО выражаются многие логические и метрические процедуры. Поэтому АВО стали не одним алгоритмом, а языком описания семейства алгоритмов. Практические применения школы охватывали геологию, медицину, химию, техническую диагностику и экономическое прогнозирование.

Алгебраический подход

Пусть \mathcal M=\{B_\theta:\theta\in\Theta\} — модель распознающих операторов, каждый из которых выдаёт матрицу вещественных оценок. На операторах вводятся операции, наследуемые от операций над их выходными матрицами:

(B_1+B_2)(X)=B_1(X)+B_2(X),
(\lambda B)(X)=\lambda B(X),
(B_1B_2)(X)=B_1(X)\odot B_2(X),

где \odot — покомпонентное умножение. Линейное замыкание модели состоит из операторов

\mathcal L(\mathcal M)=\left\{\sum_{i=1}^{k}\alpha_iB_i:\;B_i\in\mathcal M,\ \alpha_i\in\mathbb R,\ k<\infty\right\},

а алгебраическое замыкание содержит полиномы конечной степени от элементов \mathcal M относительно указанных операций.

Алгоритм называется корректным для задачи (или для заданной контрольной выборки), если после применения фиксированного решающего правила он не допускает ошибок на этой задаче. Основная программа Журавлёва состояла в поиске корректного элемента алгебраического замыкания над набором исходно некорректных эвристических алгоритмов. В цикле работ 1976–1978 годов были построены корректные алгебры и исследованы условия существования корректных линейных и полиномиальных расширений.

Идея принципиальна: слабость отдельной эвристики не считается дефектом, если задан формальный способ их совместной коррекции. Позднее в школе развивались теория универсальных и локальных ограничений К. В. Рудакова, алгебро-логические корректоры, теория надёжности распознающих алгоритмов и алгебраический анализ изображений.

Сопоставление с ансамблевым обучением

Современные композиции алгоритмов также строят сильное правило из базовых алгоритмов:

F(x)=\sum_{t=1}^{T}\alpha_t b_t(x), \qquad a(x)=C(F(x)).

В этом смысле алгебраическая коррекция предвосхищает общий принцип обучаемой композиции. Но историческое тождество с bagging, boosting или stacking было бы неточным. Бустинг последовательно минимизирует функцию потерь, меняя веса объектов; алгебраический подход исследует замыкания моделей и существование корректоров в заданной алгебре операторов. Общей является архитектурная идея «много несовершенных процедур плюс обучаемая операция синтеза», тогда как критерии, операции и теоремы различаются.

См. также: Алгоритмы вычисления оценок, Алгебраический подход к распознаванию, Корректирующая операция, Композиции алгоритмов, Ансамблевое обучение.

Сравнение научных программ

Школа Главный вопрос Единица конструирования Механизм обучения Ближайшая современная проблематика
Бонгард Как построить признаки и понятие, объясняющие различие примеров и контрпримеров? логический или структурный признак комбинаторный поиск и отбор по полезности interpretable ML, concept learning, program induction
Ивахненко Как данным самим определить структуру модели и её сложность? частичная полиномиальная модель послойное порождение и отбор по внешнему критерию neural architecture search, deep learning, validation-based model selection
Айзерман Как обучить нелинейное правило через геометрию сходства? потенциальная функция, пример-прототип коррекция весов на ошибках kernel methods, online learning
Журавлёв Как синтезировать корректное решение из эвристических алгоритмов? распознающий оператор и корректор алгебраическое замыкание и настройка композиции ensemble learning, algorithm synthesis, hybrid models

Общий мотив четырёх школ — отказ считать фиксированный набор признаков и единственный алгоритм окончательной постановкой задачи. Бонгард обучал язык признаков, Ивахненко — структуру многослойной модели, Айзерман — геометрию сходства и веса прототипов, Журавлёв — операцию синтеза алгоритмов. Современное машинное обучение вернулось к тем же уровням проектирования в терминах representation learning, architecture search, kernel learning и ensemble learning.

При этом советские результаты не следует описывать только как «забытые современные методы». Они были частью самостоятельных программ, использовали собственный математический язык и отвечали ограничениям вычислительной техники своего времени. Исторически содержательнее видеть в них несколько альтернативных путей к обучаемым системам — часть этих путей вошла в мировой канон напрямую, а часть вновь стала заметна после появления новых вычислительных возможностей и задач.

См. также

Литература

  1. Бонгард М. М. Проблема узнавания. — М.: Наука, 1967. — 320 с. Электронная копия.
  2. Bongard M. M. Pattern Recognition. — New York: Spartan Books, 1970. — 253 p. Библиографическая запись.
  3. Бонгард М. М. О понятии «полезная информация» // Проблемы кибернетики. — 1963. — Вып. 9. — С. 71–102.
  4. Вайнцвайг М. Н. Алгоритм обучения распознаванию образов «Кора» // Алгоритмы обучения распознаванию образов / под ред. В. Н. Вапника. — М.: Советское радио, 1973. — С. 110–116.
  5. Depeweg S., Rothkopf C. A., Jäkel F. Solving Bongard Problems with a Visual Language and Pragmatic Reasoning. — 2018.
  6. Nie W., Yu Z., Mao L. et al. Bongard-LOGO: A New Benchmark for Human-Level Concept Learning and Reasoning // Advances in Neural Information Processing Systems. — 2020. — Vol. 33.
  7. Ивахненко А. Г., Лапа В. Г. Кибернетические предсказывающие устройства. — Киев: Наукова думка, 1965. — 213 с. Библиографическая запись.
  8. Ivakhnenko A. G. The Group Method of Data Handling — a Rival of the Method of Stochastic Approximation // Soviet Automatic Control. — 1968. — Vol. 13, No. 3. — P. 43–55.
  9. Ivakhnenko A. G. Polynomial Theory of Complex Systems // IEEE Transactions on Systems, Man, and Cybernetics. — 1971. — Vol. SMC-1, No. 4. — P. 364–378.
  10. Schmidhuber J. Deep Learning in Neural Networks: An Overview // Neural Networks. — 2015. — Vol. 61. — P. 85–117.
  11. Айзерман М. А., Браверман Э. М., Розоноэр Л. И. Теоретические основы метода потенциальных функций в задаче об обучении автоматов распознаванию образов // Автоматика и телемеханика. — 1964. — Т. 25, № 6. — С. 917–936.
  12. Айзерман М. А., Браверман Э. М., Розоноэр Л. И. Метод потенциальных функций в теории обучения машин. — М.: Наука, 1970. — 384 с. Запись НЭБ.
  13. Hofmann T., Schölkopf B., Smola A. J. Kernel Methods in Machine Learning // Annals of Statistics. — 2008. — Vol. 36, No. 3. — P. 1171–1220. Препринт.
  14. Cortes C., Vapnik V. Support-Vector Networks // Machine Learning. — 1995. — Vol. 20. — P. 273–297.
  15. Журавлёв Ю. И., Никифоров В. В. Алгоритмы распознавания, основанные на вычислении оценок // Кибернетика. — 1971. — № 3. — С. 1–11.
  16. Журавлёв Ю. И. Экстремальные алгоритмы в алгебре над некорректными алгоритмами // Доклады АН СССР. — 1977. — Т. 237, № 3. — С. 509–512.
  17. Журавлёв Ю. И. Об алгебраическом подходе к решению задач распознавания или классификации // Проблемы кибернетики. — 1978. — Вып. 33. — С. 5–68.
  18. Журавлёв Ю. И. и др. Задачи распознавания и классификации со стандартной обучающей информацией // Журнал вычислительной математики и математической физики. — 1980. — Т. 20, № 5. — С. 1294–1309.
  19. Журавлёв Ю. И., Абламейко С. В., Бирюков А. С. и др. Алгоритмы алгебраической и логической коррекции и их применения // Распознавание образов и анализ изображений. — 2010. — Т. 20, № 2. — С. 105–117. DOI: 10.1134/S105466181002001X.
  20. Институт проблем управления им. В. А. Трапезникова РАН. 75 лет. — М.: ИПУ РАН, 2014.