Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{TOCright}} '''Советские научные школы искусственного интеллекта''' — совокупность исследовательских направлений, сложившихся в СССР в 1950–1970-х годах на пересечении [[кибернетика|кибернетики]], теории управления, физиологии зрения, дискретной математики и [[распознавание образов|распознавания образов]]. В отличие от американской традиции, институциональным символом которой стал [[Дартмутский семинар]], многие советские работы исходили не из задачи построения универсального символического решателя, а из конкретных проблем: выделения информативных признаков, обучения по малой выборке, идентификации сложных систем, синтеза надёжного решения из эвристических процедур. В статье рассматриваются четыре влиятельные школы: школа [[Бонгард, Михаил Моисеевич|М. М. Бонгарда]], школа А. Г. Ивахненко, школа М. А. Айзермана и школа [[Журавлёв, Юрий Иванович|Ю. И. Журавлёва]]. Границы между ними не были непроницаемыми: исследователи работали в общей среде советской кибернетики, участвовали в одних семинарах и решали близкие задачи. Поэтому слово «школа» ниже обозначает не только коллектив учеников, но и устойчивую программу исследований с собственным языком, типовыми постановками и последующим развитием. Важно различать '''приоритет''', '''влияние''' и '''содержательное сходство'''. Некоторые идеи имеют прослеживаемую линию развития: например, статья Айзермана, Бравермана и Розоноэра 1964 года прямо цитируется в литературе по [[ядерные методы|ядерным методам]]. В других случаях, например при сопоставлении алгебраических корректоров Журавлёва с современными ансамблями, корректнее говорить о близости принципов, а не о прямом переименовании или обязательном историческом заимствовании. == Исторический контекст == После идеологических дискуссий конца 1940-х — начала 1950-х годов кибернетика в СССР была признана легитимным научным направлением. Существенную роль сыграли работы А. И. Китова, А. А. Ляпунова и С. Л. Соболева, а также семинары по кибернетике и теории автоматов. Советская программа искусственного интеллекта формировалась сразу в нескольких институциональных центрах: * в Институте биологической физики и позднее в Институте проблем передачи информации АН СССР изучались зрение, восприятие и адаптивное поведение; * в Институте автоматики и телемеханики АН СССР (ныне ИПУ РАН) развивались обучение автоматов, распознавание и теория управления; * в Институте кибернетики АН УССР исследовались идентификация и самоорганизация моделей сложных систем; * в Сибирском отделении АН СССР, Вычислительном центре АН СССР и МГУ развивались дискретные и алгебраические методы распознавания. Краткая хронология ключевых результатов: {| class="wikitable" ! Год ! Событие ! Современная область сопоставления |- | 1958–1961 | М. М. Бонгард начинает компьютерное моделирование физиологических процессов; создаётся программа «Кора» | поиск закономерностей, интерпретируемые правила, feature construction |- | 1960–1964 | формулируется гипотеза компактности и публикуются теоретические основы метода потенциальных функций | ядерные классификаторы, kernel perceptron |- | 1965–1971 | А. Г. Ивахненко и В. Г. Лапа развивают самоорганизацию многослойных полиномиальных моделей; появляется МГУА | автоматический выбор архитектуры, глубокое обучение, model selection |- | 1967 | выходит книга М. М. Бонгарда «Проблема узнавания» с задачником из ста визуальных задач | few-shot concept learning, визуальное и нейросимвольное рассуждение |- | 1971 | Ю. И. Журавлёв и В. В. Никифоров описывают алгоритмы вычисления оценок | метрические и логические классификаторы, голосование по опорным фрагментам |- | 1976–1978 | Ю. И. Журавлёв строит теорию корректных алгебр над эвристическими алгоритмами | обучаемые композиции, корректоры, ансамбли алгоритмов |} == Школа М. М. Бонгарда == [[Изображение:Bongard002.jpg|thumb|right|220px|Михаил Моисеевич Бонгард (1924–1971).]] === От физиологии зрения к проблеме узнавания === [[Бонгард, Михаил Моисеевич|Михаил Моисеевич Бонгард]] пришёл к распознаванию из биофизики и физиологии зрения. В 1950-х годах он исследовал цветоразличение и кодирование сигналов в зрительной системе, а с 1958 года использовал ЭВМ М-2 для моделирования физиологических процессов. В 1961–1962 годах М. М. Бонгард, М. Л. Цетлин и В. И. Варшавский организовали Комаровскую зимнюю школу по теории автоматов и распознаванию образов. Тем самым задача машинного узнавания рассматривалась не только как статистическая классификация, но и как модель восприятия и формирования понятий. Центральное различие у Бонгарда — различие между '''рецепторным описанием''' объекта и '''пространством признаков'''. Пусть объект <tex>x</tex> наблюдается через первичные измерения <tex>r_1(x),\ldots,r_d(x)</tex>. Узнающая система должна не просто подобрать решающее правило в фиксированном пространстве, а построить вторичные признаки :<tex>\varphi_j(x)=F_j(r_1(x),\ldots,r_d(x)), \qquad j=1,\ldots,m,</tex> которые делают различие классов коротко выразимым. Эта постановка близка к современному '''обучению представлений''', но исторически возникла независимо и реализовывалась иными средствами — перебором структурированных признаков, логическими операциями и оценкой их полезности. В статье «О понятии „полезная информация“» Бонгард связывал ценность сообщения не только с уменьшением энтропии, но и с изменением вероятности достижения цели. Для распознавания такой целью является правильное решение. Следовательно, информативность признака зависит от задачи и выбранного решающего механизма; один и тот же сигнал может быть полезным, бесполезным или дезинформирующим. === Программа «Кора» === Программа «Кора», разработка которой началась под руководством Бонгарда в 1961 году, искала короткие сочетания элементарных свойств, характерные для одного класса и почти не встречающиеся в другом. В современной записи пусть обучающая выборка имеет вид :<tex>X=\{(x_i,y_i)\}_{i=1}^{\ell}, \qquad x_i\in\{0,1\}^{d},\quad y_i\in\{-1,+1\}.</tex> '''Конъюнктивным признаком ранга <tex>r</tex>''' назовём предикат :<tex>P_{J,b}(x)=\prod_{s=1}^{r}[x_{j_s}=b_s], \qquad J=(j_1,\ldots,j_r),\quad b_s\in\{0,1\},</tex> где скобка Айверсона равна единице при истинном условии и нулю иначе. Для него вычисляются частоты в двух классах :<tex>n_{+}(P)=\sum_{i:y_i=+1}P(x_i), \qquad n_{-}(P)=\sum_{i:y_i=-1}P(x_i).</tex> Признак считается закономерностью класса <tex>+1</tex>, если <tex>n_{+}(P)</tex> достаточно велико, а <tex>n_{-}(P)</tex> не превосходит допустимого числа исключений; симметрично определяются закономерности класса <tex>-1</tex>. В классическом варианте перебирались прежде всего небольшие наборы, в частности тройки бинарных признаков. После отбора правила голосуют: :<tex>\Gamma_c(x)=\sum_{P\in\mathcal P_c}w_P P(x), \qquad a(x)=\arg\max_{c\in\{-1,+1\}}\Gamma_c(x).</tex> Таким образом, «Кора» соединяла четыре идеи: построение признаков, комбинаторный поиск, контроль числа контрпримеров и взвешенное голосование интерпретируемых правил. Программа применялась, в частности, к геологическому прогнозированию нефтеносности. По современному языку она близка к поиску контрастных паттернов, ассоциативным правилам и логическим классификаторам. Однако это сходство не устраняет различий: «Кора» работала с явно заданным словарём элементарных свойств и полным либо ограниченным комбинаторным перебором, а современные методы часто обучают непрерывное представление градиентно. === Задачи Бонгарда === В приложении к книге «Проблема узнавания» (1967) были приведены сто задач. Каждая задача содержит две небольшие группы изображений; требуется сформулировать простое понятие, истинное для всех изображений одной группы и ложное для изображений другой. Формально для множеств примеров <tex>X^+</tex> и контрпримеров <tex>X^-</tex> нужно найти предикат <tex>h</tex> из языка гипотез <tex>\mathcal H</tex> такой, что :<tex>h(x)=1\quad\forall x\in X^+, \qquad h(x)=0\quad\forall x\in X^-,</tex> причём среди согласованных гипотез предпочтительна содержательно простая. Именно требование найти '''объясняющее понятие''', а не только метку, делает эти задачи ранним тестом абстрактного визуального рассуждения. Позднее задачи были популяризированы Д. Хофштадтером, а в XXI веке стали основой наборов Bongard-LOGO и Bongard-HOI. Современные работы относят их к few-shot concept learning, program induction и нейросимвольному ИИ. Результаты на Bongard-LOGO показывают, что высокая точность обычного распознавания объектов ещё не гарантирует способности вывести контекстно зависимое правило по нескольким примерам. Тем самым исходный замысел Бонгарда оказался не закрытой исторической задачей, а современным диагностическим тестом границы между восприятием и рассуждением. === Что было развито позднее === * построение вторичных признаков соответствует общей идее representation learning, хотя методы реализации различаются; * короткие конъюнктивные закономерности получили развитие в rule learning, subgroup discovery и interpretable machine learning; * разделение примеров и контрпримеров по краткому описанию стало центральным для индуктивного программирования и нейросимвольных систем; * задачи Бонгарда предвосхитили современные тесты на few-shot-обобщение, композиционность и контекстное восприятие. См. также: [[Алгоритм КОРА]], [[Тесты Бонгарда]], [[Индуктивное формирование понятий]], [[Логические алгоритмы классификации]]. == Школа А. Г. Ивахненко == [[Изображение:Ivahnenko.JPG|thumb|right|220px|Алексей Григорьевич Ивахненко (1913–2007).]] === Индуктивная самоорганизация моделей === Алексей Григорьевич Ивахненко развивал в Киеве инженерную кибернетику и идентификацию сложных систем. В книге А. Г. Ивахненко и В. Г. Лапы «Кибернетические предсказывающие устройства» (1965), статье 1968 года и последующей «Полиномиальной теории сложных систем» (1971) была сформулирована программа автоматического построения модели по данным. Её наиболее известная реализация — '''[[Метод группового учёта аргументов|метод группового учёта аргументов]]''' (МГУА; англ. ''Group Method of Data Handling'', GMDH). Исходной универсальной формой служит полином Колмогорова—Габора :<tex>y=a_0+\sum_i a_i x_i+\sum_{i,j}a_{ij}x_ix_j+\sum_{i,j,k}a_{ijk}x_ix_jx_k+\cdots.</tex> Полный полином быстро становится слишком большим. Поэтому МГУА строит его не прямой оценкой всех коэффициентов, а последовательностью частичных моделей. Типичный опорный элемент для пары входов имеет вид :<tex>z_k=a_0+a_1u+a_2v+a_3uv+a_4u^2+a_5v^2.</tex> Коэффициенты <tex>a</tex> оцениваются на одной части данных, а качество структуры проверяется на другой. Лучшие выходы <tex>z_k</tex> становятся входами следующего слоя, где процедура повторяется. === Процедура МГУА === Пусть выборка разделена на обучающую часть <tex>D_{\mathrm{fit}}</tex> и проверочную часть <tex>D_{\mathrm{val}}</tex>. # На первом слое образуются кандидаты <tex>f_k^{(1)}(x_{i_k},x_{j_k};a_k)</tex> для различных пар исходных переменных. # Для каждого кандидата параметры <tex>a_k</tex> оцениваются по <tex>D_{\mathrm{fit}}</tex>, например методом наименьших квадратов. # По внешнему критерию #:<tex>CR_k^{(s)}=\frac{1}{|D_{\mathrm{val}}|}\sum_{(x,y)\in D_{\mathrm{val}}}\left(y-f_k^{(s)}(x)\right)^2</tex> # отбирается несколько лучших моделей слоя <tex>s</tex>. # Их выходы образуют переменные для слоя <tex>s+1</tex>. # Рост сети прекращается, когда минимум внешнего критерия перестаёт уменьшаться: #:<tex>\min_k CR_k^{(s+1)}\geq \min_k CR_k^{(s)}.</tex> Здесь '''внешний критерий''' означает, что структура сравнивается не на тех же наблюдениях, по которым подбирались её коэффициенты. Это ранняя и содержательно ясная форма разделения подгонки параметров и выбора модели. Число слоёв, состав связей и эффективная степень полинома определяются данными, а не задаются полностью заранее. Ивахненко называл этот процесс самоорганизацией: конкурируют не только численные параметры, но и структуры моделей. В статье 1971 года была показана многослойная сеть, применённая к моделированию британской экономики. Поздние исторические обзоры нейронных сетей, в частности обзор Ю. Шмидхубера, относят МГУА к первым работоспособным алгоритмам обучения глубоких многослойных сетей. === МГУА и современное глубокое обучение === Сходство с [[глубокое обучение|глубоким обучением]] состоит в композиции многих обучаемых нелинейных слоёв и в появлении внутренних представлений. Но различия принципиальны: {| class="wikitable" ! МГУА ! Типичная современная глубокая сеть |- | структура порождается перебором кандидатов и послойным отбором | структура обычно задаётся архитектурой, а её параметры обучаются совместно |- | параметры локальных полиномов часто находятся аналитически | параметры оптимизируются обратным распространением ошибки |- | внешний критерий непосредственно управляет глубиной и числом узлов | контрольная выборка чаще выбирает гиперпараметры и момент остановки |- | узлы обычно имеют явную полиномиальную интерпретацию | скрытые признаки могут быть высокоразмерными и трудно интерпретируемыми |} Поэтому выражение «первая глубокая сеть» допустимо как ретроспективная классификация, но не означает тождества МГУА и современных нейросетей. Более точная историческая формула: школа Ивахненко раньше массового распространения deep learning продемонстрировала обучаемую многослойную композицию, автоматический рост архитектуры и отбор сложности по данным. См. также: [[Метод группового учёта аргументов]], [[Самоорганизация моделей]], [[Глубокое обучение]], [[Выбор модели]], [[Кросс-валидация]]. == Школа М. А. Айзермана == [[Изображение:Aizerman.jpg|thumb|right|220px|Марк Аронович Айзерман (1913–1992).]] === Обучение автоматов и гипотеза компактности === Марк Аронович Айзерман возглавлял в Институте автоматики и телемеханики направление, в котором работали Э. М. Браверман и Л. И. Розоноэр. Исследования выросли из теории управления и обучения автоматов. Их геометрическая основа — '''гипотеза компактности''': объекты одного класса после подходящего описания образуют компактные множества, а близость в пространстве признаков несёт информацию о принадлежности классу. Эта гипотеза не утверждает, что любой класс компактен в исходных координатах. Она задаёт программу построения такого представления и такой меры сходства, в которых эмпирические классы можно разделить. В 1964 году М. А. Айзерман, Э. М. Браверман и Л. И. Розоноэр опубликовали теоретические основы [[Метод потенциальных функций|метода потенциальных функций]], позднее систематизированного в монографии 1970 года. === Метод потенциальных функций === Пусть <tex>(x_i,y_i)</tex>, <tex>y_i\in\{-1,+1\}</tex>, — обучающие примеры. Каждый пример создаёт в точке <tex>x</tex> потенциал <tex>K(x,x_i)</tex>, а классификатор складывает потенциалы с учётом класса: :<tex>F(x)=\sum_{i=1}^{\ell}\alpha_i y_i K(x,x_i), \qquad a(x)=\operatorname{sign}F(x).</tex> Коэффициенты <tex>\alpha_i\geq0</tex> увеличиваются для тех объектов, на которых текущее правило ошибается. Если <tex>y_iF(x_i)\leq0</tex>, то простейшая коррекция имеет вид :<tex>\alpha_i\leftarrow\alpha_i+1.</tex> В работе 1964 года исследовался более общий класс схем и были доказаны теоремы конечной сходимости при выполнении гипотезы о разделимости классов выбранными потенциальными функциями. Ключевой шаг состоит в представлении потенциала как скалярного произведения признаковых отображений: :<tex>K(x,z)=\langle\Phi(x),\Phi(z)\rangle=\sum_{r}\varphi_r(x)\varphi_r(z).</tex> Тогда :<tex>F(x)=\left\langle \sum_{i=1}^{\ell}\alpha_i y_i\Phi(x_i),\Phi(x)\right\rangle,</tex> то есть нелинейное правило в исходном пространстве является линейным в пространстве признаков. Вычислять координаты <tex>\Phi(x)</tex> явно не требуется, если доступна функция <tex>K(x,z)</tex>. В современной терминологии это ядровой персептрон и ранний пример '''kernel trick'''. === От потенциальных функций к ядерным машинам === Работа Айзермана, Бравермана и Розоноэра предшествовала массовому развитию ядерных методов на несколько десятилетий. В 1990-х годах [[Метод опорных векторов|метод опорных векторов]] сделал ядерное представление центральным инструментом машинного обучения. Однако потенциальный метод и SVM не тождественны: * в потенциальном методе коэффициенты исправляются последовательными ошибками; * SVM решает задачу оптимизации с максимизацией геометрического зазора и регуляризацией; * положительно определённое ядро задаёт общее вычислительное представление, но критерии выбора решения различны. Поэтому исторически точнее считать метод потенциальных функций одним из истоков ядерных классификаторов, а не ранней формой уже полностью построенного SVM. Современные обзоры kernel methods прямо указывают статью 1964 года как первое применение ядерной идеи к распознаванию. Внутри школы развивались также автоматическая классификация без учителя, структурные методы анализа данных и «второй потенциал» — способ учитывать малые преобразования изображения уже на рецепторном поле. Последняя идея содержательно близка современному конструированию инвариантных мер сходства, хотя методы свёрточных сетей возникли в другой технической традиции. См. также: [[Метод потенциальных функций]], [[Ядерные методы]], [[Ядерный персептрон]], [[Метод опорных векторов]], [[Кластерный анализ]]. == Школа Ю. И. Журавлёва == [[Изображение:Yury I Zhuravlev.jpg|thumb|right|250px|Юрий Иванович Журавлёв (1935–2022).]] === От дискретного анализа к распознаванию === [[Журавлёв, Юрий Иванович|Юрий Иванович Журавлёв]] начал исследования распознавания в 1960-х годах, перенеся в прикладную задачу язык дискретного анализа и алгебры алгоритмов. Для школы Журавлёва характерны два уровня: создание широких моделей эвристических процедур и затем синтез корректного алгоритма из элементов такой модели. Слово '''эвристический''' здесь не означает произвольный или неправильный по реализации алгоритм. Оно означает, что алгоритм разумно устроен и может хорошо работать на практике, но не обязан давать верный ответ на каждом объекте заданной задачи. === Алгоритмы вычисления оценок === Модель [[Алгоритмы вычисления оценок|алгоритмов вычисления оценок]] (АВО), предложенная Ю. И. Журавлёвым и В. В. Никифоровым, объединяет распознавание по частичным сходствам и голосование. Пусть объект описан признаками <tex>x=(x_1,\ldots,x_d)</tex>, а <tex>X_c</tex> — обучающие объекты класса <tex>c</tex>. Задаётся семейство '''опорных множеств''' <tex>\Omega\subseteq\{1,\ldots,d\}</tex>, веса <tex>w_\Omega</tex> и предикат сходства <tex>S_\Omega(x,x_i)</tex> по признакам из <tex>\Omega</tex>. Оценка принадлежности классу имеет общий вид :<tex>\Gamma_c(x)=\sum_{x_i\in X_c}\sum_{\Omega\in\mathcal O}w_\Omega S_\Omega(x,x_i).</tex> Например, для бинарных признаков можно положить :<tex>S_\Omega(x,x_i)=\prod_{j\in\Omega}[x_j=x_{ij}].</tex> Затем решающее правило <tex>C</tex> переводит вектор оценок <tex>(\Gamma_1(x),\ldots,\Gamma_q(x))</tex> в метку класса или отказ от классификации. В абстрактной записи алгоритм представляется суперпозицией :<tex>A=C\circ B,</tex> где распознающий оператор <tex>B</tex> строит матрицу оценок, а решающее правило <tex>C</tex> принимает окончательное решение. Выбором системы опорных множеств, функции близости, нормировки и порогов в АВО выражаются многие логические и метрические процедуры. Поэтому АВО стали не одним алгоритмом, а языком описания семейства алгоритмов. Практические применения школы охватывали геологию, медицину, химию, техническую диагностику и экономическое прогнозирование. === Алгебраический подход === Пусть <tex>\mathcal M=\{B_\theta:\theta\in\Theta\}</tex> — модель распознающих операторов, каждый из которых выдаёт матрицу вещественных оценок. На операторах вводятся операции, наследуемые от операций над их выходными матрицами: :<tex>(B_1+B_2)(X)=B_1(X)+B_2(X),</tex> :<tex>(\lambda B)(X)=\lambda B(X),</tex> :<tex>(B_1B_2)(X)=B_1(X)\odot B_2(X),</tex> где <tex>\odot</tex> — покомпонентное умножение. Линейное замыкание модели состоит из операторов :<tex>\mathcal L(\mathcal M)=\left\{\sum_{i=1}^{k}\alpha_iB_i:\;B_i\in\mathcal M,\ \alpha_i\in\mathbb R,\ k<\infty\right\},</tex> а алгебраическое замыкание содержит полиномы конечной степени от элементов <tex>\mathcal M</tex> относительно указанных операций. Алгоритм называется '''корректным для задачи''' (или для заданной контрольной выборки), если после применения фиксированного решающего правила он не допускает ошибок на этой задаче. Основная программа Журавлёва состояла в поиске корректного элемента алгебраического замыкания над набором исходно некорректных эвристических алгоритмов. В цикле работ 1976–1978 годов были построены корректные алгебры и исследованы условия существования корректных линейных и полиномиальных расширений. Идея принципиальна: слабость отдельной эвристики не считается дефектом, если задан формальный способ их совместной коррекции. Позднее в школе развивались теория универсальных и локальных ограничений К. В. Рудакова, алгебро-логические корректоры, теория надёжности распознающих алгоритмов и алгебраический анализ изображений. === Сопоставление с ансамблевым обучением === Современные [[Композиции алгоритмов|композиции алгоритмов]] также строят сильное правило из базовых алгоритмов: :<tex>F(x)=\sum_{t=1}^{T}\alpha_t b_t(x), \qquad a(x)=C(F(x)).</tex> В этом смысле алгебраическая коррекция предвосхищает общий принцип обучаемой композиции. Но историческое тождество с bagging, boosting или stacking было бы неточным. Бустинг последовательно минимизирует функцию потерь, меняя веса объектов; алгебраический подход исследует замыкания моделей и существование корректоров в заданной алгебре операторов. Общей является архитектурная идея «много несовершенных процедур плюс обучаемая операция синтеза», тогда как критерии, операции и теоремы различаются. См. также: [[Алгоритмы вычисления оценок]], [[Алгебраический подход к распознаванию]], [[Корректирующая операция]], [[Композиции алгоритмов]], [[Ансамблевое обучение]]. == Сравнение научных программ == {| class="wikitable" ! Школа ! Главный вопрос ! Единица конструирования ! Механизм обучения ! Ближайшая современная проблематика |- | Бонгард | Как построить признаки и понятие, объясняющие различие примеров и контрпримеров? | логический или структурный признак | комбинаторный поиск и отбор по полезности | interpretable ML, concept learning, program induction |- | Ивахненко | Как данным самим определить структуру модели и её сложность? | частичная полиномиальная модель | послойное порождение и отбор по внешнему критерию | neural architecture search, deep learning, validation-based model selection |- | Айзерман | Как обучить нелинейное правило через геометрию сходства? | потенциальная функция, пример-прототип | коррекция весов на ошибках | kernel methods, online learning |- | Журавлёв | Как синтезировать корректное решение из эвристических алгоритмов? | распознающий оператор и корректор | алгебраическое замыкание и настройка композиции | ensemble learning, algorithm synthesis, hybrid models |} Общий мотив четырёх школ — отказ считать фиксированный набор признаков и единственный алгоритм окончательной постановкой задачи. Бонгард обучал язык признаков, Ивахненко — структуру многослойной модели, Айзерман — геометрию сходства и веса прототипов, Журавлёв — операцию синтеза алгоритмов. Современное машинное обучение вернулось к тем же уровням проектирования в терминах representation learning, architecture search, kernel learning и ensemble learning. При этом советские результаты не следует описывать только как «забытые современные методы». Они были частью самостоятельных программ, использовали собственный математический язык и отвечали ограничениям вычислительной техники своего времени. Исторически содержательнее видеть в них несколько альтернативных путей к обучаемым системам — часть этих путей вошла в мировой канон напрямую, а часть вновь стала заметна после появления новых вычислительных возможностей и задач. == См. также == * [[История искусственного интеллекта]] * [[Дартмутский семинар]] * [[Кибернетика в СССР]] * [[Распознавание образов]] * [[Машинное обучение]] * [[Глубокое обучение]] * [[Метод потенциальных функций]] * [[Алгоритмы вычисления оценок]] * [[Метод опорных векторов]] == Литература == # ''Бонгард М. М.'' Проблема узнавания. — М.: Наука, 1967. — 320 с. [https://djvu.online/file/UEoEkTEgzHVZn Электронная копия]. # ''Bongard M. M.'' Pattern Recognition. — New York: Spartan Books, 1970. — 253 p. [https://openlibrary.org/books/OL4910117M/Pattern_recognition Библиографическая запись]. # ''Бонгард М. М.'' О понятии «полезная информация» // Проблемы кибернетики. — 1963. — Вып. 9. — С. 71–102. # ''Вайнцвайг М. Н.'' Алгоритм обучения распознаванию образов «Кора» // Алгоритмы обучения распознаванию образов / под ред. В. Н. Вапника. — М.: Советское радио, 1973. — С. 110–116. # ''Depeweg S., Rothkopf C. A., Jäkel F.'' [https://arxiv.org/abs/1804.04452 Solving Bongard Problems with a Visual Language and Pragmatic Reasoning]. — 2018. # ''Nie W., Yu Z., Mao L. et al.'' [https://papers.nips.cc/paper/2020/hash/bf15e9bbff22c7719020f9df4badc20a-Abstract.html Bongard-LOGO: A New Benchmark for Human-Level Concept Learning and Reasoning] // Advances in Neural Information Processing Systems. — 2020. — Vol. 33. # ''Ивахненко А. Г., Лапа В. Г.'' Кибернетические предсказывающие устройства. — Киев: Наукова думка, 1965. — 213 с. [https://ci.nii.ac.jp/ncid/BB06466408 Библиографическая запись]. # ''Ivakhnenko A. G.'' The Group Method of Data Handling — a Rival of the Method of Stochastic Approximation // Soviet Automatic Control. — 1968. — Vol. 13, No. 3. — P. 43–55. # ''Ivakhnenko A. G.'' [https://doi.org/10.1109/TSMC.1971.4308320 Polynomial Theory of Complex Systems] // IEEE Transactions on Systems, Man, and Cybernetics. — 1971. — Vol. SMC-1, No. 4. — P. 364–378. # ''Schmidhuber J.'' [https://arxiv.org/abs/1404.7828 Deep Learning in Neural Networks: An Overview] // Neural Networks. — 2015. — Vol. 61. — P. 85–117. # ''Айзерман М. А., Браверман Э. М., Розоноэр Л. И.'' [https://www.mathnet.ru/at11677 Теоретические основы метода потенциальных функций в задаче об обучении автоматов распознаванию образов] // Автоматика и телемеханика. — 1964. — Т. 25, № 6. — С. 917–936. # ''Айзерман М. А., Браверман Э. М., Розоноэр Л. И.'' Метод потенциальных функций в теории обучения машин. — М.: Наука, 1970. — 384 с. [https://rusneb.ru/catalog/002744_000053_RU___%D0%93%D0%9F%D0%9D%D0%A2%D0%91%2B%D0%A0%D0%BE%D1%81%D1%81%D0%B8%D0%B8___KNB_IBIS___621.398___%D0%90%2B36-758351/ Запись НЭБ]. # ''Hofmann T., Schölkopf B., Smola A. J.'' Kernel Methods in Machine Learning // Annals of Statistics. — 2008. — Vol. 36, No. 3. — P. 1171–1220. [https://arxiv.org/abs/math/0701907 Препринт]. # ''Cortes C., Vapnik V.'' Support-Vector Networks // Machine Learning. — 1995. — Vol. 20. — P. 273–297. # ''Журавлёв Ю. И., Никифоров В. В.'' Алгоритмы распознавания, основанные на вычислении оценок // Кибернетика. — 1971. — № 3. — С. 1–11. # ''Журавлёв Ю. И.'' [https://www.mathnet.ru/dan41348 Экстремальные алгоритмы в алгебре над некорректными алгоритмами] // Доклады АН СССР. — 1977. — Т. 237, № 3. — С. 509–512. # ''Журавлёв Ю. И.'' Об алгебраическом подходе к решению задач распознавания или классификации // Проблемы кибернетики. — 1978. — Вып. 33. — С. 5–68. # ''Журавлёв Ю. И. и др.'' [https://www.mathnet.ru/zvmmf5190 Задачи распознавания и классификации со стандартной обучающей информацией] // Журнал вычислительной математики и математической физики. — 1980. — Т. 20, № 5. — С. 1294–1309. # ''Журавлёв Ю. И., Абламейко С. В., Бирюков А. С. и др.'' Алгоритмы алгебраической и логической коррекции и их применения // Распознавание образов и анализ изображений. — 2010. — Т. 20, № 2. — С. 105–117. DOI: 10.1134/S105466181002001X. # [https://www.ipu.ru/sites/default/files/page_file/75%20%D0%BB%D0%B5%D1%82%20%D0%98%D0%9F%D0%A3%20%D0%A0%D0%90%D0%9D.pdf Институт проблем управления им. В. А. Трапезникова РАН. 75 лет]. — М.: ИПУ РАН, 2014. [[Категория:Искусственный интеллект]] [[Категория:История науки]] [[Категория:Машинное обучение]] [[Категория:Распознавание образов]]

• Шаблон:TOCright

Возврат к странице Советские школы ИИ.