Онтологические предпочтения в принятии компьютерных моделей когнитивных феноменов.

Материал из MachineLearning.

Перейти к: навигация, поиск

Онтологические предпочтения в принятии компьютерных моделей когнитивных феноменов — аналитическое обозначение совокупности исходных представлений о природе сознания, мышления, познания и реальности, которые влияют на оценку компьютерной модели как описания или объяснения когнитивного явления. Эти представления определяют, что исследователь считает существенными компонентами познания: вычислительные операции, внутренние репрезентации, нейронные процессы, свойства тела, взаимодействие организма со средой или субъективный опыт.

Выражение «онтологические предпочтения» не обозначает единую общепринятую теорию в когнитивной науке. Оно используется здесь как обобщающий термин для анализа скрытых предпосылок, от которых зависит переход от утверждения «модель успешно воспроизводит данные» к более сильным утверждениям «модель объясняет явление» или «модель реализует тот же тип когнитивного процесса».

Принятие модели зависит не только от философской позиции. Оно также определяется качеством данных, постановкой эксперимента, точностью предсказаний, возможностью сравнения альтернативных моделей и соответствием модели цели исследования. Однако при одинаковых эмпирических результатах сторонники разных представлений о природе познания могут по-разному оценивать объяснительную значимость одной и той же модели.

Содержание

Понятие онтологических предпочтений

В философии науки онтология относится к представлениям о том, какие объекты, процессы и отношения существуют в исследуемой области. Применительно к когнитивной науке онтологические вопросы включают следующие проблемы:

  • являются ли мысли и восприятия вычислительными состояниями;
  • существуют ли внутренние ментальные репрезентации;
  • определяется ли когнитивное состояние его функцией или физическим носителем;
  • ограничена ли когнитивная система мозгом;
  • входят ли тело и окружающая среда в состав когнитивного процесса;
  • сводится ли сознательный опыт к функциональной или нейронной организации.

Ответы на эти вопросы влияют на критерии адекватности компьютерной модели. Например, для функционалиста существенным может быть воспроизведение причинно-функциональной структуры процесса, тогда как сторонник воплощённого познания потребует учитывать свойства тела и сенсомоторное взаимодействие со средой.

Компьютерная модель в данном контексте представляет собой формально заданную систему переменных, состояний и правил их изменения, предназначенную для воспроизведения, предсказания или объяснения некоторого аспекта поведения или когнитивной деятельности. Между элементами модели и исследуемым явлением должна быть установлена интерпретация: исследователь указывает, какие состояния или параметры модели соответствуют наблюдаемым либо предполагаемым компонентам когнитивной системы.

Уровни анализа когнитивной модели

Важное влияние на методологию когнитивного моделирования оказало предложенное Дэвидом Марром различение трёх уровней анализа информационной системы:

  • вычислительный уровень — какую задачу решает система и почему данная задача имеет такую форму;
  • алгоритмический уровень — какие представления и процедуры используются для решения задачи;
  • уровень реализации — каким образом алгоритм физически реализован в конкретной системе.[1]

Одна модель может быть адекватной на одном уровне и недостаточной на другом. Математическая модель принятия решений, например, может правильно описывать функцию выбора, но не соответствовать реальным нейронным механизмам её выполнения. Нейронная сеть может воспроизводить активность некоторых областей мозга, не предоставляя при этом единственного объяснения того, какую вычислительную задачу решает система.

Уровни Марра не следует понимать как полностью независимые. Современная вычислительная когнитивная нейронаука стремится связывать постановку задачи, алгоритмическую организацию, поведение и нейронную реализацию.[1]

Предсказание, объяснение и онтологическое утверждение

Предсказательная модель

Предсказательная модель предназначена прежде всего для получения точных результатов на новых наблюдениях. Её оценивают по качеству обобщения, ошибке на независимых данных, устойчивости, калибровке и способности переноситься на новые условия.

Высокая предсказательная точность является важным научным результатом, но сама по себе не устанавливает причинный механизм явления. Несколько моделей с различными внутренними структурами могут давать сходные предсказания. Кроме того, признаки, полезные для прогнозирования, необязательно являются причинами предсказываемого результата.[1]

В психологии подчёркивается, что объяснительные и предсказательные задачи требуют разных стратегий моделирования. Объяснительная теория может быть содержательной, но плохо предсказывать индивидуальное поведение, тогда как сложный алгоритм машинного обучения способен давать точные прогнозы без ясной интерпретации своих внутренних зависимостей.[1]

Научное объяснение

Научное объяснение должно показывать, почему или каким образом возникает исследуемое явление. В когнитивной науке используются разные типы объяснений:

  • причинные;
  • механистические;
  • функциональные;
  • вычислительные;
  • динамические;
  • эволюционные;
  • нормативные.

Согласно механистическому подходу, модель получает объяснительную силу, если её элементы и зависимости правдоподобно соотносятся с компонентами, действиями и организацией механизма, производящего явление. Это требование известно как условие соответствия между моделью и механизмом — model-to-mechanism mapping.[1]

Такое понимание объяснения является влиятельной, но не единственной философской позицией. Некоторые вычислительные модели объясняют явление через выполняемую функцию, оптимизационную задачу или общие математические ограничения, не задавая полного описания физического механизма.

Онтологическое утверждение

Онтологическое утверждение относится не только к возможностям модели, но и к природе моделируемого явления. Примерами являются утверждения:

  • «мышление является вычислением»;
  • «убеждения являются внутренними репрезентациями»;
  • «когнитивная система включает внешние инструменты»;
  • «сознание определяется функциональной организацией»;
  • «познание представляет собой динамическое взаимодействие организма и среды».

Такие выводы логически не следуют из одной лишь успешности модели. Чтобы перейти от предсказательного результата к утверждению о природе мышления, необходимы дополнительные эмпирические данные и философская аргументация.

Например, совпадение ответов искусственной нейронной сети с ответами человека показывает определённое сходство поведения. Оно не доказывает, что человек и сеть используют одинаковые представления, алгоритмы или механизмы. Тем более это совпадение не устанавливает наличие у сети субъективного опыта.

Основные онтологические позиции

Вычислительный функционализм

Вычислительный функционализм объединяет две связанные, но логически различимые идеи: функционалистское понимание психических состояний и вычислительное понимание когнитивных процессов.

Согласно функционализму, тип психического состояния определяется не материалом, из которого состоит система, а ролью этого состояния в общей причинной организации. Например, состояние определяется тем, какими входами оно вызывается, как связано с другими состояниями и к каким действиям приводит.[1]

Такой подход допускает множественную реализуемость: одна и та же функциональная организация в принципе может быть реализована в биологической нервной системе, электронной системе или другом физическом носителе. Поэтому функционалист может считать компьютерную модель когнитивно адекватной, если она воспроизводит существенную причинно-функциональную структуру процесса, даже когда её физическая реализация существенно отличается от работы мозга.

Вычислительная теория разума рассматривает когнитивные процессы как операции над информационными состояниями, выполняемые в соответствии с определёнными правилами.[1] В классических вариантах такими состояниями выступают структурированные символические репрезентации. В более широких трактовках вычисления могут реализовываться распределёнными нейронными или вероятностными системами.

Философской позицией, а не установленным эмпирическим фактом, является вывод, что воспроизведение соответствующей вычислительной организации достаточно для наличия мышления или сознания. К числу дискуссионных вопросов относятся происхождение семантического содержания, роль биологической реализации и возможность объяснить субъективные качества опыта только через функциональные отношения.

Репрезентационизм

Репрезентационизм предполагает, что когнитивные процессы включают состояния, которые представляют объекты, свойства или ситуации. Ментальная репрезентация является теоретическим понятием когнитивной науки и может иметь символическую, образную, вероятностную или распределённую форму.[1]

В репрезентационистской модели восприятие, память, планирование или рассуждение объясняются через создание, хранение и преобразование внутренних информационных структур. Например, модель пространственной навигации может постулировать внутреннее представление положения агента и структуры окружающей среды.

С этой позиции модель считается более убедительной, если её внутренние состояния:

  • устойчиво связаны с определёнными объектами или свойствами;
  • участвуют в причинном производстве поведения;
  • позволяют объяснять ошибки и систематические искажения;
  • переносятся между различными задачами;
  • поддерживают ожидаемые операции над представленным содержанием.

Однако возможность извлечь некоторую информацию из состояния модели ещё не доказывает, что это состояние является репрезентацией в сильном теоретическом смысле. Информация может быть статистически доступна, но не использоваться системой для выполнения исследуемой функции. Поэтому интерпретация внутреннего состояния требует анализа его причинной роли, условий формирования и связей с поведением.

Репрезентационизм не тождествен символическому подходу. Нейронные сети могут использовать распределённые репрезентации, в которых содержание кодируется не отдельным символом, а совместной активностью множества элементов.

Коннекционизм

Коннекционизм — направление когнитивного моделирования, объясняющее интеллектуальные способности с помощью сетей взаимосвязанных вычислительных элементов. Состояние такой системы определяется активностью элементов и весами связей между ними, а обучение обычно заключается в изменении параметров сети на основе опыта.[1]

Развитие методов обучения многослойных сетей, в частности распространение алгоритма обратного распространения ошибки, сделало возможным обучение внутренних распределённых представлений непосредственно по данным.[1]

Коннекционизм изменил критерии, по которым компьютерная модель могла приниматься как модель познания. Вместо явного программирования символов и правил стало возможным исследовать системы, в которых внутренние структуры формируются в результате обучения. Это позволило моделировать постепенное усвоение закономерностей, распределённое хранение информации, устойчивость к шуму и плавное ухудшение работы при повреждении отдельных элементов.

При этом коннекционизм не задаёт единственной онтологии. Возможны по меньшей мере три его интерпретации:

  • нейронная сеть является удобным инструментом предсказания поведения;
  • сеть моделирует алгоритмическую организацию когнитивного процесса;
  • элементы и связи сети приближённо соответствуют компонентам биологического механизма.

Эти интерпретации имеют разную доказательную нагрузку. Высокое качество классификации не означает автоматического сходства с мозгом. Для нейробиологической интерпретации требуются дополнительные соответствия между внутренней динамикой модели, поведением и экспериментальными данными о нервной системе.

Дискуссия между классическим символическим подходом и коннекционизмом касается, в частности, способности сетей объяснять продуктивность, композиционность и систематичность человеческого мышления.[1] Наличие успешных нейросетевых моделей само по себе не устраняет эту дискуссию, поскольку остаётся вопрос, какие именно механизмы обеспечивают перенос структурных правил на новые случаи.

Воплощённое познание

Воплощённое познание — неоднородная исследовательская программа, в рамках которой когнитивные процессы рассматриваются как существенно зависящие от строения и возможностей тела. Телесные свойства могут не просто обеспечивать входные и выходные каналы, но и участвовать в формировании категорий, памяти, восприятия и способов решения задач.[1]

В слабых вариантах воплощённого подхода утверждается, что тело причинно влияет на когнитивную обработку. Это утверждение допускает сохранение внутренних репрезентаций и вычислительных моделей. В более сильных вариантах некоторые когнитивные процессы рассматриваются как распределённые между мозгом, телом и окружающей средой.

С этой точки зрения модель изолированного преобразования входов в выходы может оказаться недостаточной, даже если она хорошо предсказывает результаты эксперимента. Для объяснения явления может потребоваться моделирование:

  • морфологии тела;
  • сенсомоторных ограничений;
  • активного получения информации;
  • положения агента в среде;
  • замкнутого цикла восприятия и действия.

С воплощённым подходом связана гипотеза расширенного разума, согласно которой устойчиво используемые внешние средства в некоторых случаях могут рассматриваться не только как вспомогательные инструменты, но и как части более широкой когнитивной системы.[1] Это философская гипотеза о границах когнитивной системы, а не прямое следствие данных о том, что люди используют записи, устройства и элементы окружающей среды.

Энактивное познание

Энактивизм рассматривает познание как возникающее из активного взаимодействия живого или автономного агента с окружающей средой. Познающий субъект не только принимает готовую информацию, но посредством действий формирует доступные ему различия и значения.[1]

Выделяются несколько направлений энактивизма:

  • автопоэтический энактивизм, связывающий познание с автономной организацией живых систем;
  • сенсомоторный энактивизм, объясняющий восприятие через освоение зависимостей между действием и изменением ощущений;
  • радикальный энактивизм, стремящийся заменить репрезентационные объяснения базовых форм познания динамическими и интерактивными объяснениями.[1]

В энактивной перспективе компьютерная модель должна воспроизводить не только правильные ответы, но и организацию взаимодействия, посредством которого эти ответы становятся возможны. Поэтому особое значение приобретают автономность агента, непрерывная обратная связь, история обучения и способность поддерживать собственную деятельность в изменяющейся среде.

Эмпирически проверяемыми являются конкретные предсказания о сенсомоторных зависимостях и поведении агента. Утверждение же о том, что познание по своей природе конституируется взаимодействием организма и среды или возможно только у живых автономных систем, относится к более сильным теоретическим и философским позициям.

Как онтология изменяет оценку одной модели

Рассмотрим искусственную нейронную сеть, которая предсказывает решения человека в экспериментальной задаче.

С инструментальной точки зрения сеть может быть принята как полезная модель, если её предсказания устойчивы на новых данных. При этом вопрос о сходстве внутренних механизмов человека и сети может не ставиться.

Функционалист будет искать соответствие между причинными ролями состояний модели и функциями, необходимыми для выполнения задачи. Различие физического носителя само по себе не считается решающим.

Репрезентационист потребует установить, какие внутренние состояния сети представляют условия задачи, цели и возможные действия, а также показать, что эти состояния причинно участвуют в формировании ответа.

Коннекционист может рассматривать распределённую структуру сети и динамику обучения как гипотезу об алгоритмической организации когнитивной способности. Однако для вывода о нейронном механизме понадобятся данные о соответствии модели нервной системе.

Сторонник воплощённого познания спросит, не зависит ли человеческое решение от телесных и сенсомоторных факторов, отсутствующих в модели.

Энактивист дополнительно поставит вопрос о том, возникает ли способность в процессе автономного взаимодействия со средой или только воспроизводится по заранее подготовленным данным.

Таким образом, одна модель может одновременно быть хорошим предсказательным инструментом, частичным функциональным объяснением и неудовлетворительной моделью воплощённого механизма. Эти оценки не обязательно противоречат друг другу: они могут относиться к разным исследовательским вопросам.

Биологическое правдоподобие и сходство с мозгом

Искусственные нейронные сети исторически вдохновлены организацией нервной системы, но обычно являются сильно идеализированными математическими конструкциями. Их элементы не следует автоматически отождествлять с отдельными биологическими нейронами, а веса — с конкретными синапсами.

Глубокие сети, обученные решать задачи зрительного распознавания, способны предсказывать некоторые особенности поведенческих и нейронных ответов зрительной системы. Это сделало их важным классом моделей в вычислительной нейронауке.[1]

Установленным результатом в таких исследованиях является измеримое соответствие между определёнными состояниями модели и экспериментальными данными в заданных условиях.

Из этого не следует автоматически, что модель полностью воспроизводит механизм биологического зрения. Сходные реакции могут возникать в системах с различной внутренней организацией. Для более сильного объяснительного вывода необходимо проверять реакцию модели на новые стимулы, характер ошибок, динамику обучения, причинную роль компонентов и результаты вмешательств.

Биологическое правдоподобие также не является единым критерием. Модель может быть биологически неправдоподобной на уровне отдельных нейронов, но полезной для описания выполняемого вычисления. И наоборот, локально правдоподобная нейронная модель может не объяснять сложное поведение всей системы.

Проблема сознания

Особенно осторожного отношения требует использование компьютерных моделей для объяснения сознания. Современные теории сознания различаются по тому, какие механизмы они считают центральными: глобальную доступность информации, рекуррентную обработку, метарепрезентацию, предсказательную обработку или интеграцию информации.[1]

Компьютерная модель может формализовать одну из таких теорий и помочь получить проверяемые предсказания. Например, она может показать, какие виды информационного обмена необходимы для доступа к данным, отчёта о восприятии или интеграции разных источников информации.

Однако необходимо различать:

  • моделирование поведения, связанного с сознательным отчётом;
  • моделирование нейронных коррелятов сознания;
  • объяснение функций, ассоциируемых с сознанием;
  • утверждение о наличии субъективного опыта у самой модели.

Первые три задачи допускают эмпирическую проверку в той мере, в какой операционализированы соответствующие наблюдаемые показатели. Последнее утверждение зависит от теории о природе сознания и не устанавливается только на основании языкового поведения, сложности системы или сходства с человеком.

Функционалистская теория может считать определённую функциональную организацию достаточной для сознания. Биологически ориентированные позиции могут связывать сознание с конкретными физическими свойствами нервной системы. Энактивные подходы могут подчёркивать роль автономности, воплощения и жизненной регуляции. На данный момент выбор между этими онтологическими интерпретациями не считается окончательно решённым научными данными.

Критерии обоснованного принятия модели

Для предотвращения смешения предсказания, объяснения и онтологии при оценке компьютерной модели рекомендуется явно указывать следующие элементы.

Цель моделирования

Необходимо определить, должна ли модель предсказывать наблюдения, описывать закономерность, формализовать теорию, воспроизводить механизм или демонстрировать принципиальную возможность некоторой способности.

Моделируемое явление

Следует точно определить, что именно объясняется: средний результат эксперимента, индивидуальное решение, время реакции, траектория обучения, нейронная активность, субъективный отчёт или взаимодействие агента со средой.

Уровень соответствия

Необходимо различать сходство:

  • входов и выходов;
  • ошибок и поведенческих стратегий;
  • внутренних представлений;
  • алгоритмов;
  • динамики обучения;
  • физической реализации.

Совпадение на одном уровне не гарантирует совпадения на остальных.

Проверка на независимых данных

Модель должна проверяться на данных и условиях, которые не использовались при выборе её структуры и параметров. Особенно важны перенос на новые задачи, устойчивость к изменениям условий и воспроизведение не только успехов, но и характерных человеческих ошибок.

Сравнение альтернатив

Объяснительная ценность модели определяется не только её согласованностью с данными, но и тем, превосходит ли она содержательные альтернативы. Если несколько существенно разных моделей одинаково хорошо описывают наблюдения, данные недостаточны для сильного онтологического вывода.

Причинные вмешательства

Удаление компонентов, изменение внутренних состояний и экспериментальное вмешательство в моделируемую систему позволяют проверить, действительно ли предполагаемые механизмы необходимы для результата. Простая корреляция между состоянием модели и наблюдаемой величиной не устанавливает причинную роль.

Явное описание идеализаций

Любая модель упрощает объект. Необходимо указывать, какие свойства намеренно исключены и почему это не разрушает ответ на поставленный вопрос. Отсутствие биологических деталей может быть допустимо для функциональной модели, но критично для утверждения о нейронном механизме.

Разделение результатов и интерпретаций

Корректное исследование должно отдельно формулировать:

  • непосредственно полученные эмпирические результаты;
  • выводы, поддерживаемые сравнением моделей;
  • теоретические интерпретации;
  • философские и онтологические предположения.

Практические рекомендации по построению и проверке вычислительных моделей поведения подчёркивают необходимость сравнения моделей, проверки идентифицируемости параметров, моделирования данных и анализа способности модели различать конкурирующие гипотезы.[1]

Роль формализации в когнитивной науке

Компьютерная реализация заставляет исследователя явно задавать переменные, операции, начальные условия и правила изменения состояний. Это помогает выявлять неопределённости, которые могут оставаться незаметными в словесной теории. Формальная модель также позволяет обнаружить, достаточно ли заявленных принципов для получения наблюдаемого поведения.[1]

Тем не менее наличие работающей программы не гарантирует истинность реализованной теории. Одна и та же программа может допускать разные когнитивные интерпретации, а одна теория — множество вычислительных реализаций. Поэтому компьютерное моделирование следует рассматривать как средство уточнения и проверки гипотез, а не как автоматический способ установления онтологии мышления.

Значение для искусственного интеллекта

В искусственном интеллекте онтологические предпочтения влияют на то, как интерпретируются способности искусственных систем. Способность модели решать языковые, зрительные или логические задачи может рассматриваться как:

  • инженерное достижение без утверждений о человеческом познании;
  • модель вычислительных требований соответствующей задачи;
  • гипотеза о возможной архитектуре мышления;
  • реализация отдельных когнитивных функций;
  • основание для более сильного утверждения о наличии понимания или сознания.

Переход между этими интерпретациями требует дополнительных аргументов. В частности, успешное выполнение теста не показывает однозначно, основано ли оно на тех же обобщениях, представлениях и причинных механизмах, которые использует человек.

Методы объяснимого искусственного интеллекта и интерпретации нейронных сетей позволяют изучать зависимости внутри искусственной системы. Однако объяснение работы модели и объяснение человеческого познания являются разными задачами. Даже полное знание внутреннего устройства искусственной сети не устанавливает её сходство с мозгом без независимого сопоставления двух систем.

Научный статус основных утверждений

К установленным научным результатам относятся возможности конкретных вычислительных моделей воспроизводить определённые поведенческие закономерности, обучаться на данных, предсказывать результаты новых наблюдений и в некоторых случаях коррелировать с измеренной нейронной активностью.

К проверяемым теоретическим гипотезам относятся предположения о том, что конкретная внутренняя переменная модели соответствует когнитивной репрезентации, что определённый алгоритм используется мозгом или что конкретная архитектура объясняет наблюдаемую способность.

К философским позициям относятся общие утверждения о тождестве мышления и вычисления, достаточности функциональной организации для сознания, обязательности внутренних репрезентаций, включении внешней среды в состав разума и зависимости познания от жизни как формы автономной организации.

Граница между этими категориями не всегда абсолютна. Философская позиция может порождать эмпирически проверяемые гипотезы, а новые экспериментальные результаты могут усиливать или ослаблять её правдоподобие. Однако отдельный эксперимент обычно проверяет конкретное следствие теории, а не всю онтологическую систему целиком.

Заключение

Онтологические предпочтения определяют, какие свойства компьютерной модели считаются существенными для объяснения когнитивного феномена. Вычислительный функционализм делает акцент на причинно-функциональной организации; репрезентационизм — на внутренних состояниях, обладающих содержанием; коннекционизм — на распределённой обработке и обучении сетей; воплощённые и энактивные подходы — на роли тела, действия, автономии и взаимодействия со средой.

Ни один из этих подходов не сводится к отдельному алгоритму и не подтверждается одной демонстрацией успешного поведения. Компьютерная модель может быть точным предсказательным инструментом, не являясь полным объяснением. Она может предоставлять научное объяснение на определённом уровне, не устанавливая онтологическое тождество между моделью и познанием.

Методологически обоснованное принятие модели требует явно указывать цель и уровень моделирования, проверять альтернативные объяснения, сопоставлять модель с независимыми поведенческими и нейронными данными и отделять эмпирические результаты от философских интерпретаций. Такой подход позволяет использовать компьютерные модели как строгий инструмент когнитивной науки, не приписывая им выводов, которые не следуют из полученных данных.

См. также

Примечания

Литература

Источник — «http://recognition.su/wiki/index.php?title=%D0%9E%D0%BD%D1%82%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B5_%D0%BF%D1%80%D0%B5%D0%B4%D0%BF%D0%BE%D1%87%D1%82%D0%B5%D0%BD%D0%B8%D1%8F_%D0%B2_%D0%BF%D1%80%D0%B8%D0%BD%D1%8F%D1%82%D0%B8%D0%B8_%D0%BA%D0%BE%D0%BC%D0%BF%D1%8C%D1%8E%D1%82%D0%B5%D1%80%D0%BD%D1%8B%D1%85_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B5%D0%B9_%D0%BA%D0%BE%D0%B3%D0%BD%D0%B8%D1%82%D0%B8%D0%B2%D0%BD%D1%8B%D1%85_%D1%84%D0%B5%D0%BD%D0%BE%D0%BC%D0%B5%D0%BD%D0%BE%D0%B2.»