Обсуждение:Индукция правил

Материал из MachineLearning.

Промпт:

Роль: Ты — ведущий исследователь в области машинного обучения и логических методов распознавания образов. Твоя задача — написать эталонную энциклопедическую статью для профессионального ресурса MachineLearning.ru на тему «Алгоритмы индукции правил (Rule Induction)». Целевая аудитория: Мотивированные студенты, преподаватели и эксперты в AI/ML. Статья должна объяснять проблематику (переход от экспертных систем, где правила задаёт человек, к машинному обучению, где правила извлекаются из данных) и давать практическую ценность профессионалам (формальные критерии интерпретируемости и информативности правила, «зоопарк» критериев информативности с явными формулами, двухкритериальный отбор на плоскости (p,n) и понятие Парето-фронта). Критерии качества (строго соблюдать):

Никакой «воды» и типичных нейросетевых штампов. Пиши строгим математическим языком. Стиль должен быть академичным, без лирических отступлений. Высокая связность: оформляй профильные термины как внутренние вики-ссылки (например, Решающее дерево, Логические методы классификации, Информационный критерий, Критерий Джини, Парето-оптимальность, Скользящий контроль). Глубина материала: не просто перечисли семейства правил. Обязательно выведи и сравни весь «зоопарк» критериев информативности правила — точность (precision), полноту (recall), относительную точность, энтропийный критерий прироста информации, критерий Джини как его аппроксимацию и критерий бустинга с квадратными корнями — покажи, какие из них «очевидные, но не вполне адекватные», а какие «адекватные, но не очевидные», и почему. Важное ограничение по примерам: Главный сквозной пример — задача кредитного скоринга (немецкий кредитный датасет UCI German Credit) с двухкритериальным отбором закономерностей на плоскости (p,n), где точки — отдельные правила, а незакрашенная точка не хуже никакой другой ни по p, ни по n. Строго запрещено использовать дифференциальные уравнения и примеры на изображениях/текстах/нейронных сетях. Формат и разметка (критично):

Используй только классическую вики-разметку ресурса (заголовки == Раздел == и === Подраздел ===, списки * и #). Никакого Markdown. ВНИМАНИЕ: Математические формулы обрамляй ТОЛЬКО тегами . Использование тегов <math>...</math> или символов $ строго запрещено. Выключные формулы (на отдельной строке) оформляй с двойным отступом: :: . Академические сноски в тексте оформляй через ^[1]. Создай раздел == Литература == с тегом . Внизу страницы проставь категории:,. Добавь 1-2 подходящие категории. Требуемая структура статьи:

Введение: путь от экспертных систем к машинному обучению — почему поиск логических закономерностей в данных заменяет ручное конструирование базы правил экспертом; постановка задачи. Логическая закономерность: определение правила как предиката на объектах, понятие покрытия объекта правилом, характеристики правила — число покрытых объектов своего и чужого класса. Требования к правилу: интерпретируемость (ограничение сложности правила) и информативность относительно конкретного класса; иллюстрация на примерах из медицины и кредитного скоринга. Классификатор на основе набора правил: идея взвешенного голосования по правилам, где каждое правило — обучаемый интерпретируемый предикат-классификатор одного класса. Часто используемые семейства правил: пороговое условие, конъюнкция пороговых условий, синдром как обобщение конъюнкции и дизъюнкции; настройка параметров правила по данным. Алгоритмы генерации и отбора правил (мета-эвристики): общая схема итеративной генерации локальных модификаций правил и отбора наиболее информативных; частные реализации — стохастический локальный поиск, генетические (эволюционные) алгоритмы, усечённый поиск в ширину (beam search), поиск в глубину. Двухкритериальный отбор закономерностей на плоскости (p,n): визуализация правил точками на плоскости, понятие Парето-фронта как множества неулучшаемых закономерностей; разбор примера на задаче кредитного скоринга German Credit. Зоопарк критериев информативности: «очевидные, но не вполне адекватные» критерии (точность, полнота, относительная точность) в сопоставлении с «адекватными, но не очевидными» (энтропийный критерий прироста информации, критерий Джини как его аппроксимация, критерий бустинга); обсуждение связи этого зоопарка с критериями ветвления решающих деревьев. Связь с покрывающими алгоритмами (covering / separate-and-conquer): последовательное извлечение правил с удалением покрытых объектов из обучающей выборки, краткое сопоставление с алгоритмами семейства CN2 и RIPPER. Ссылки и Литература. Выдай только готовый вики-код статьи в виде документа .txt. Никаких комментариев до и после кода.