Биномиальное распределение с равновероятными успехами испытаний Бернулли
Материал из MachineLearning.
(→Первая половина 19-го века - дальнейшее теоретическое и практическое применение бинома Ньютона в теории вероятностей) |
(→См.также) |
||
(1 промежуточная версия не показана) | |||
Строка 372: | Строка 372: | ||
*[[Биномиальное распределение]] одной случайной величины | *[[Биномиальное распределение]] одной случайной величины | ||
*[[Биномиальное распределение двух случайных величин]] | *[[Биномиальное распределение двух случайных величин]] | ||
+ | *[[Биномиальное распределение с равновероятными успехами испытаний Бернулли]] | ||
*[[Парадоксы биномиального распределения]] | *[[Парадоксы биномиального распределения]] | ||
*[[Мультиномиальное распределение]] | *[[Мультиномиальное распределение]] |
Текущая версия
Уважаемые коллеги!
Эта статья изобилует грубыми математическими ошибками (начиная с непонимания самой сути математического доказательства), как и другие статьи того же автора:
Удалить это безобразие и забанить автора — самое простое решение. Есть и другой вариант — попробовать помочь всем миром и написать коллективную рецензию, объяснив автору его ошибки. Для этого есть страницы Обсуждений статей и Обсуждение участника:Vitsemgol. Это большая работа, непосильная для одного человека, но для сообщества вполне осуществимая. Коллеги, давайте отнесёмся к проблеме как к исследованию. Есть несколько открытых вопросов, которые бросают нам вызов. Упрощает ли Вики задачу интегрирования «непризнанного гения» в профессиональное сообщество? Способен ли человек, ворвавшийся в чужой монастырь со своим уставом, покаяться и услышать, что ему скажут? Откликнется ли хоть кто-то из сообщества? Хватит ли нам всем терпимости? Это добрый эксперимент, дорогие коллеги! Как Администратор, предупреждаю: увижу «войну правок», эмоции и прочие проявления непрофессионализма — прекращу эксперимент как неудачный и удалю всё. — К.В.Воронцов 02:49, 4 ноября 2013 (MSK) |
Определение
Биномиальное распределение с равновероятными успехами испытаний Бернулли — совместное распределение двух случайных величин, первая независимая, а вторая зависимая от первой
определённых на точечных пространствах элементарных событий
и принимающих в дискретные последовательные моменты времени
целые неотрицательные значения
с равновероятными успехами
соответствующих распределений Бернулли и взаимосвязанные условием
согласно которому
если в первый момент времени первая случайная величина приняла случайное значение , то во второй момент времени вторая случайная величина вынуждена принять единственно возможное значение .
Пояснение
Вероятность первой случайной величины , принявшей в первый момент времени числовое значение , равна числу сочетаний из по , умноженному на вероятность выбора одного элемента , возведённую в степень числа выбранных элементов
Вероятность второй случайной величины принимает во второй момент времени числовое значение при условии, что в первый момент времени первая случайная величина приняла числовое значение равна числу сочетаний из по , умноженному на вероятность выбора одного элемента , возведённую в степень числа выбранных элементов
Произведение вероятностей первой и второй случайных величин есть вероятность биномиального распределения с равновероятными успехами испытаний Бернулли
где .
Технические задачи и технические результаты
Для получения биномиального распределения необходимо решить две технические задачи и получить технические результаты, относящиеся к математической физике [1], [1]. Первая и вторая технические задачи — соответственно получение вероятности и математического ожидания биномиального распределения. Технические результаты — набор технических параметров, с одной стороны, минимально необходимый для описания биномиального распределения и его случайных величин, с другой стороны, позволяющий при необходимости расширить число параметров с целью получения дополнительных сведений о распределении, например, таких как корреляционная матрица, ковариационная матрица, -квадрат критерий и другие. Минимально необходимый набор параметров при решении первой технической задачи: пространство элементарных событий, вероятность, математическое ожидание и дисперсия каждой случайной величины распределения, дисперсия распределения и произведение математических ожиданий его случайных величин как исходное выражение для решения второй технической задачи.
При решении второй технической задачи минимально необходимый набор параметров аналогичен предыдущему набору. Исключен из-за ненадобности один параметр — произведение математических ожиданий случайных величин и дополнен двумя параметрами — максимальной вероятностью и максимальной дисперсией биномиального распределения (таблица 1).
Пространство элементарных событий | |
Вероятность | |
Максимальная вероятность
(при математическом ожидании распределения) | |
Математическое ожидание
(как максимальное произведение математических ожиданий случайных величин) | |
Дисперсия | |
Максимальная дисперсия
(при математическом ожидании распределения) | |
Ковариационная матрица | , где |
Корреляционная матрица | , где |
- критерий |
Схема повторных циклов случайных зависимых экспериментов с равновероятными успехами испытаний Бернулли
Биномиальное распределение с равновероятными успехами испытаний Бернулли появляется в так называемой биномиальной схеме повторных циклов случайных зависимых экспериментов. Каждый цикл экспериментов осуществляют методом выбора без возвращения в дискретной временной последовательности , номера точек которой соответствуют номерам случайных величин.
Каждая из случайных величин распределения — это число наступлений одного соответствующего события
в - ый момент времени при условии, что в - ый момент произошло наступлений предшествующего события с положительным исходом, все вероятности которых равны нормированы и неизменны во время проведения экспериментов. Если в каждом цикле экспериментов вероятность наступления события равна , то биномиальная вероятность равна вероятности того, что при экспериментах события наступят раз соответственно. Случайная величина биномиального распределения с равновероятными успехами испытаний Бернулли в соответствующей точке дискретной временной последовательности имеет: пространство элементарных событий
вероятность
математическое ожидание
и дисперсию
Пространство элементарных событий биномиального распределения с равновероятными успехами испытаний Бернулли есть сумма точечных пространств элементарных событий его случайных величин, образующих дискретную последовательность точек цикла, а вероятность биномиального распределения с равновероятными успехами испытаний Бернулли — произведение вероятностей его случайных величин.
Вероятностная схема биномиального распределения с равновероятными успехами испытаний Бернулли
содержит циклы повторных зависимых экспериментов. Количество циклов не ограничено. В каждом цикле число экспериментов равно числу случайных величин распределения. Первый эксперимент является независимым, а второй эксперимент в цикле зависим от результата первого эксперимента. Все эксперименты осуществляют методом выбора без возвращения — изъятые элементы не возвращают на свое прежнее место до полного окончания данного цикла.
Случайные события – выборки случайных объемов осуществляют из - множества различимых (различающиеся между собой хотя бы одним признаком, например, порядковым номером) неупорядоченных (хаотично расположенных) элементов и следуют в последовательные моменты времени .
Число выборок равно числу случайных величин распределения.
Случайные величины распределения — появления случайного числа элементов - множества в - подмножествах , с равными вероятностями каждого элемента.
Попадание одного произвольного элемента - множества в одно из подмножеств — независимое событие — испытание Бернулли с положительным исходом; вероятности этих испытаний равны , нормированы и неизменны во время проведения повторных зависимых экспериментов. Один цикл повторных зависимых экспериментов, осуществляемых методом выбора без возвращения — последовательность выборок случайных объёмов , обработка результатов разделения - множества на два подмножества в последовательные моменты времени и возврат всех изъятых элементов на прежнее место к началу следующего цикла. Совместное проявление вероятностей попадания выборок случайных объёмов в одном цикле экспериментов — вероятность биномиального распределения с равновероятными успехами испытаний Бернулли .
Урновая модель биномиального распределения с равновероятными успехами испытаний Бернулли
Состав: одна исходная урна и две приёмных урн. Объем каждой из них не менее объёма исходной урны. Нумерация приёмных урн соответствует нумерации случайных величин биномиального распределения. В начальный момент времени исходная урна содержит - множество различимых неупорядоченных элементов, а все приёмные урны пусты. В первый момент времени из исходной урны осуществляют первую выборку случайного объёма и направляют её в первую приёмную урну с вероятностью каждого элемента. Во второй момент времени все элементы , оставшиеся в исходной урне, направляют во вторую приёмную урну с вероятностью каждого. В результате исходная урна пуста, а все её элементы размещены в приёмных урнах. После обработки результатов разбиения исходного - множества на два подмножества все элементы из приёмных урн возвращают в исходную урну. На этом один цикл повторных зависимых экспериментов закончен, и урновая модель готова к проведению следующего аналогичного цикла. Произведение вероятностей попадания элементов исходного - множества в первую и вторую урны соответственно есть вероятность биномиального распределения с равновероятными исходами испытаний Бернулли.
Два способа получения вероятностей биномиального распределения с равновероятными успехами испытаний Бернулли
Первый способ относится к способам разделения дискретного целого на две части случайных объёмов, в сумме равные исходному целому.
Второй способ является частным случаем способа разделения дискретного целого на несколько частей случайных объёмов, в сумме равных исходному целому.
Первый способ
Целым является множество дискретных элементов, различимых (хотя бы одним признаком, например, порядковыми номерами) и не упорядоченных (хаотично расположенных): .
Составные части — два дискретных подмножества, в сумме равные объёму множества.
Разделение множества на подмножества осуществляют выборками без возвращения. Выборки следуют во времени одна за другой. В начальный момент времени , не обязательно равный нулю , множество содержит различимых неупорядоченных элементов. В первый момент времени из -множества осуществляют первую выборку случайного объёма с вероятностью каждого её элемента. Вероятность первой случайной величины биномиального распределения определяется числом сочетаний из по , умноженным на вероятность выбора одного элемента, возведённую в степень числа выбранных элементов: Во второй момент времени все оставшиеся элементы исходного множества выбирают с вероятностью каждого её элемента. Произведение двух вероятностей есть вероятность биномиального распределения с равновероятными успехами испытаний Бернулли
Когда число случайных величин равно имеют место вероятность мультиномиального распределения с равновероятными успехами испытаний Бернулли.
Второй способ
Способ получения вероятности биномиального распределения с равновероятными успехами испытаний Бернулли может быть получен как частный случай способа получения вероятности мультиномиального распределения с равновероятными успехами испытаний Бернулли при сокращении в последнем числа случайных величин до двух: .
В итоге получаем требуемый результат
Два способа получения математического ожидания биномиального распределения с равновероятными успехами испытаний Бернулли
Первый способ
Этот способ относится к техническим задачам разделения дискретного целого на две составные части случайных объёмов. От способа получения математического ожидания полиномиального распределения тем, что число выборок равно числу случайных величин биномиального распределения. При этом, как и в полиномиальном распределении каждая выборка имеет единичный объём: . Целым является множество дискретных элементов, различимых (хотя бы одним признаком, например, порядковыми номерами) и не упорядоченных (хаотично расположенных): . Составные части — дискретные подмножества , в сумме равные объёму множества. Разделение множества на подмножества осуществляют выборками без возвращения. Выборки следуют во времени одна за другой. В начальный момент времени , не обязательно равный нулю , множество содержит два различимых неупорядоченных элементов. В первый момент времени из -множества осуществляют первую выборку единичного объёма с вероятностью . Вероятность первой случайной величины биномиального распределения определяется числом сочетаний из по , умноженным на вероятность выбора одного элемента: Во второй момент времени из оставшихся элементов исходного множества осуществляют вторую выборку единичного объёма с вероятностью . Вероятность второй случайной величины при условии, что в первый момент времени вероятность первая случайная величина полиномиального распределения приняла значение , определяется числом сочетаний из по , умноженным на вероятность выбора одного элемента:
Произведение вероятностей есть математическое ожидание биномиального распределения с равновероятными успехами испытаний Бернулли
Второй способ
Математическое ожидание биномиального распределения с равновероятными успехами испытаний Бернулли получают как частный случай математического ожидания мультиномиального распределения с равновероятными успехами испытаний Бернулли при одновременном сокращении числа случайных величин до двух и числа испытаний до двух
Биномиальное распределение как процесс выполнения взаимосвязанных действий над объектами
Объекты: множество, его подмножества и их элементы как объективная реальность, существующая вне нас и независимо от нас. Биномиальное распределение с равновероятными успехами испытаний Бернулли это:
- случайный процесс безвозвратного разделения последовательно во времени и в пространстве конечного - множества различимых неупорядоченных элементов на две части случайных объёмов, сумма которых равна объёму исходного множества: ,
- разделение множества осуществляют выборками без возвращения (изъятые из множества элементы не возвращают обратно во множество до полного окончания экспериментов),
- вероятность попадания одного произвольного элемента множества в каждое из подмножеств принимают за соответствующую вероятность успеха (успешного завершения испытания) распределения Бернулли ,
- вероятности успехов Бернулли распределений нормируют согласно аксиоматике Колмогорова и принимают неизменными до окончания испытаний,
- очерёдность следования выборок принимают за очередность следования во времени и нумерацию случайных величин биномиального распределения,
- случайный объём каждой выборки в момент времени принимают за числовое значение соответствующей случайной величины биномиального распределения,
- если в первый момент времени первая случайная величина приняла значение
то во второй момент времени вторая случайная величина принимает значение
- результаты каждого разбиения обрабатывают вероятностными методами, определяют технические характеристике всех выборок и принимают их за технические характеристики случайных величин биномиального распределения,
- минимально необходимый набор технических характеристик случайных величин и биномиального распределения в целом это: пространство элементарных событий, вероятность , математическое ожидание и дисперсия,
- математическое ожидание биномиального распределения имеет место, когда число выборок равно числу элементов -множества и численно равно .
Биномиальное распределение как цепь Маркова
Биномиальное распределение с равновероятными успехами испытаний Бернулли появляется в последовательности двух испытаний, первое из них случайное независимое, а второе зависимое от первого испытания. Исходы испытаний конечны и счётны. По сути — это простейшая цепь Маркова. (, называемое начальным распределением цепи Маркова, для биномиального распределения не имеет смысла , поскольку нумерация случайных величин начинается с единицы.) Единственная переходная вероятность
заключается в том, что вторая случайная величина во второй момент времени вынуждена принять числовое значение, равное , при условии, что в первый момент времени первая случайная величина приняла случайное значение, равное . Следовательно и вероятность биномиального распределения с равновероятными успехами испытаний Бернулли
как произведение первой независимой и второй зависимой случайных величин является простейшей цепью Маркова. Сумма всех вероятностей биномиального распределения равна единице . Следовательно, биномиальное распределение как цепь Маркова, является стахостической.
Переходная вероятность биномиального распределения является дискретной функцией. Следовательно, биномиальное распределение является марковским процессом с дискретным временем.
Наиболее интересные этапы становлнения биномиального и мультиномиального распределений
Начальный этап становления биномиального распределения
Зарождение биномиальное распределение зарождалось как комбинаторная задача на основе разложения бинома
Географически принцип полной индукции восходит к древним грекам, например, к “Началам” Евклида, а в странах ислама формула бинома при была известна уже в 10-12 веках таким учёным, как: Ат-Туси, Ал-Каши и Омар Хайям.
Первый из них (Абу Джафар Мухаммад ибн Мухаммад Насир ад-Дин ат-Туси) Ат-Туси (1201- 26 июня 1274) уроженец города Туса в Хорасане, работал сначала в столице государства ассасинов. Ат-Туси принадлежит много трудов по математике и астрономии, а также по физике, минералогии, логике, этике и другим наукам . [1]
В «Сборнике по арифметике с помощью доски и пыли» (1265) Ат-Туси подробно описал приём извлечения корней любой степени и привел таблицу биномиальных коэффициентов в форме треугольника, известного ныне как треугольник Паскаля.[1]
Последний из них владел правилом возведения двучлена в любую целую положительную степень. Однако эти сочинения Хайяма пока не найдены. Но на их существование говорит его цитата: “Мы покажем, как определить основания квадрато–квадратов, квадрато–кубов, кубов–кубов и так далее сколько угодно, чего раньше не было”. По-видимому, эти общие результаты в словесном изложении не дошли в своё время до Европы, и здесь пришлось их получать заново.
Первая половина 19-го века - дальнейшее теоретическое и практическое применение бинома Ньютона в теории вероятностей
Процитируем [1] и проанализируем урновую модель Лапласа: <<Предположим, что урна содержит белых и черных шаров, и что по изъятии из неё шара, его кладут обратно в урну: спрашивается, какова вероятность того, что при тиражах будут вынуты белых шаров и черных. Ясно, что число случаев возможных при каждом тираже равно плюс . Так как каждый случай второго тиража может комбинироваться со всеми случаями первого, то число случаев возможных при двух тиражах, равно квадрату бинома плюс . В разложении этого квадрата квадрат выражает число случаев, в которых два раза вынут белый шар, удвоенное произведение на выражает число случаев, в которых вынуты белый и черный шары; наконец, квадрат выражает число случаев, в которых вынуты два черных шара. Продолжая таким образом дальше, находят вообще, что -я степень бинома плюс выражает число всех случаев возможных при тиражах, и что в разложении этой степени член, умноженный на -ю степень выражает число случаев, в которых можно вынуть белых шаров и черных. Поэтому, деля этот член на всю степень бинома, получим вероятность изъятия белых шаров и черных. Так как отношения и плюс есть вероятность изъятия белого шара, а отношение и плюс есть вероятность изъятия черного шара, если при этом назовем эти вероятности и , то вероятностью изъятия белых шаров при тиражах будет член, умноженный на -ю степень , в разложении -й степени бинома плюс : легко заметить, что сумма плюс есть единица. Это замечательное свойство бинома оказывается очень полезным в теории вероятностей>>.
Примечания. 1. В современной теории вероятностей тиражом называют одно независимое повторное испытание с двумя несовместными исходами каждый (испытание Бернулли), что в модели Лапласа, например, означает: “успешный исход” случайного события — вынут белый шар, “неудачный исход” случайного события — вынут черный шар.
2. Процедура изъятия из урны одного произвольного шара и каждый раз возвращение его в урну до следующего изъятия со времён Лапласа закрепилась в теории вероятностей как метод выбора с возвращением получения бинома и вероятностей биномиального распределения (ещё так не называемого).
3. Возникли существенные различия биномиальных распределений, полученных на основе двух рассмотренных биномов плюс в степени и плюс в степени , связанных одним тождеством
Из дроби Лаплас определил вероятность биномиального распределения как вероятность изъятия белых шаров и черных:
а из бинома — вероятность биномиального распределения как вероятность изъятия только белых шаров
В России в 1846 году В. Я. Буняковский на основе комбинаций исходов независимых испытаний получил вероятность биномиального распределения, как распределения двух случайных величин [1] . Однако это осталось незамеченным возможно потому, что Буняковский опубликовал свою работу только на русском языке и в очень ограниченном количестве экземпляров. А при жизни Лапласа его трактат был опубликован пять раз: в феврале и ноябре 1814, 1816, 1819 и 1825 годах. Кроме того, в последствии трактат и его переводы неоднократно переиздавались во многих странах вплоть до конца XX века. В США последний раз был переиздан в 1994 году, а в России — в 1999 году в составе энциклопедии.
Опыт философии в теории вероятностей [1] — образец гениальности Лапласа. Он изложил полную теорию на то время, привел полный свод истин из теории вероятностей и приложений анализа вероятностей без применения формул и сложных вычислений.
В первой половине 19-го века В. Я. Буняковский назвал труд Лапласа бессмертным творением утверждая, что никому аналитическая Теория Вероятностей не обязана столько, как Лапласу.
Только в начале 20-го века появились первые критические высказывания в адрес трактата Лапласа, вспоминал Г. Крамер полвека спустя [1]
Видимо сказался авторитет Лапласа, и, как следствие, многие столетия развитие биномиального распределения шло в направлении распределения одной случайной величины.
В СССР, даже в середине 20-го века эта точка зрения не ставилась под сомнение. В качестве примера процитируем вышедший в 1956 году в Издательстве АН СССР 3-томный коллективный труд “Математика, ее содержание, методы и значения”. В нём говорится, что глава XI — Теория вероятностей — из 2-го тома этого труда, написанная академиком А. Н. Колмогоровым , до наших дней сохраняет интерес для представителей естественнонаучных и инженерных специальностей, учителей математики [1]
Цитируем из неё с несущественными изменениями обозначений: <<Вычислим теперь вероятность ровно появлений некоторого события в независимых испытаниях, в каждом из которых вероятность этого события одна и та же.
Обозначим через событие, заключающееся в непоявлении события .
Очевидно, что
Из независимости испытаний нетрудно усмотреть, что вероятность какой-либо определенной последовательности, составленной из появлений и непоявлений , равна
Так, например, при и вероятность получить последовательность исходов будет
По теореме сложения вероятность равна сумме вероятностей всех последовательностей с появлений и с непоявлений события , т. е. в силу
равна произведению числа таких последовательностей на . Число таких последовательностей, очевидно, равно числу сочетаний из по , поскольку положительных исходов могут занимать в ряду испытаний любые мест.
Окончательно получаем
(так наз. биномиальное распределение) >> Конец цитаты.
Проанализируем получение Колмогоровым биномиального распределения.
Во-первых, была поставлена задача вычислить вероятность ровно появлений одного и того же случайного события в последовательности, содержащей независимых испытаний.
Во-вторых, в процессе решения поставленной задачи дополнительно была вычислена вероятность ровно появлений и второго случайного события в той же последовательности, а именно, вероятность непоявления первого случайного события. Иными словами, была вычислена совместная вероятность появления двух случайных событий на едином пространстве элементарных событий, представляющем собой последовательность независимых испытаний.
И, наконец, в-третьих, произведение вероятности ровно появлений одного и вероятности ровно непоявлений другого случайного события было принято за вероятность ровно появлений первого случайного события в последовательности независимых испытаний:
По Колмогорову так называемое биномиальное распределение есть распределение одной случайной величины, появляющейся ровно раз, причём эта точка зрения существует и в настоящее время.
в котором , на самом деле определяет вероятность ровно появлений того же случайного события в последовательности независимых испытаний [1], причем параметр есть математическое ожидание первой случайной величины биномиального распределения (и полиномиального распределения тоже)настоящей интерпретации.
В. Я. Буняковский в 1846 году первым в мире получил формулу вероятности биномиального распределения как распределения двух случайных величин. В ту пору не были известными многие современные математические знаки такие, как суммирование, произведение, факториал и другие. В современной записи Биномиальное распределение Буняковского выглядит следующим образом:
В том же 1846 году В. Я. Буняковский методом индукции распространил математическую формулу разложения бинома “на случай сколь угодно большого числа событий”, тем самым получил новое тождество
в котором
из которого В. Я. Буняковский первым в мире получил и формулу вероятности полиномиального распределения традиционной интерпретации (независимых случайных величин).
В современной записи Мультиномиальное распределение независимых случайных величин (Мультиномиальное распределение Буняковского) выглядит следующим образом:
Литература
См.также
- Биномиальное распределение одной случайной величины
- Биномиальное распределение двух случайных величин
- Биномиальное распределение с равновероятными успехами испытаний Бернулли
- Парадоксы биномиального распределения
- Мультиномиальное распределение
- Мультиномиальное распределение независимых случайных величин
- Мультиномиальное распределение зависимых случайных величин
- Мультиномиальное распределение с равновероятными успехами испытаний Бернулли
- Парадоксы мультиномиального распределения