Раздел 1. Классическая вероятностная схема
1.1 Основные формулы комбинаторики
В данном разделе мы займемся подсчетом числа «шансов». О числе шансов
говорят, когда возможно несколько различных результатов какого-либо
действия (извлечение карты из колоды, подбрасывание кубика или монетки,
двух кубиков и т.д.). Число шансов — это число таких возможных
результатов, или, иначе говоря, число способов проделать это действие.
Теорема о перемножении шансов
Теорема 1. Пусть имеется, k групп элементов, причем i-я группа содержит
ni элементов, 1 n1 или k – k1 > n – n1 искомая вероятность равна
0, так как соответствующее событие невозможно. Пусть k1 0.
Следующее свойство называется “теоремой умножения”:
Теорема 6. P(A?B) = P(B)P(A\B) = P(A)P(B\A), если соответствующие
условные вероятности определены (то есть если P(В) > 0, P(A) > 0).
Теорема умножения для большего числа событий:
Теорема 7. P(A1 ? A2 ?…? An) = P(A1) P(A2\A1) P(A3 \A1 ?A2)… P(An
\A1?…?An-1)если соответствующие условные вероятности определены.
4.2 Независимость
Определение 16. События A и B называются независимыми, если P(A?B) =
P(A)P(B)
Пример 14.
1. Точка с координатами ?, ? бросается наудачу в квадрат со стороной 1.
Доказать, что для любых х, у (R события A = { ?
Если P(А) > 0, то события А и В независимы P(В\А) =Р(В)
.
Определение 17. События А1, А2…Аn называются независимыми в
совокупности, если для любого набора
1 ? i1, i2…ik ? n
) (3)
Замечание 9. Если события А1, А2…Аn независимы в совокупности, то они
попарно независимы, то есть любые два события Аi, Аj независимы.
Достаточно в равенстве (3) взять k =2. Обратное, как показывает
следующий пример, неверно.
Пример 15 (Пример С. Н. Бернштейна).
Рассмотрим правильный тетраэдр, 3 грани которого окрашены,
соответственно, в красный, синий, зеленый цвета, а четвертая грань
содержит все три цвета. Событие A, (B, C) означает, что выпала грань,
содержащая красный (синий, зеленый) цвета.
Вероятность каждого из этих событий равна 1/2, так как каждый цвет есть
на двух гранях из четырех. Вероятность пересечения любых двух из них
равна 1/4, так как только одна грань содержит два цвета. А так как 1/4 =
1/2 1/2, то все события попарно независимы.
Но вероятность пересечения всех трех тоже равна 1/4, а не 1/8, то есть
события не являются независимыми в совокупности.
Заметьте, что равенство (6) выполнено для k = 2, но не выполнено для k =
3.
4.3 Формула полной вероятности
Пример 16. Есть 3 завода, производящих одну и ту же продукцию. При этом
1-й завод производит 25%, 2-й завод — 35% и 3-й завод — 40% всей
производимой продукции. Брак составляет 5% от продукции 1-го завода, 3%
от продукции 2-го и 4% от продукции 3-го завода. Вся продукция
смешивается и поступает в продажу. Найти а) вероятность купить
бракованное изделие; б) условную вероятность того, что купленное изделие
изготовлено 1-м заводом, если это изделие бракованное.
Первая вероятность равна доле бракованных изделий в объеме всей
продукции, то есть
0,05*0,25 + 0,03*0,35 + 0,04*0,4.
Вторая вероятность равна доле брака 1-го завода среди всего брака, то
есть
Определение 18. Набор попарно несовместных событий Н1, Н2… таких, что
P(Аi) > 0 для всех i и
называется полной группой событий или разбиение пространства ?
События Н1, Н2 …, образующие полную группу событий, часто называют
гипотезами. При подходящем выборе гипотез для произвольного события А
могут быть сравнительно просто вычислены P(А/ Нi) (вероятность событию А
произойти при выполнении «гипотезы» Нi) и собственно P(Нi)(вероятность
выполнения «гипотезы» Нi).
Теорема 8 (Формула полной вероятности).
Пусть Н1, Н2 — полная группа событий. Тогда вероятность любого события A
может быть вычислена по формуле:
4.4 Формула Байеса
Теорема 9 (Формула Байеса).
Пусть Н1, Н2 …— полная группа событий и A — некоторое событие
положительной вероятности. Тогда условная вероятность того, что имело
место событие Нk, если в результате эксперимента наблюдалось событие A,
может быть вычислена по формуле:
Пример 17. Вернемся к примеру 15. Изделие выбирается наудачу из всей
произведенной продукции. Рассмотрим три гипотезы: Нi = {изделие
изготовлено i-м заводом }, i = 1, 2, 3. Вероятности этих событий даны:
P(Н1) = 0,25, P(Н2) = 0,35, P(Н3) = 0,4 . Пусть A = {изделие оказалось
бракованным }. Даны также условные вероятности P(A\Н1) = 0,05, P(A\Н2) =
0,03, P(A\Н3) = 0,04
Пример 18. Два стрелка подбрасывают монетку и выбирают, кто из них
стреляет по мишени (одной пулей). Первый стрелок попадает по мишени с
вероятностью 1, второй стрелок — с вероятностью 0,00001. Можно сделать
два предположения об эксперименте:
Н1 = {стреляет 1-й стрелок}
Н2 = { стреляет 2-й стрелок } .
Априорные (a’priori —«до опыта») вероятности этих гипотез одинаковы:
P(Н1) = P(Н1) = 1/2.
Рассмотрим событие A = {пуля попала в мишень}. Известно, что
P(A\Н1) = 1, P(A\Н2) = 0,00001
Поэтому вероятность пуле попасть в мишень P(A) = 1/2*1 + 1/2*0,00001. .
Предположим, что событие A произошло. Какова теперь апостериорная
(a’posteriori — «после опыта») вероятность каждой из гипотез Нi?
Очевидно, что первая из этих гипотез много вероятнее второй (а именно, в
100000 раз). Действительно,
Раздел 5. Схема Бернулли
5.1 Распределение числа успехов в n испытаниях
Определение 19. Схемой Бернулли называется последовательность
независимых испытаний, в каждом из которых возможны лишь два исхода —
«успех» и «неудача», при этом «успех» в одном испытании происходит с
вероятность р ( [0,1], «неудача» — с вероятностью q = 1 – p.
Теорема 10 (Формула Бернулли).
Обозначим через vn число успехов в n испытаниях схемы Бернулли. Тогда
для любого k = 0, 1, …n
Доказательство. Событие A ={ vn = k} означает, что в n испытаниях схемы
Бернулли произошло ровно k успехов. Рассмотрим один из
благоприятствующих событию A элементарных исходов:
Здесь буквами «у» и «н» обозначены, соответственно, успешный и неудачный
результаты испытаний. Поскольку испытания независимы, вероятность такого
элементарного исхода (первые k испытаний завершились успехом, остальные
неудачей) равна pk(1 – p)n-k.
элементарных исходов, вероятность каждого из которых равна pk(1 –
p)n-k.
Определение 20. Набор чисел
называется биноминальным распределением вероятностей и обозначается Вnp
или B(n,p).
Теорема 11 Пусть m1, m2 целые числа, 0 ( m1 ( m ( m2 ( n Обозначим
через Рn(m1,m2) вероятность того, что событие А наступило не менее m1 и
не более m2 раз в n испытаниях. Тогда
5.2 Наиболее вероятное число успехов
По формуле Бернулли, событие «произошло 0 успехов в n испытаниях» имеет
вероятность qn , 1 успех — вероятность n p qn и т.д. Какое же число
успехов наиболее вероятно? Иначе говоря, при каком k достигается
максимум P(vn=k)?
Чтобы выяснить это, сравним отношение P(vn=k)и P(vn=k-1)с единицей.
Видим, что
(a) Р(vn = k) > Р(vn = k-1) при np + p – k > 0, то есть при k np + p;
(c) Р(vn = k) = Р(vn = k-1 при np + p – k = 0, что возможно лишь если np
+ p — целое число.
Рассмотрим два случая: np + p –целое число и np + p – дробное число. В
первом случае пусть k0 = np + p. Из полученных выше неравенств, сразу
следует, что
Во втором случае пусть k0 = [np + p] (целая часть числа np + p, то есть
наибольшее целое число, не превосходящее np + p). Из неравенств (a), (b)
следует, что
Действительно, неравенство Р(vn = k0) > Р(vn = k0+1), например, следует
из (b), примененного для
k = k0+1 > np + p.
Видим, что в зависимости от того, является число 1 > np + p целым или
нет, имеется либо два равновероятных «наиболее вероятных» числа успехов
k0 = np + p и k0 –1 > np + p – 1,либо одно «наиболее вероятное» число
успехов k0 = [np + p].
Сформулируем уже доказанное утверждение в виде теоремы.
Теорема 12. В n испытаниях схемы Бернулли с вероятностью успеха p
наиболее вероятным числом успехов является
a) единственное число k0 = [np + p], если число np + p не целое;
б) два числа k0 = np + p и k0 -1= np + p -1, если число np + p целое.
Пример 19. Если p = q = 1/2, то при четном числе испытаний n число np +
p = n/2 + 1 /2— не целое, так что наиболее вероятным является
единственное число успехов [n/2 + 1 /2] = n/2. Что совершенно понятно,
так как есть нечетное число возможностей — получить 0, 1, …n успехов,
причем вероятности получить k и n-k успехов одинаковы.
При нечетном же числе испытаний n число np + p = n/2 + 1 /2 — целое,
так что наиболее вероятными (и одинаково вероятными) являются два числа
успехов n/2 + 1 /2 и n/2 – 1 /2.
5.3 Номер первого успешного испытания
Рассмотрим схему Бернулли с вероятностью успеха p в одном испытании.
Испытания проводятся до появления первого успеха. Введем величину ? ,
равную номеру первого успешного испытания.
Теорема 13. Вероятность того, что первый успех произойдет в испытании с
номером k, равна
P(? = k) = p qk-1.
Доказательство. Действительно,
Определение 21. Набор чисел {p qk-1 } называется геометрическим
распределением вероятностей и обозначается Gp или G(p).
Геометрическое распределение вероятностей обладает интересным свойством,
которое можно назвать свойством «нестарения». Пусть величина ?
обозначает, скажем, время безотказной работы (измеряемое целым числом
часов) некоторого устройства. Предположим, что для величины ?
вероятность принять любое свое значение k в точности равна pqk-1.
Справедливо следующее утверждение.
Теорема 14. Пусть P(? = k) = p qk-1. Тогда для произвольных n, k ( 0
P(? > n+k\ ? > n) = P(? > k)
Данному равенству можно придать следующее звучание: если известно, что
устройство проработало без отказов n часов, то вероятность ему работать
еще не менее k часов точно такая же, как вероятность проработать не
менее k часов для нового устройства.
Можно прочесть эту формулу и так: вероятность работающему устройству
проработать еще сколько-то часов не зависит от того момента, когда мы
начали отсчет времени, или от того, сколько уже работает устройство.
Доказательство. По определению условной вероятности,
(4)
Последнее равенство следует из того, что событие {? > n+k} влечет
событие {? > n}, так что пересечение этих событий есть {? > n+k}.
Найдем для произвольного m ( 0 вероятность P(? > m).
Можно также заметить, что событие {? > m} означает, что в схеме
Бернулли первые m испытаний завершились «неудачами», а это событие имеет
вероятность как раз qm.
Возвращаясь к (4), получим
5.4 Приближение гипергеометрического распределения биномиальным
Рассмотрим урну, содержащую N шаров, из которых K шаров — белые, а
оставшиеся N-K шаров — черные. Из урны наудачу (без возвращения)
выбираются n шаров. Вероятность PN,K(n, k) того, что будет выбрано
ровно k белых и n-k черных шаров, находится по формуле (см. определение
8 гипергеометрического распределения вероятностей):
Если число шаров в урне очень велико, то извлечение одного, двух, трех
шаров почти не меняет пропорцию белых и черных шаров в урне, так что
вероятности PN,K(n, k) не очень отличаются от вероятностей в процедуре
выбора с возвращением
P(получить ровно k белых шаров при выборе n шаров с возвращением) =
Сформулируем нашу первую предельную теорему.
Теорема 15. Если N ? ? и K ? ? так, что K/N ? p ( (0, 1) то для любых
фиксированных n, 0 0. Тогда для любого k ? 0
вероятность получить k успехов в n испытаниях схемы Бернулли с
вероятностью успеха pn стремится к величине
(5)
для n ? ? , pn? 0 так, что n pn? ?
называется распределением Пуассона с параметром ?.
Пользуясь теоремой 17, можно приближенно посчитать вероятность получить
не менее десяти успехов в 1000 испытаний схемы Бернулли с вероятностью
успеха 0.003, с вычисления которой мы начали. Поскольку n = 1000
«велико», а pn = 0.003 «мало», то, взяв ? = n pn = 3 , можно написать
приближенное равенство
(6)
Осталось решить, а достаточно ли n=103 «велико», а pn = 0.003 «мало»,
чтобы заменить точную вероятность P(vn = k) на приближенное значение
Для этого нужно уметь оценивать разницу между этими двумя вероятностями.
Теорема 18 (Теорема Пуассона с оценкой погрешности).
Пусть A ( {0, 1, …, n} — произвольное множество целых неотрицательных
чисел, vn — число успехов в n испытаниях схемы Бернулли с вероятностью
успеха p, ? = n p. Тогда
Таким образом, теорема 18 предоставляет нам возможность самим решать,
достаточно ли n «велико», а p «мало», руководствуясь полученной
величиной погрешности.
Какова же погрешность в формуле (6)?
Погрешность не более 0,009 (при вероятности около 0,001). Во всяком
случае, можно утверждать, что искомая вероятность никак не больше, чем
0,01=0,001+0,009.
Рассмотрим еще одну формулу приближенного вычисления pn (m) когда n
велико. В отличии от предыдущего результата число успехов m в этом
случае тоже растет с ростом n, а вероятность успеха постоянна.
Локальная теорема Муавра – Лапласа
являются ограниченными. Тогда
, то
Доказательство:
вместе с n и m Воспользуемся формулой Стирлинга
Раздел 6. Случайные величины и их распределения
6.1 Случайные величины
Мы уже видели, что для очень многих экспериментов нет никаких различий в
подсчете вероятностей событий, тогда как элементарные исходы в этих
экспериментах очень различаются. Но нас и должны интересовать именно
вероятности событий, а не структура пространства элементарных исходов.
Поэтому пора во всех таких «похожих» экспериментах вместо самых разных
элементарных исходов использовать, например, числа. То есть ввести
соответствие (иначе говоря, отображение) между элементарными исходами и
вещественными числами (с ними удобно работать).
Пусть имеется случайный эксперимент и задано вероятностное пространство
(?, ?,Р).
Определение 23. Функция ?: ? ?R называется случайной величиной, если для
любого х ( R множество { ? 0)
(и вообще самые разные вероятности попадания в различные множества на
прямой). Это возможно только если множества, стоящие под знаком
вероятности, являются событиями (напомню, что вероятность есть функция
из ? – алгебры событий в [0,1]).
Но если потребовать, чтобы Ax = {?: ?(?) 0 для всех i;
.
То есть случайная величина ? имеет дискретное распределение, если она
принимает не более чем счетное число значений.
Определение 26. Если случайная величина ? имеет дискретное
распределение, назовем таблицей распределения соответствие ai ? pi,
которое чаще всего рисуют так:
? а1 а2 а3 …
Р р1 р2 р3 …
6.3 Примеры дискретных распределений
Вырожденное распределение.
Говорят, что случайная величина ? имеет вырожденное распределение с
параметром а, и пишут ? ( Ia если ? принимает единственное значение а с
вероятностью 1, то есть P(? = a) = 1. Таблица распределения ? имеет вид
? а
Р 1
Распределение Бернулли.
Говорят, что случайная величина ? имеет распределение Бернулли с
параметром р, и пишут ? ( Вр, если ? принимает значения 1 и 0 с
вероятностями р и 1 – р, соответственно. Случайная величина ? с таким
распределением равна числу успехов в одном испытании схемы Бернулли с
вероятностью успеха (0 успехов или 1 успех). Таблица распределения ?
имеет вид
? 0 1
Р (1-p) р
Биномиальное распределение.
Говорят, что случайная величина ? имеет биномиальное распределение с
параметрами n и p, где 0 ( p (, n и пишут ? ( Вn,р, если ? принимает
значения 0, 1, …,n с вероятностями P(? = k) = Cnk pk (1-p)n-k .
Случайная величина ? с таким распределением имеет смысл числа успехов в
n испытаниях схемы Бернулли с вероятностью успеха р .
Таблица распределения ? имеет вид
? 0 1 … k … n
Р (1-p)n n p(1-p)n-1 … Cnk pk (1-p)n-k … Pn
Геометрическое распределение.
Говорят, что случайная величина ? имеет геометрическое распределение с
параметром р, где 0 ( p (, n, и пишут ? ( Gр, если ? принимает значения
1, 2, 3, …с вероятностями P(? = k) = p (1-p)k-1. Случайная величина ? с
таким распределением имеет смысл номера первого успешного испытания в
схеме Бернулли с вероятностью успеха р .
Таблица распределения ? имеет вид
? 1 2 … k …
Р p Р (1 – р) … p (1-p)k-1 …
Распределение Пуассона.
Говорят, что случайная величина ? имеет распределение Пуассона с
параметром ?, где ? > 0 , и ? ( П ?, если ? принимает значения 0, 1, 2 …
с вероятностями
Таблица распределения ? имеет вид
? 1 2 … k …
Р е- ? ? е- ? … (?k /k!)е- ? …
Гипергеометрическое распределение.
Говорят, что случайная величина ? имеет гипергеометрическое
распределение с параметрами n, N и K, K ( N, n ( N если ? принимает
целые значения от max (0, N – K – n ) до min (K ,n ) с вероятностями
. Случайная величина ? с таким распределением имеет смысл числа белых
шаров среди n шаров выбранных наудачу и без возвращения из урны,
содержащей К белых шаров и N-K не белых.
Заметьте, что со всеми этими распределениями мы уже хорошо знакомы.
Но распределения случайных величин далеко не исчерпываются дискретными
распределениями. Так, например, если точка бросается наудачу на отрезок
[0,1], то можно задать случайную величину, равную координате этой точки.
Но число значений этой случайной величины несчетно, так что ее
распределение дискретным не является. Да и вероятность этой случайной
величине принять каждое из своих возможных значений (попасть в точку)
равна нулю. Так что не только таблица распределения не существует, но и
соответствие «значение величины ( вероятность его принять» ничего не
говорит о распределении случайной величины.
Какими же характеристиками еще можно описать распределение?
Раздел 7. Функция распределения
Заметим, что на том же отрезке [0, 1] вероятности попадания в множества
положительной меры совсем не нулевые. И термин «наудачу» мы когда-то
описывали как раз в терминах вероятностей попадания в множество. Может
быть, разумно описать распределение случайной величины, задав для любого
множества, вероятность принять значения из этого множества? Это
действительно полное описание распределения, но уж очень трудно с ней
работать — слишком много множеств на прямой.
Нельзя ли обойтись заданием вероятностей попадания в какой-нибудь
меньший набор множеств на прямой? Оказывается, что можно ограничиться
только вероятностями попадания в интервалы (-(, х) для всех х ( R, с
помощью которых можно будет определить и вероятность попасть в любое
другое множество.
Замечание 11. Можно с таким же успехом ограничиться набором вероятностей
попадания в интервалы (-(, х], или в (х ,(), или в [х ,(), или в (х1
,x2). Впрочем, последних уже слишком много.
Определение 27.Функцией распределения случайной величины ? называется
функция F?(x) : R ( [0, 1], при каждом x ( R равная F?(x) = P(? 0
и ? ( Е?, если
Показательное распределение является единственным абсолютно непрерывным
распределением, для которого выполнено свойство «не старения» (и в этом
смысле оно является непрерывным аналогом дискретного геометрического
распределения).
Теорема 21. Свойство «Не старения». Пусть ? ( Е?. Тогда для любых х, у >
0
Нормальное.
Говорят, что ? имеет нормальное распределение с параметрами а и ?2 , где
а ( R, ? > 0, и пишут ? ( если ? имеет следующую плотность
распределения:
для любого x ( R
Убедимся, что f?(x)действительно является плотностью распределения. Так
как f?(x) > 0 для всех x ( R, то свойство (f1) выполнено. Проверим
выполнение (f2). Используем табличный интеграл (интеграл Пуассона)
Нормальное (иначе называемое гауссовским по имени Карла Гаусса
распределение играет исключительно важную роль в теории вероятностей,
поэтому мы очень подробно изучим все свойства этого распределения.
8.2 Свойства нормального распределения
иначе как в виде интеграла, поэтому функцию распределения этого закона
можно записать лишь в таком виде:
Мы часто будем использовать обозначение для функции распределения
нормального распределения с параметрами а и ?2.
Стандартное нормальное распределение
а = 0 и ?= 1 называется стандартным нормальным распределением.
Плотность стандартного нормального распределения имеет вид
для любого x ( R
а функция распределения
табулирована (то есть ее значения вычислены при многих х) почти во всех
математических справочниках. Установим связь между
Свойство 5. Для любого x ( R справедливо соотношение
То же самое на языке случайных величин можно сформулировать так:
то
то
Как мы видим, вычисление любых вероятностей для нормально распределенной
случайной величины сводится к вычислению функции распределения Ф0,1. Ее
свойства
Свойство 6. Ф0,1(0) = 0,5
Свойство 7. Ф0,1(-х) = 1 – Ф0,1(х)
Свойство 8. Если ? ( N0,1, то
Свойство 9 (« Правило трех сигм»).
Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что почти
вся масса нормального распределения сосредоточена в границах [a – 3?, a
– 3?] всегда полезно.
Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что почти
вся масса нормального распределения сосредоточена в границах [a-3?,
a+3?], всегда полезно.
Раздел 9. Случайные вектора и их распределения
) мы будем называть случайным вектором.
.
9.1 Свойства функции совместного распределения
)
не убывает по каждой координате вектора (x1 x2).
F2) Для любого i = 1, 2, существуют
При этом
по каждой координате вектора (x1 x2) непрерывна слева.
Только теперь этих свойств оказывается недостаточно для описания класса
функций совместного распределения. Иначе говоря, выполнение этих свойств
для некоторой функции F: R2 ( R вовсе не гарантирует, что эта функция
является функцией распределения некоторого случайного вектора.
Пример 25. Функция
a) удовлетворяет всем свойствам (F0)-(F3);
б) не является функцией распределения никакого вектора (?1, ?2.) хотя бы
потому, что, найдись такой вектор, найдется и прямоугольник [a1 b1] x
[a2 b2], вероятность попасть в который (вычисленная с помощью этой
«функции распределения») отрицательна:
P(a1 ( ?1 2 это утверждение, как и свойство (F2), выглядит
существенно иначе!
Теорема 22. Если случайные величины ?1, ?2 имеют абсолютно непрерывное
совместное распределение с плотностью f (x1, x2), то ?1, и ?2 в
отдельности также имеют абсолютно непрерывное распределение с
плотностями:
9.3 Независимость случайных величин
Определение 33. Случайные величины ?1, ?2, … , ?n независимы, если для
любого набора множеств В1 ( R, … Вn ( R имеет место равенство:
Это определение можно сформулировать в терминах функций распределения:
Определение 34. Случайные величины ?1, ?2, … , ?n независимы, если для
любых х1, х2, … , хn имеет место равенство:
Определение 35. Случайные величины ?1, ?2, … , ?n с дискретным
распределением независимы, если для любых а1, а2, … , аn имеет место
равенство:
Для случайных величин с абсолютно непрерывным совместным распределением
определение независимости можно сформулировать так:
Определение 36. Случайные величины ?1, ?2, … , ?n с абсолютно
непрерывным совместным распределением независимы, если плотность
совместного распределения равна произведению плотностей случайных ?1,
?2, … , ?n, то есть для любых х1, х2, … , хn имеет место равенство:
Раздел 10. Преобразования случайных величин
10.1 Преобразование одной случайной величины
Мы будем рассматривать только преобразования случайных величин с
абсолютно непрерывными распределениями. Пусть с. в. ? имеет функцию
распределения F?(x) и плотность распределения f?(x). Построим с помощью
функции g: R ( R случайную величину ?= g(?). Требуется найти функцию
распределения и, если существует, плотность распределения ?.
Замечание 15. Плотность распределения случайной величины ?= g(?)
существует далеко не при любых функциях g. Так, если функция g
кусочно-постоянна, то с. в. ? имеет дискретное распределение, и
плотность ее распределения не существует.
Плотность распределения g(?) заведомо существует, если, например,
функция g(?) монотонна («строго монотонна»). Вспомним, что означает
«найти плотность распределения ?, если она существует».
где подинтегральная функция h(y) неотрицательна, то плотность
распределения с.в. ? существует и в точности равна подинтегральной
функции f?(x) = h(x) .
Так что доказывать существование плотности распределения и находить ее
мы будем одновременно, находя нужное интегральное представление для
функции распределения.
Теорема 23. Пусть ? имеет функцию распределения F?(x) и плотность
распределения f?(x) , и постоянная a отлична от нуля. Тогда случайная
величина ? = a ? + b имеет плотность распределения
Для произвольной монотонной функции g (то есть либо монотонно
возрастающей функции, либо монотонно убывающей функции справедливо
аналогичное теореме 23 утверждение).
Теорема 24. Пусть ? имеет функцию распределения F?(x) и плотность
распределения f?(x), и функция g: R ( R монотонна. Тогда случайная
величина ?= g(?) имеет плотность распределения
Здесь g -1— функция, обратная к g, и
— производная функции g -1.
, то ? = (? –а)/ ? ( N0,1.
Следствие 9. Если ? ( Е?, то ? = ??( Е1
10.2 Функции от двух случайных величин
, и задана функция g : R2 ( R. Требуется найти функцию (а если
существует, то и плотность) распределения случайной величины ? = g(?1 ,
?2).
Пользуясь тем, что вероятность случайному вектору попасть в область
можно вычислить как объем под графиком плотности распределения вектора
над этой областью, сформулируем утверждение.
Теорема 25. Пусть х( R, и область Dx ( R2 состоит из точек (x1 x2 )
таких, что g (x1 x2 ) 0, ? > 0, если она имеет плотность распределения
где постоянная c вычисляется из условия
Заметим, что показательное распределение Е? есть гамма-распределение
Г?,1.
Лемма 6. Пусть независимые случайные величины ?1, … , ?n имеют
показательное распределение Е? = Г?,1 Тогда ?1 +…+?n ( Г?,n
«Случайных величин без мат. ожидания не бывает, так как, если у нас есть
случайная величина мы всегда в праве от нее что-нибудь ожидать.»
Из студенческой контрольной работы.
Раздел 11. Числовые характеристики случайных величин
11.1 Математическое ожидание случайной величины
Определение 38. Математическим ожиданием E? (средним значением, первым
моментом) случайной величины ? с дискретным распределением, задаваемым
таблицей P(? = аi) = pi, называется число
если указанный ряд абсолютно сходится.
Если же
, то говорят, что математическое ожидание не существует.
Определение 39. Математическим ожиданием E? случайной величины ? с
абсолютно непрерывным распределением с плотностью распределения f?(x),
называется число
если указанный интеграл абсолютно сходится.
Если же
, то говорят, что математическое ожидание не существует.
Математическое ожидание имеет простой физический смысл: если на прямой
разместить единичную массу, поместив в точку аi массу pi (для
дискретного распределения), или «размазав» ее с плотностью f?(x) (для
абсолютно непрерывного распределения), то точка E? есть координата
«центра тяжести» прямой.
Пример 26. Пусть случайная величина ? равна числу очков, выпадающих при
одном подбрасывании кубика. Тогда
в среднем при подбрасывании кубика выпадает 3.5 очка
Пример 27. Пусть случайная величина ? — координата точки, брошенной
наудачу на отрезок [a,b]. Тогда
центр тяжести равномерного распределения на отрезке есть середина
отрезка.
11.2 Свойства математического ожидания
Во всех свойствах предполагается, что рассматриваемые математические
ожидания существуют.
E0. Математическое ожидание случайной величины есть ЧИСЛО!
E1. Для произвольной функции функция g : R ( R
Доказательство. Мы докажем это свойство (как и почти все дальнейшие)
только для дискретного распределения. Пусть g(?) принимает значения с1
с2 … с вероятностями
Тогда
E2 Математическое ожидание const равно этой const Eс = с.
E3. const можно вынести за знак математического ожидания: E(с ?) = с E?.
Доказательство. Следует из свойства E1 при g(?) = с ? .
E4. Математическое ожидание суммы любых случайных величин ? и ? равно
сумме их математических ожиданий.
E (? + ? ) = E (? )+ E (?)
Доказательство. Для величин с дискретным распределением: пусть xk и yn —
значения ? и ?, соответственно.
E5.Если ? ( 0 п.н. (« почти наверное», т.е. с вероятностью 1: P(? ( 0 )
= 1), то E ? ( 0;
Если ? ( 0 п.н., и при этом E? = 0, то ? = 0 п.н., то есть P(? = 0) =
1.
Следствие 11.
Если ? ( ? п.н., то E ? ( E? .
Если ? ( ? п.н., и при этом E? = E?, то ? = ? п.н.
E6. Математическое ожидание произведения независимых случайных величин
равно произведению их математических ожиданий.: если ? и ? независимы,
то
E(??) = E? E?.
Доказательство.
Замечание 16. Обратное утверждение к свойству E6 неверно: из равенства
E(??) = E? E?. Не следует независимость величин ? и ?.
Пример 28. Пусть ? ( U0,2?, ? = cos ?, ? = sin ?— заведомо зависимые
случайные величины. Но математическое ожидание их произведения равно
произведению их математических ожиданий: по свойству E1
11.3 Моменты старших порядков. Дисперсия
, то число
называется моментом порядка k (k -м моментом) случайной величины ?;
называется абсолютным моментом порядка k (абсолютным k -м моментом)
случайной величины ?;
называется центральным моментом порядка k (центральным k -м моментом)
случайной величины ?;
называется абсолютным центральным моментом порядка k (абсолютным
центральным k -м моментом) случайной величины ?.
Число D? = E(? – E?)2 (центральный момент порядка 2) называется
дисперсией случайной величины ?
Пример 29. Пусть, скажем, случайная величина ? принимает значение 0 с
вероятностью 1-10-5 , и значение 100 с вероятностью 10-5. Посмотрим, как
моменты разных порядков реагируют на большие, но маловероятные значения
случайной величины.
Пример 30. Дисперсия D? = E(? – E?)2 есть «среднее значение квадрата
отклонения случайной величины ? от своего среднего». Посмотрим, за что
эта величина отвечает.
Пусть случайная величина ? принимает значения +-1 с вероятностью 1/2, а
случайная величина ? — значения ю +-10 с вероятностью 1/2. Тогда E? = E?
= 0 поэтому D ? = E ?2 = 1, D? = E?2 = 100. Говорят, что дисперсия
характеризует степень разброса значений случайной величины вокруг ее
математического ожидания.
Если говорить о распределении случайной величины, как о распределении
единичной массы по невесомому стержню, то дисперсия есть в точности
момент инерции этого стержня, закрепленного в центре тяжести.
называют среднеквадратичным отклонением случайной величины ?.
Следует хорошо понимать, что из существования моментов больших порядков
следует существование моментов меньших порядков. В частности, конечность
второго момента (или дисперсии) влечет существование математического
ожидания.
11.4 Свойства дисперсии
Все свойства дисперсии следуют из соответствующих свойств
математического ожидания.
Действительно,
D3.
если и только если ?= const.п.н.
Доказательство. Дисперсия есть всего-навсего математическое ожидание
п.н. неотрицательной с.в.:
D? = E(? – E?)2, и неотрицательность дисперсии следует из свойства E5.
По тому же свойству, D? = 0 если и только если E(? – E?)2 = 0 п.н., то
есть ? = ? п.н.
D4. Дисперсия не меняется от сдвига с.в. на постоянную:
D5. Если ? и ? независимы, то
Действительно,
так как математическое ожидание произведения независимых с.в. равно
произведению их математических ожиданий.
D6. Минимум среднеквадратического отклонения случайной величины ? от
точек вещественной прямой есть среднеквадратическое отклонение ? от
своего математического ожидания:
Наименьший момент инерции стержня с распределенной на нем единичной
массой получится, если точка вращения – центр тяжести стержня, а не
любая другая точка.
Доказательство.
причем равенство достигается только для а = E?.
11.5 Математические ожидания и дисперсии стандартных распределений
Пример 31. Распределение Бернулли Вр,
Пример 32. Биномиальное распределение Вn,p
Воспользуемся свойством устойчивости биномиального распределения
относительно суммирования — леммой 5. Возьмем n независимых случайных
величин ?1 ?2 … ?n, имеющих распределение Бернулли В,p = В1,p.
Тогда их сумма Sn = ?1 + ?2 +… + ?n имеет распределение Вn,p
так как все ?i одинаково распределены и их математическое ожидание равно
pi;
поскольку ?i независимы и дисперсия каждой равна pq.
Пример 33. Геометрическое распределение Gp
При p ( (0,1)
Равенство (*) появилось из-за нежелания дифференцировать сумму
геометрической прогрессии, которая начинается не с 0 а с q. Заметьте,
что производная у добавленных слагаемых равна 0, так что производные от
этих двух сумм равны
Поэтому
Пример 34. Распределение Пуассона П?
Показать, что
Пример 35. Равномерное распределение Ua,b
Пример 36. Стандартное нормальное распределение N0,1
Последнее равенство следует из того, что
а интеграл по всей прямой от плотности любого распределения равен 1.
Поэтому
Мы знаем, что если
Поэтому
Пример 38. Показательное (экспоненциальное) распределение Е?
Найдем для произвольного k ( N момент порядка k.
В последнем равенстве мы воспользовались гамма-функцией Эйлера:
Соответственно,
Пример 39. Стандартное распределение Коши С0,1
Распределение Коши. Говорят, что ? имеет распределение Коши с
параметрами ?, ?2, где ? ( R, ? > 0, если
для всех х ( R
Распределение Коши имеет, например, абсцисса точки пересечения луча,
посланного из точки (?, ?) под наудачу выбранным углом,
с осью ОХ.
Математическое ожидание для распределения Коши не существует, поскольку
расходится (подинтегральная функция ведет себя на бесконечности как
1/х).
Пример 40. Распределение Парето
Распределение Парето. Говорят, что ? имеет распределение Парето с
параметрами х0, s, где х0 > 0, s > 0, если
У распределения Парето существуют только моменты порядка u 0, если
для всех х ( R
Распределение Коши имеет, например, абсцисса точки пересечения луча,
посланного из точки (?, ?) под наудачу выбранным углом,
с осью ОХ.
Математическое ожидание для распределения Коши не существует, поскольку
расходится (подинтегральная функция ведет себя на бесконечности как
1/х).
Пример 40. Распределение Парето
Распределение Парето. Говорят, что ? имеет распределение Парето с
параметрами х0, s, где х0 > 0, s > 0, если
У распределения Парето существуют только моменты порядка u 0.
Смысл знака коэффициента корреляции особенно ясен в случае (?(?, ?) (=
1. Тогда знак ? равен знаку a в равенстве ? = a?+ b п.н. То есть ?(?, ?)
= 1 означает, что чем больше ?, тем больше и ?. Напротив, ?(?, ?) = -1
означает, что чем больше ?, тем меньше ?. Похожим образом можно
трактовать знак коэффициента корреляции и в случае, когда (?(?, ?) ( 0
. Докажем, что эта последовательность сходится по вероятности к
случайной величине, равной нулю п. н. (к нулю, проще говоря).
Действительно, зафиксируем произвольное ? > 0. Для всех n начиная с
некоторого n0 такого, что n07 > ? верно равенство (*) ниже
Итак, случайные величины ?n с ростом n могут принимать все большие и
большие значения, но со все меньшей и меньшей вероятностью.
Если вместо значения n7 взять, скажем, n (с той же вероятностью 1/ n),
получим
, но уже вторые моменты сходиться ко второму моменту ? не будут:
Сходимость по вероятности обладает обычными для сходимостей свойствами.
Например, такими.
, то
;
.
Свойство 14.
при больших n. Но для этого нужно знать распределение ?n, что не
всегда возможно. Скажем, ?n может быть суммой нескольких других с. в.,
распределения которых не устойчивы по суммированию, и вычислить
распределение их суммы по формуле свертки или как-то еще бывает слишком
сложно.
. Итак, неравенства П. Л. Чебышёва.
13.2 Неравенства Чебышёва
Все неравенства в этом параграфе принято относить к одному классу,
называемому «неравенствами Чебышёва». Следующее неравенство часто
называют собственно неравенством Чебышёва, хотя в такой форме оно
появилось впервые, видимо, в работах А. А. Маркова (например, Исчисление
вероятностей, 1913 г.).
Теорема 27 (Неравенство Маркова).
, то для любого положительного x
Доказательство. Введем новую случайную величину ?x, называемую «срезкой»
с. в. (?( на уровне x:
Для неё и,
Нам потребуется следующее понятие.
Определение 48. Пусть A — некоторое событие. Назовем индикатором события
A случайную величину I(A), равную единице, если событие A произошло, и
нулю, если A не произошло.
По определению, I(A) имеет распределение Бернулли с параметром p =
P(I(A) = 1) = P(A), и ее математическое ожидание равно вероятности
успеха p = P(A).
Случайную величину ?х можно представить в виде
Тогда
(11)
снизу согласно (11):
, что и требовалось доказать.
Следующее неравенство мы будем называть «обобщенным неравенством
Чебышёва».
, то для любого положительного х
В 1853 г. И. Бьенеме (I. Bienayme) и в 1866 г., независимо от него, П.
Л. Чебышёв прямыми методами доказали следующее неравенство
, то
В качестве следствия получим так называемое «правило трех сигм», которое
формулируют, например, так: вероятность случайной величине отличаться от
своего математического ожидания более, чем на три корня из дисперсии,
мала. Разумеется, для каждого распределения величина этой вероятности
своя: для нормального распределения, например, эта вероятность равна
0,0027 — см. свойство 9. Мы получим верную для всех распределений с
конечной дисперсией оценку сверху для «вероятности с. в. отличаться от
своего математического ожидания более, чем на три корня из дисперсии».
13.3 Законы больших чисел
с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ),
если
(12)
Законами больших чисел принято называть утверждения об условиях, при
которых последовательность с. в. «удовлетворяет закону больших чисел».
Выясним сначала, что означает и когда выполнен ЗБЧ для независимых и
одинаково распределенных с.в.
), поэтому (12) можно записать в виде
Итак, законы больших чисел.
Теорема 28 (ЗБЧ в форме Чебышёва).
имеет место сходимость:
ЗБЧ утверждает, что среднее арифметическое большого числа случайных
слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая
с. в. не отклонялась от своего среднего значения, при суммировании эти
отклонения «взаимно гасятся», так что среднее арифметическое
приближается к постоянной величине.
В дальнейшем мы увидим, что требование конечности второго момента (или
дисперсии) связано исключительно со способом доказательства, и что
утверждение остается верным если требовать существования только первого
момента.
. Тогда
Пусть ? > 0. Воспользуемся неравенством Чебышёва (следствие 13):
(13)
, по условию, конечна.
с конечными вторыми моментами удовлетворяет ЗБЧ, то есть
при выполнении любого из следующих условий:
;
, то есть
независимы, одинаково распределены и имеют конечную дисперсию (ЗБЧ
Чебышёва).
Теорема 29 (ЗБЧ в форме Хинчина).
имеет место сходимость:
Более того, в условиях теоремы 29 имеет место сходимость «почти
наверное». Получим в качестве следствия из ЗБЧ Чебышёва закон больших
чисел Я. Бернулли (1713). В отличие от доказанного через полтора
столетия ЗБЧ Чебышёва, описывающего предельное поведение среднего
арифметического с. в. с произвольными распределениями, ЗБЧ Бернулли —
утверждение только для схемы Бернулли.
Теорема 30 (ЗБЧ Бернулли).
Пусть А — событие, которое может произойти в любом из n независимых
испытаний с одной и той же вероятностью P(А). Пусть vn(А) — число
осуществлений события А в n испытаниях. Тогда
При этом для любого ? > 0
13.4 Примеры использования ЗБЧ и неравенства Чебышёва
Пример 46.
Монета подбрасывается 10 000 раз. Оценить вероятность того, что частота
выпадения герба отличается от вероятности более чем на одну сотую.
, искомая оценка сверху выглядит так:
Иначе говоря, неравенство Чебышёва позволяет заключить, что, в среднем,
не более чем в четверти случаев при 10 000 подбрасываниях монеты частота
выпадения герба будет отличаться от 1/2 более чем на одну сотую. Мы
увидим, насколько это грубая оценка, когда познакомимся с центральной
предельной теоремой.
Пример 47.
), не являющихся соседними в последовательности, равны нулю.
Удовлетворяет ли эта последовательность ЗБЧ?
Воспользуемся неравенством (13) и свойством 12:
(их ровно n -1 штука).
Оценим каждое из них, используя одно из свойств коэффициента корреляции
(по условию задачи)
удовлетворяет ЗБЧ.
… Из этой первой лекции по теории вероятностей я запомнил только
полузнакомый термин «математическое ожидание». Незнакомец употреблял
этот термин неоднократно, и каждый раз я представлял себе большое
помещение, вроде зала ожидания, с кафельным полом, где сидят люди с
портфелями и бюварами и, подбрасывая время от времени к потолку монетки
и бутерброды, сосредоточенно чего-то ожидают. До сих пор я часто вижу
это во сне. Но тут незнакомец оглушил меня звонким термином «предельная
теорема Муавра — Лапласа» и сказал, что все это к делу не относится.
Аркадий и Борис Стругацкие, Стажеры
Раздел 14. ЦПТ (центральная предельная теорема)
?
с ростом n. Или, после приведения к общему знаменателю,
Если при делении на n мы получили в пределе нуль (в смысле некоторой,
все равно какой, сходимости), резонно задать себе вопрос: а не слишком
ли на «много» мы поделили? Нельзя ли поделить на что-нибудь, растущее к
бесконечности медленнее, чем n, чтобы получить в пределе не нуль (и не
бесконечность, само собой)?
Можно поставить этот вопрос по-другому. Вот последовательность,
стремящаяся (как-то) к нулю. Можно ли ее домножить на что-либо растущее,
чтобы «погасить» это стремление к нулю? Получив, тем самым, что-нибудь
конечное и отличное от нуля в пределе?
, не сходится к нулю. Распределение этой, зависящей от n, случайной
величины становится все более похоже на нормальное распределение! Можно
считать, что такая последовательность сходится к случайной величине,
имеющей нормальное распределение, но сходится не по вероятности, а
только в смысле сходимости распределений, или «слабой сходимости».
14.2 Слабая сходимость
.
.
Иначе говоря, слабая сходимость — это поточечная сходимость функций
распределения во всех точках непрерывности предельной функции
распределения.
.
Следующее важное свойство уточняет отношения между сходимостями.
Свойство 16.
.
.
Доказательство.Докажем, что слабая сходимость к постоянной влечет
сходимость по вероятности.
Пусть
.
. Раскроем модуль:
(сужаем событие под знаком вероятности)
.
Следующее свойство приводит пример операций, которые можно применять к
слабо сходящимся последовательностям — скажем, домножать их на
последовательности, сходящиеся по вероятности к постоянным величинам.
Свойство 17.
.
.
Несколько содержательных примеров слабой сходимости мы рассмотрим в
следующей главе. Но основной источник слабо сходящихся
последовательностей и необычайно мощное и универсальное средство для
асимптотического анализа распределения сумм независимых и одинаково
распределенных случайных величин предоставляет нам ЦЕНТРАЛЬНАЯ
ПРЕДЕЛЬНАЯ ТЕОРЕМА
14.3 Центральная предельная теорема
Мы будем называть следующее утверждение «ЦПТ А. М. Ляпунова» (1901), но
сформулируем теорему Ляпунова только в частном случае — для
последовательности независимых и одинаково распределенных случайных
величин.
Теорема 31 (ЦПТ).
слабо сходится к стандартному нормальному распределению.
любого нормального закона непрерывна всюду на R, утверждение ЦПТ можно
сформулировать любым из следующих способов:
— независимые и одинаково распределенные случайные величины с конечной
и ненулевой дисперсией. Следующие утверждения эквивалентны друг другу и
равносильны утверждению ЦПТ.
имеет место сходимость
имеет место сходимость
имеет место сходимость
— произвольная с. в. со стандартным нормальным распределением, то
Замечание 19. Еще раз напомним, что функция распределения стандартного
нормального закона ищется либо по соответствующей таблице в справочнике,
либо с помощью какого-либо программного обеспечения, но никак не путем
нахождения первообразной.
14.4 Предельная теорема Муавра — Лапласа
Получим в качестве следствия из ЦПТ предельную теорему Муавра — Лапласа
(P. S. Laplace, 1812; A. de Moivre, 1730). Подобно ЗБЧ Бернулли,
предельная теорема Муавра – Лапласа — утверждение только схемы Бернулли.
Теорема 32 (Предельная теорема Муавра — Лапласа).
имеет место сходимость
14.5 Примеры использования ЦПТ
Пример 48.
Монета подбрасывается 10 000 раз. Оценить вероятность того, что частота
выпадения герба отличается от вероятности более чем на одну сотую.
Требуется найти
одного слагаемого.
Согласно ЦПТ или предельной теореме Муавра — Лапласа, последовательность
.
следует из свойства 10.
Замечание 20. Центральной предельной теоремой пользуются для
приближенного вычисления вероятностей, связанных с суммами большого
числа независимых и одинаково распределенных величин. При этом
распределение центрированной и нормированной суммы заменяют на
стандартное нормальное распределение.
Следующий результат позволяет оценить погрешность приближения в ЦПТ.
Теорема 33 (Неравенство Берри – Эссеена).
В условиях ЦПТ для любого х ( R (то есть равномерно по х)
Замечание 21. Про постоянную С известно, что:
а) в общем случае С не превышает 0,7655 (И. С. Шиганов),
(C. G. Esseen, Б. А. Рогозин),
в) как показывают расчеты, можно смело брать в качестве С число 0,4 —
даже для слагаемых с распределением Бернулли, особенно при малых n,
когда и это значение постоянной оказывается слишком грубой оценкой.
Подробный обзор можно найти в монографии В.М.Золотарева «Современная
теория суммирования независимых случайных величин», стр. 264– 291.
с распределением Бернулли
не превышает величины
не больше, чем 0,0456+0,004. Уместно сравнить этот ответ с оценкой,
полученной с помощью ЗБЧ в примере 48.
Пример 49.
сумму первых n случайных величин. При каких с имеет или не имеет место
сходимость
разрывна в точке с). Но
. Согласно ЦПТ,
Нашли опечатку? Выделите и нажмите CTRL+Enter
