Теория случайных чисел

Раздел 1. Теория случайных чисел.

 

Все события делятся на детерминированные, случайные и неопределенные.

Если событие наступает в эксперименте всегда, оно называется достоверным, если никогда – невозможным. Это детерминированные события.

Статистическое определение вероятности: Если в опыте, повторяющемся n раз, событие появляется m_A раз, тогда относительная частота наступления события: . Р(А) – вероятность наступления события А.

Для достоверного события W: Р(W)=1. Для невозможного события Æ: Р(Æ)=0.

0 £ P(A) £ 1, т.к. 0£m_A£n à 0 £ hn(A) £ 1

WmA=n hn(A)=1

Все мыслимые взаимоисключающие исходы опыта называются элементарными событиями. Наряду с ними можно наблюдать более сложные события – комбинации… Несколько событий в данном опыте называются равновозможными, если появление… Классическое определение вероятности: Если n-общее число элементарных событий и все они равновозможные, то вероятность…

Раздел 2. Сложные события.

Теория сложных событий позволяет по вероятностям простых событий определять вероятности сложных. Она базируется на теоремах сложения и умножения вероятностей.

1) Суммой (объединением) двух событий А и В называется новое событие А+В, заключающееся в проявлении хотя бы одного из этих событий.

2) Произведением (пересечением) двух событий А и В называется новое событие АВ, заключающееся в одновременном проявлении обоих событий. А*В=АВ, АА=А, АВА=АВ.

3) Событие А влечет за собой появление события В, если в результате наступления события А всякий раз наступает событие В. АÌВ

А=В: АÌВ, ВÌА

Два события называются несовместными, если появление одного из них исключает возможность появления другого.

Если события несовместны, то АВ=Æ.

События А₁, А₂, …А_n образуют полную группу событий в данном опыте, если они являются несовместными и одно из них обязательно происходит:

A_iA_j=Æ (i¹j, i,j=1,2…n)

A1+A2+…+An=W

А и - полная группа событий, т.к. А+=W, А=Æ.   Теорема сложения вероятностей.

Если число (np+q) нецелое, то k0 – единственное

Если число (np+q) целое, то существует 2 числа k0.

  Предельные теоремы в схеме Бернулли. 1. Предельная теорема Пуассона. При р»0, n-велико, np= l £ 10.

Раздел 3. Случайные величины и распределение вероятностей.

Случайная – величина, которая в ходе опыта принимает то или иное значение из возможных своих значений, меняющееся от опыта к опыту и зависящее от множества непредсказуемых факторов.

Если случайные события характеризуют процесс качественно, то случайная величина – количественно.

Случайная величина – численная функция, задаваемая на множестве элементарных событий. На одном множестве может быть несколько случайных величин.

Дискретная случайная величина (ДСК) – величина, принимающая счетное (конечное или бесконечное) множество значений.

Непрерывная случайная величина (НСВ) – случайная величина, значения которой образуют несчетные множества. (Например, расход бензина на 100 км у автомобиля Жигули в Нижнем Новгороде).

Задать св – значит указать все множество ее значений и соответствующие этим значениям вероятности. Говорят, что задан закон распределения случайной величины.

Случайная величина может быть задана несколькими способами:

1. Табличный.

Х	a1	a2	…	аn
Р	p1	p2	…	pn

Значения случайных величин в таблице ранжируются, т.е. указываются в порядке возрастания.

Недостпаток табличного способа в том, что он пригоден только для случайных величин, принимающих небольшое количество значений.

 

2. Функция распределения F(x) = P(X<x) или интегральный закон распределения.

Указывается вероятность того, что случайная величина принимает значение < x.

Х	a1	a2	a3	…	аn-1
Р	p1	p2	p3	…	pn-1
F(x)	p1	p1+p2	p1+p2+p3	…	p1+p2+…+pn-1

При увеличении значения случайной величины, количество ступенек функции F(х) возрастает, уменьшается их высота и в пределе при получаем гладкую непрерывную функцию F(х).

Свойства функции F(х).

1. Неотрицательна. 0£ F(х)£1

2. Неубывающая F(х₂)> F(х₁) при х₂>х₁

3.

4. Р(a<x<b) = F(a) – F(b) Вероятность того, что значение х попадет в интервал (а,b) определяется разностью значений функции на концах интервала.

 

Наряду с F(х) вводится f(x) - функция плотности вероятности или дифференциальный закон распределения:

Свойства функции f(x):

1. Неотрицательна. (т.к. F(x) неубывающая, f(x)³0)

2. Площадь фигуры под кривой на интервале (a,b) равна:

 

 

- условие нормировки функции f(x).

 

Основные дискретные и непрерывные случайные величины.

1. Биноминальная случайная величина x{0,1,2,3…n} , p+q=1, 0<p<1  

Операции со случайными величинами

Со случайными величинами, рассмотренными на одном и том же интервале исходов опыта, можно обращаться как с обычными числами и функциями.

X:

X	a1	a2	…	an
p	p1	p2	…	pn

Y=j(x)

Нужно найти закон распределения СВ Y. y_k=j(a_k), где k=1,2,…,n.

P(y=y_k)=P(x=a_k)=P_k

Если все значения СВ Y различны, то их надо проранжировать и указать соответствующие вероятности.

Если СВ Y принимает совпадающие значения, то их надо объединить под общей вероятностью, равной сумме соответствующих вероятностей, а после в ранжированном виде привести в таблице.

X={0,1,2,…,9}, P(x=k)=0.1, k=0,1,…,9, Y=x², Z=(x-5)².

X
P	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1
Y
Py	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1
Z
Pz	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1	0.1

 

Закон распределения СВ Z:

Z
Pz	0.1	0.2	0.2	0.2	0.2	0.1

 

Бинарные операции (с несколькими величинами)

СВ X,Y заданы в 1 опыте.

Исход опыта	E1	E2	…	En
Вероятность исхода	P1	P2	…	Pn
X	X1	X2	…	Xn
Y	Y1	Y2	…	Yn
Z=j(XY)	Z1	Z2	…	Zn

Сложнее, если СВ задана только своим распределением:

X	a1	a2	…	an
Р	p1	p2	…	pn

 

Y	b1	b2	…	bn
Р	g1	g2	…	Gn

Z=X+Y

СВ Z принимает значения a_k+b_s, где a_k=a₁,a₂,…,a_n; b_s=b₁,b₂,…b_m.

Общее количество возможных значений СВ = m×n.

P(Z=a_k+b_s)=P(X=a_k, Y=b_s)

Для нахождения такой вероятности необходимо знать закон совместного распределения СВ X и Y.

Набор точек (a_k,b_s) вместе с вероятностями P(X=a_k, Y=b_s) называется совместным распределением СВ X и Y. Обычно такое распределение задается таблицей.

Определение закона распределения суммы СВ по законам распределения слагаемых называется композицией законов распределения.

 

X Y	b1	b12	…	bs	…	bm	Px
a1	P11	P12	…	P1s	…	P1m	P1
a2	P21	P22	…	P2s	…	P2m	P2
…	…	…	…	…	…	…	…
ak	Pk1	…	…	Pks	…	Pkm	Pk
…	…	…	…	…	…	…	…
an	Pn1	Pn2	…	Pns	…	Pnm	Pn
Py	g1	g2	…	gs	…	gm

Наиболее просто вероятности P_ks находятся в случае независимости СВ X и Y. Две СВ X и Y называются независимыми тогда и только тогда, когда

P(X=a_k, Y=b_s)=P(X=a_k)×P(Y=b_s)

P_ks=P_k×P_s

По известному закону распределения совместного распределения СВ X и Y могут быть найдены одномерные законы распределения СВ X и Y.

Теорема . Если СВ Х,Y являются независимыми, то любые функции j(Х) и y(У) от этих величин также являются независимыми.

Распределение функции от случайной величины

Х – непрерывная СВ

. По закону распределения СВ Х. Найти закон распределения СВ Y.

Если СВ ХÎ[х₀ ,х₁], то Î [y₀ ,y₁].

Предполагается, что функция j(х) является однозначной и имеет обратную функцию q(y).

 

Воспользовавшись элементами вероятности:

 

получим .

Закон распределения не меняется, если q(y) является линейной.

f_y(y)=f_x(x).

Многомерные законы распределения СВ

n x1,x2,…,xn n-мерная случайная величина – совокупность n взаимосвязанных случайных величин. Для ее описания используются многомерные законы…   Двумерные функции распределения

Раздел 4. Числовые характеристики СВ

 

Исчерпывающие представления о СВ дает закон её распределения.

Во многих задачах, особенно на заключительной стадии, возникает необходимость получить о величине некоторое суммарное представление: центры группирования СВ – среднее значение или математическое ожидание, разброс СВ относительно её центра группирования.

Эти числовые характеристики в сжатой форме отражают существенные особенности изучаемого распределения.

Математическое ожидание (МО)

 

М(х), МО(х), m_x, m

 

Основные свойства МО:

1. М(х) СВ Х Þ Х_min£М(х)£Х_max

2. М(С)=С МО постоянной величины есть величина постоянная

3. М(Х±У)=М(Х) ±М(У)

4. М(Х×У)=М(х) ×М(у) Þ М(Сх)=СМ(х) – МО произведения двух независимых СВ

5. М(аХ+вУ)=аМ(Х)+вМ(У)

6. М(Х-m)=0 – МО СВ Х от её МО.

 

МО основных СВ

Дискретные Случайные Величины

1. Биноминальные СВ МО(Х)=np

2. Пуассоновские СВ МО(Х)=l

3. Бернуллиевы СВ МО(Х)=р

4. Равномерно распред. СВ

 

Непрерывные Случайные Величины

1. Равномерно распределенная СВ

2. Нормально распределенная СВ MO(X)=m

3. Экспоненциально распределенная СВ

 

Дисперсия СВ

2. M(|X-m|) – среднее абсолютное отклонение СВ от центра группирования 3. M(X-m)2 – дисперсия – МО квадрата отклонения СВ от центра группирования M(X-m)2=D(X)=s2=sx2=s2(X)

ДСВ

1. Биноминальные D(X)=npq

2. Пуассоновские D(X)=l

3. Бернуллиевы D(X)=pq

НСВ

1. Равномерно распределенные D(X)=(b-a)²/12

2. Нормально распределенные D(X)= s²

3. Экспоненциально распределенные D(X)=1/l²

 

Математическое ожидание и дисперсия суммы случайных величин

M(Xk)=a D(Xk)=s2 – среднее арифметическое

Предельные теоремы теории вероятностей

Закон Больших Чисел устанавливает связь между абстрактными моделями теории вероятностей и основными ее понятиями и средними значениями, полученными… ЗБЧ доказывает, что средние выборочные значения при n®¥ стремятся к… Лемма Маркова. Если Y – СВ, принимающая не отрицательные значения, то для любого положительного e:

Статистическое оценивание параметров распределения

Задачи такого рода решаются методами проверки статистических гипотез и статистической оценки параметров распределения. Прежде нужно получить и провести первичную обработку исходных… Статистические ряды часто изображают графически в виде полигона, гистограммы, кумулятивной кривой F*(x).

Методы оценки параметров генеральной совокупности

1. Всегда приводит к состоятельным оценкам (иногда смещенным) 2. Получаемые оценки распределены асимптотически нормально и имеют минимально… Недостаток: требуется решать громоздкие системы уравнений.

Распределение средней арифметической для выборки

Из нормальной совокупности. Распределение Стьюдента.

Выборочное среднее рассчитанное по конкретной выборке, есть конкретное число. Состав выборки случаен и среднее арифметическое вычисленное по… - средняя арифметическая величина меняющаяся от выборки к выборке. Теорема: Если случайная величина Х подчиняется нормальному закону с параметрами m и σ2 Х(m, σ2), а…

Распределение дисперсии в выборках нормальной совокупности.

Распределение χ2 Пирсона.

1) М(Х) – известно; 2) М(Х) – не известно.  

Доверительный интервал.

В методе доверительных интервалов указывает не одно(точечное) значение интересующего нас параметра, а целый интервал. Он строится на основе… Задаётся некоторое число 0 < α < 1 близкое к нулю, которое называется уровень значимости.

Построение доверительного интервала для математического ожидания.

Математическое ожидание неизвестно и требуется построить для него доверительный интервал. 1. Известно σ2. 2. Неизвестно σ2.

Проверка статистических гипотез.

Наряду с оценкой параметров распределения по выборочным данным большой интерес представляет вид (закон) распределения неизвестный на практике. Такие… Относительно неизвестного теоретического распределения формируется некоторое… Например, теоретическое распределение подчиняется нормальному, экспоненциальному закону.

Проверка гипотезы о равенстве центров распределения математического ожидания 2-х нормальных генеральных совокупностей.

Возникает вопрос: можно ли объяснить отличительное расхождение случайными ошибками эксперимента и относительно малыми объёмами выборки или это… Имеется две случайных величин Х и Y с нормальным законом распределения. Получим 2-е независимых выборки объёмом n1 и n2 из указанных генеральных совокупностей.

Раздел 6. Основы дисперсионного анализа.

Дисперсионный анализ – это статистический метод анализа результатов наблюдений зависящий от различных одновременно действующих факторов и позволяющий выбрать из ряда факторов наиболее важные, оценивать их влияние.

Основными предпосылками дисперсионного анализа является как правило нормальное распределение результатов наблюдений и отсутствие влияния исследуемых факторов на дисперсию результатов наблюдения.

Обязательным здесь является возможность управляемого изменения фактора в рамках его разновидностей называется уровнями фактора. Эти эксперименты могут быть пассивными, когда существование уровней и их смена является естественными для исследуемого объекта и активными, когда эти изменения искусственно вносятся экспериментатором по заранее составленному плану.

Идея дисперсионного анализа в разложении общей дисперсии случайной величины на независимые случайные слагаемые, каждый из которых характеризует влияние того или иного фактора, или их взаимодействие. Последующие сравнения этих дисперсий позволяют оценить сущность влияния факторов на исследуемую величину.

Пусть Х – это некоторая случайная величина зависящая от 2^х действующих на неё факторов А и В.

- среднее значение исследуемой величины.

Отклонение:

где: α – отклонение вызванное фактором А;

β – отклонение вызванное фактором В;

γ - отклонение вызванное другими факторами.

α, β, γ – случайные величины независимы.

 

Дисперсию случайной величины Х, α, β, γ обозначим:

где: величина - остаточная дисперсия учитывающая влияние случайных и прочих неучтённых факторов.

Для независимых и случайных величин имеет место равенство:

Сравнивая или с величиной можно установить степень влияния факторов А и В на величину Х по сравнению с неучтёнными и случайными факторами.

Сравнивая между собой и мы можем оценить сравнительную сте­пень влияния факторов А и В на величину Х.

Дисперсионный анализ позволяет на основании выборочных данных най­ти все значения дисперсии . Далее используя соответствующие критерии можно оценить степень влияния параметров А и В на исследуемую случайную величину.

Если речь идёт о влиянии одного фактора на исследуемую случайную величину, то речь идёт об однофакторном дисперсионном анализе. Если же речь идёт о многих факторах, то говорят о многофакторном дисперсионном анализе.

 

 

Однофакторный дисперсионный анализ.

Типичным примером является работа технологической линии в составе ко­торой имеется несколько параллельных рабочих агрегатов. На выходе имеют место какие-то детали. Эти детали по какому-то параметру можем… Ясно, что среднее значения контролируемых параметров после каждого станка будут несколько отличаться.

Определение эмпирического корреляционного соотношения.

y – измеряемое значение зависимой переменной n – общее количество измерений - условное среднее (среднее значение зависимой переменной у в i-ом интервале св Х)

Коэффициент множественной корреляции

D* – это D с добавочными верхней строкой и правым столбцом, состоящих из свободных членов уравнений. Пример: Вычислить КМК:

Активный эксперимент

1. Появляется четкая логическая схема всего исследования. 2. Повышается эффективность исследования. Оказывается возможным извлечь… 3. Обработка результатов эксперимента осуществляется стандартными приемами.