Введення.
Теорія ймовірності виникла як наука з переконання, що в основі масових випадкових подій лежать детерміновані закономірності. Теорія ймовірності вивчає дані закономірності.Наприклад: визначити однозначно результат випадання "орла" або "решки" в результаті підкидання монети не можна, але при багаторазовому підкиданні випадає приблизно однакове число "орлів" і "решек".
Випробуванням називається реалізація певного комплексу умов, який може відтворюватися необмежену кількість разів. При цьому комплекс умов включає в себе випадкові фактори, реалізація якого в кожному випробуванні призводить до неоднозначності результату випробування.
Наприклад: випробування - підкидання монети.
Результатом випробування є подія. Подія буває:
Достовірне (завжди відбувається в результаті випробування);
Неможливе (ніколи не відбувається);
Випадкове (може відбутися або не відбутися в результаті випробування).
Наприклад: При підкиданні кубика неможлива подія - кубик стане на ребро, випадкова подія - випадання будь-якої межі.
Конкретний результат випробування називається елементарним подією.
У результаті випробування відбуваються тільки елементарні події.
Сукупність усіх можливих, різних, конкретних результатів випробувань називається простором елементарних подій.
Наприклад: Випробування - підкидання шестигранного кубика. Елементарна подія - випадання межі з "1" або "2".
Сукупність елементарних подій це простір елементарних подій.
Складним подією називається довільна підмножина простору елементарних подій.
Складне подія в результаті випробування настає тоді і тільки тоді, коли в результаті випробувань сталося елементарна подія, що належить складного.
Таким чином, якщо в результаті випробування може відбутися тільки одна елементарна подія, то в результаті випробування відбуваються всі складні події, до складу яких входять ці елементарні.
Наприклад: випробування - підкидання кубика. Елементарна подія - випадання грані з номером "1". Складне подія - випадання непарної грані.
Введемо наступні позначення:
А - подія;
w - елементи простору W;
W - простір елементарних подій;
U - простір елементарних подій як достовірне подія;
V - неможлива подія.
Іноді для зручності елементарні події будемо позначати E i, Q i.
Операції над подіями.
1. Подія C називається сумою A + B, якщо воно складається з усіх елементарних подій, що входять як у A, так і в B. При цьому якщо елементарна подія входить і в A, і в B, то в C воно входить один раз. У результаті випробування подія C відбувається тоді, коли відбулася подія, яка входить або в A або в B. Сума довільної кількості подій складається з усіх елементарних подій, які входять в одне з Ai, i = 1, ..., m. B |
A |
W |
2. Подія C твором A і B, якщо воно складається з усіх елементарних подій, що входять і в A, і в B. Твором довільного числа подій називається подія складається з елементарних подій, що входять в усі Ai, i = 1, ..., m.
B |
W |
A |
3. Різницею подій AB називається подія C, що складається з усіх елементарних подій, що входять в A, але не входять до B.
B |
W |
A |
4. Подія називається протилежним події A, якщо воно задовольняє двом властивостям.
Формули де Моргана:
A |
W |
5. Події A і B називаються несумісними, якщо вони ніколи не можуть відбутися в результаті одного випробування.
Події A і B називаються несумісними, якщо вони не мають спільних елементарних подій.
C = A × B = V
Тут V - порожня множина.
Частість настання події.
Нехай простір елементарних подій звичайно і складається з m елементарних подій. У цьому випадку в якості можливих результатів випробувань розглядають 2 m подій - безліч всіх підмножин простору елементарних подій W і неможливе подія V.Приклад:
W = (w 1, w 2, w 3)
A 1 = V
A 2 = ( 1)
A 3 = ( 2)
A 4 = ( 3)
A 5 = ( 1, 2)
A 6 = ( 2, 3)
A 7 = ( 1, 3)
A 8 = (w 1, w 2, w 3)
Позначимо систему цих подій через F. Беремо довільне подія AÎF. Проводимо серію випробувань в кількості n. n - це кількість випробувань, в кожному з яких відбулася подія A.
Частість настання події A в n випробуваннях називається число
Властивості частості.
1.2. Частість достовірного події дорівнює 1. n (U) = 1.
3. Частість суми попарно несумісних подій дорівнює сумі частостей.
Розглянемо систему A i, i = 1, ..., k; події попарно несумісні, тобто
Нехай у результаті деякого випробування відбулася подія A. За визначенням суми це означає, що в цьому випробуванні відбулося деяке подія A i. Так як всі події попарно несумісні, то це означає, що ніяка інша подія A j (i ¹ j) в цьому випробуванні відбутися не може. Отже:
n A = n A1 + n A2 +...+ n Ak
Теорія ймовірності використовується при описі тільки таких випробувань, для яких виконується таке припущення: Для будь-якої події A частость настання цієї події в будь-який нескінченної серії випробувань має один і той же межа, який називається ймовірністю настання події A.
Отже, якщо розглядається ймовірність настання довільного події, то ми розуміємо це число таким чином: це частость настання події в нескінченній (досить довгої) серії випробувань.
На жаль, спроба визначити ймовірність як межа частості, при числі випробувань, що прагнуть до нескінченності, закінчилася невдало. Хоча американський вчений Мізес створив теорію ймовірності, що базується на цьому визначенні, але її не визнали через великої кількості внутрішніх логічних невідповідностей.
Теорія ймовірності як наука була побудована на аксіоматиці Колмогорова.
Аксіоматика теорії ймовірності.
Побудова ймовірнісного простору.
Послідовно будуємо ймовірнісний простір.Етап 1:
Є випробування. У результаті проведення випробування може спостерігатися одна подія із серії подій e. Всі події із системи e називаються спостерігаються. Введемо припущення, що якщо події A Ì e, B Ì e спостережувані, то наблюдаеми та події
Система подій F називається полем подій або алгеброю подій, якщо для двох довільних подій A, B Ì F виконується:
1) Додатки
2) (A + B) Î F, (A × B) Î F
3) всі кінцеві суми елементів з алгебри належать алгебри
4) всі кінцеві твори елементів з алгебри належать алгебри
5) всі додатки кінцевих сум і добутків належать алгебри.
Таким чином, систему e ми розширюємо до алгебри або поля F шляхом включення всіх кінцевих сум, творів, і їх доповнень. Тобто вважаємо, що в результаті проведення випробування спостерігається система є полем або алгеброю.
Безліч всіх підмножин кінцевого числа подій є спостережуваної системою - алгеброю, полем.
Етап 2:
Кожному події A Î F ставимо у відповідність число P (A), яке називається ймовірністю настання події A. Така операція задає імовірнісну міру.
Імовірнісна міра - числова скалярна функція, аргументами якої є елементи з системи алгебри F. Введена імовірнісна міра задовольняє системі з трьох аксіом.
1.
2. P (U) = 1.
3. Розглянемо кінцеву або нескінченну систему попарно несумісних подій, кожна з яких належить алгебри F.
Алгебра подій називається s - алгеброю, якщо ця система подій містить в собі всі кінцеві суми і твори з алгебри F та їх доповнення, а також всі нескінченні суми і твори з алгебри та їх доповнення.
Приклад: У просторі R 1 задамо в якості поля подій всі кінцеві інтервали виду a ³ x> b, b ¹ a.
Поширення цієї алгебри на s - алгебру приводить до поняття борелівська алгебри, елементи якої називаються борелівська множинами. Борелівська алгебра виходить не тільки розширенням поля виду a ³ x> b, але і розширенням полів виду a> x ³ b, a ³ x ³ b.
Над піднаглядним полем подій F задається лічильно-адитивна міра - числова скалярна функція, елементами якої є елементи поля F, тобто події. Вона задовольняє наступним трьом умовам-аксіомам теорії ймовірності.
1.
2. P (A) Î [0, 1] P (U) = 1.
3. Нехай є A 1, A 2, A 3 ,..., A k - система попарно несумісних подій
Теорема про продовження заходів.
Побудуємо мінімальну s - алгебру, якій належить поле подій F (наприклад, борелівська s - алгебра - це мінімальна s - алгебра, яка містить поле всіх полуінтервалов ненульовий довжини).Тоді доводиться, що лічильно-адитивна функція P (A) однозначно поширюється на всі елементи мінімальної s - алгебри і при цьому ні одна з аксіом не порушується.
Таким чином, продовжене P (A) називається s - адитивної заходом.
s - алгебра містить неспостережний події поряд з спостерігаються.
Але в аксіоматичної теорії ймовірності вважається, що може статися будь-яку подію з s - алгебри.
Розширення поля спостережуваних подій на s - алгебру пов'язано з неможливістю отримати основні результати теорії ймовірності без поняття s - алгебри.
Визначення ймовірнісного простору.
Імовірнісним простором називається трійка (W, s, P), деW - простір елементарних подій, збудоване для даного випробування;
s - s-алгебра, визначена на W - системі можливих подій, яка цікавить дослідника, в результаті проведених випробувань;
P - s - адитивна міра, тобто s - адитивна неотрицательная функція, аргументами якої є аргументи з s - алгебри і задовольняє трьом аксіомам теорії ймовірності.
1.
2. Імовірність достовірного події дорівнює 1 P (W) = 1.
3. Ймовірність суми несумісних подій дорівнює сумі ймовірностей
k - можливо нескінченне число.
Наслідок:
Імовірність неможливого події дорівнює 0.
За визначенням суми має місце нерівність W + V = W. W і V несумісні події.
За третин аксіомі теорії ймовірності маємо:
P (W + V) = P (Q) = P (U) = 1
P (W) + P (V) = P (W)
1 + P (V) = 1
P (V) = 1
Нехай W складається з кінцевого числа елементарних подій W = {E 1, E 2 ,..., E m} тоді за визначенням
Нехай деяка подія AÌW складається з k елементарних подій, тоді {E i1, E i2 ,..., E ik}
Довести: Якщо AÌB, то P (B) ³ P (A), B = A + C, A і C несумісні.
* Нехай B = A + C, A і B несумісні. Тоді по третій аксіомі теорії ймовірності P (B) = P (A + C) = P (A) + P (C) тому 1 ³ P (C) ³ 0 - позитивне число, то P (B) ³ P (A).
Класичне визначення ймовірності.
Нехай W складається з кінцевого числа елементарних подій, і всі елементарні події різновірогідні, тобто жодному з них з них не можна віддати переваги до випробування, отже, їх можна вважати рівноімовірними.Тоді достовірна подія
Нехай довільне подія
Якщо елементарні події є рівноправними, а, отже, і рівноімовірними, то ймовірність настання довільного події дорівнює дробу чисельник якого дорівнює числу елементарних подій, що входять в дане, а знаменник - загальна кількість елементарних подій.
Умовна ймовірність.
P (A / B)Умовною ймовірністю настання події A, за умови події B, називається ймовірність настання події A в результаті випробувань, якщо відомо, що в цей випробуванні відбулася подія B.
Виведення формули умовної ймовірності для випадку рівноймовірно елементарних подій
m |
r |
B |
A |
A × B |
Дійсно, в даному випробуванні відбулася одна з t подій, що входять до B. Всі елементарні події різновірогідні, отже, для даного випробування ймовірність настання довільного елементарної події, що входить до B дорівнює 1 / t. Тоді за класичним визначенням ймовірності, в даному випробуванні подія A відбудеться з вірогідністю r / t.
У загальному випадку довести це формулювання неможливо, в теорії ймовірності вона вводиться як правило. Існує лише тлумачення цієї формули.
Обгрунтування формули умовної ймовірності в загальному випадку.
Нехай у n B випробуваннях відбулася подія B, а в n A випробуваннях відбулася подія A. Знайдемо умовну частость настання події A за умови, що відбулася подія B. Ми можемо зробити це для обгрунтування формули, тому що під ймовірністю настання події розуміється межа частості настання події, за умови, що серія випробувань досить довга.Умовна частость
Розглядаючи AB як одна подія D маємо:
Розглянемо систему подій A 1, A 2 ,..., A k. Покажемо, що ймовірність їх спільного наступу дорівнює:
Доказ проведемо по мат індукції.
Формула дорівнює для 2 і 3 (див. раніше)
Нехай формула вірна для k-1.
Введемо подія B.
P (A 1 A 2 ... A k-1) = P (B)
P (A 1 A 2 ... A k) = P (A k B) = P (B) × P (A k B)
Незалежні події.
Дві події A і B називаються незалежними, якщо P (A / B) = P (A); P (B) = P (B / A) - довести.У цьому випадку ймовірність настання двох подій A і B дорівнює P (AB) = P (B) P (A / B) = P (A) P (B),
при цьому покажемо, що P (B / A) = P (B); P (AB) = P (B) P (A) = P (A) P (B / A)
Події A 1 A 2 ... A k називаються незалежними між собою, якщо ймовірність їх спільного наступу
* Якщо б події були несумісні, то P (A / B) = 0 і P (B / A) = 0, тому що вони незалежні, то P (A / B) = P (A) і P (B / A) = P (B), тобто твердження "незалежні події несумісні", тому що P (A) = 0 і P (B) = 0, то це твердження невірно.
Формула складання ймовірностей.
U - достовірна подія
Покажемо, що події
* Якщо події несумісні, то
тобто події несумісні.
Тоді по третій аксіомі теорії ймовірності
Справедливо наступне тотожність на підставі (1) і закону дистрибутивності
Показати самим, що всі три безлічі попарно несумісні.
На підставі першої і третьої аксіоми теорії ймовірності одержуємо:
За третин аксіомі:
Для іспиту довести самим формулу суми довільного числа подій
Формула повної ймовірності.
Розглянемо систему A з k попарно несумісних подій.B 1, B 2, ..., B k
Нехай дано подія A, що задовольняє рівності A = B 1 A + B 2 A +...+ B k A.
Показати, що події B 1 A, B 2 A, B k A попарно несумісні. B i AB j A = B i B j AA = VAA = V
Знайти ймовірність настання події A. Будь-яка подія входить до A, обов'язково входить в деякий, але одне B i, тому що B 1, B 2, ..., B k утворюють повну групу.
Оскільки B 1, B 2, ..., B k несумісні, то по третій аксіомі теорії ймовірності маємо:
Наприклад: Є урни трьох складів
| 1 | 5 урн | 6 білих і 3 чорних кулі |
| 2 | 3 урни | 10 білих і 1 чорний |
| 3 | 7 урн | 0 білих і 10 чорних |
Випробування - витягується куля. Яка ймовірність того, що при цьому буде витягнуто біла куля.
B 1 - Витягнути будь-яку кулю з урни 1.
B 2 - Витягнути будь-яку кулю з урни 2.
B 3 - Витягнути будь-яку кулю з урни 3.
A - Витягти біла куля.
A = B 1 A + B 2 A + B 3 A
B 1, B 2, B 3 - попарно несумісні.
Формула повної ймовірності: P (A) = P (B 1) P (A / B 1) + P (B 2) P (A / B 2) + P (B 3) P (A / B 3)
| P (B 1) = 1 / 3 | P (A / B 1) = 6 / 9 = 2 / 3 |
| P (B 2) = 1 / 5 | P (A / B 2) = 10/11 |
| P (B 3) = 7 / 15 | P (A / B 3) = 0 |
Формула Байєса.
Постановка завдання та ж, але вирішуємо зворотну задачу.Проводиться випробування, в результаті якого сталася подія A. Яка ймовірність того, що в цьому випробуванні відбулася подія B i.
Умовні ймовірності називаються апостеріорними, а безумовні - апріорними ймовірностями.
P (AB i) = P (A) P (B i / A) = P (B i) P (A / B i)
Звідки,
Таким чином, формула Байєса:
Композиція випробувань.
Є ймовірнісний простір, яке породжує випробування 1.
де E i, i = 1, ..., m 1 - простір елементарних подій в результаті випробування.
P (E i), i = 1, ..., m 1 - ймовірності елементарних подій.
Випробування 2 породжує ймовірнісний простір виду
P (E i), P (Q j) - різні імовірнісні заходи.
Композицією двох випробувань називається складне випробування, яке у поведінці першого і другого випробування.
Композиція випробувань породжує ймовірнісний простір виду:
E i Q j - композиційне подія.
У загальному випадку по P (E i) та P (Q j) знайти P (E i Q j) неможливо.
Розглянемо один окремий випадок, коли це можна зробити.
Два випробування називаються незалежними, якщо різні результати обох випробувань визначаються непов'язаними між собою випадковими чинниками.
З визначення незалежності випробування випливає, що умовні частості настання події в одному випробуванні, за умови, що в другому випробуванні сталося фіксоване число подій рівні безумовним частості, якщо вони існують.
Нехай випробування незалежні. У результаті проведення першого випробування відбулося елементарна подія E i, в результаті другого випробування може відбутися все що завгодно.
Тоді складна подія, що визначає результат першого і другого випробування має вигляд:
Імовірність складної події A.
Якщо в результаті другого випробування відбулася подія Q j, а в результаті першого випробування могло відбутися все що завгодно, то складна подія B має вигляд:
Імовірність складної події B дорівнює сумі ймовірностей комбінацій виду E i Q j, i = 1, ..., m1
A = {E i Q 1, E i Q 2, ..., E i Q j, ..., E i Q m2}
B = {E 1 Q j, E 2 Q j, ..., E i Q j, ..., E m1 Q j}
За визначенням твори AB в нього входять лише ті події, які входять і в A, і в B. З наведених вище формул випливає, що тільки подія E i Q j входить і в A, і в B, то AB = E i Q j. Слід:
Композиційне простір має вигляд:
Загальна структура незалежних подій в композиційному просторі, породженому композицією випробувань:
тобто в результаті першого випробування відбулися елементарні події:
В результаті другого випробування події:
Складне подія B визначає всі можливі комбінації результатів двох випробувань незалежно один від одного. У результаті першого випробування відбулися елементарні події:
В результаті другого випробування події:
Тоді:
тому що
то
При вирішенні практичних завдань, пов'язаних з незалежними випробуваннями звичайно не потрібно будувати композиційних просторів елементарних подій, а використовувати формально неправильний запис: P (A × B) = P (A) × P (B).
Композиція n випробувань.
Є n випробувань. Задамо для i-го випробування ймовірнісний простір:
Композицією n випробувань називається складне випробування, яке у спільному проведенні n випробувань. Задається n випробувань, ймовірнісний простір кожного з яких має вигляд:
Композиційне простір має вигляд:
Композиція n незалежних випробувань.
Випробування (n - випробувань) називаються незалежними, якщо неоднозначність результату кожного з випробувань визначена не пов'язаними між собою групами факторів.
Подія A 1: у результаті проведення композиційного випробування в першому випробуванні відбулася подія
Подія A n: в результаті проведення композиційного випробування в першому випробуванні відбулася подія
Розглянемо подію:
У силу визначення незалежності випробувань очевидно, що:
Отже:
На практиці не будують композиційних просторів, а записують формально неправильну формулу: P (A 1 A 2 ... A n) = P (A 1) P (A 2) ... P (A n).
Композиційне простір має вигляд:
Загальна структура незалежних подій в композиційному просторі має вигляд:
| 1-е подія - | це подія, яка відбувається в 1-м вероятностном просторі |
| 2-е подія - | це подія, яка відбувається в 2-му вероятностном просторі |
| n - подія - | це подія, яка відбувається в n-му вероятностном просторі |
| I | II |
Ентропія - міра невизначеності результату випробування (до випробування).
Першим, хто функціонально задав вираз для ентропії був Шеннон.
Для ймовірнісного простору:
Ентропія задається виразом:
Самим показати, що:
Якщо ймовірнісний простір не має визначеності, тобто якесь із P i = 1, а інші рівні 0, то ентропія дорівнює нулю.
Якщо елементарний результат равновероятен, тобто
0 £ P i £ 1,
1)
т.ч. ймовірності p 1, p 2, ..., p s звертаються в нуль, наприклад p i, яка дорівнює 1. Але log1 = 0. Решта числа також звертаються до 0, тому
2) Доведемо, що ентропія системи з кінцевим числом станів досягає максимуму, коли всі стани різновірогідні. Для цього розглянемо ентропію системи як функцію ймовірностей p 1, p 2, ..., p s і знайдемо умовний екстремум цієї функції, за умови, що
Користуючись методом невизначених множників Лагранжа, будемо шукати екстремум функції:
Диференціюючи по p 1, p 2, ..., p s і прирівнюючи похідні нулю отримаємо систему:
Звідки видно, що екстремум досягається при рівних між собою p 1.
Оскільки
Одиницею вимірювання ентропії є ентропія ймовірнісного простору види:
Невизначеність результату випробування до випробування автоматично визначає інформативність результату випробування після випробування. Тому в бітах також вимірюється інформативність результату.
Розглянемо два імовірнісних простору:
Проводимо композицію двох випробувань. Композиційне простір має вигляд:
З точки зору якісного аналізу максимальна ентропія композиційного ймовірнісного простору досягається тоді, коли випробування незалежні. Знайдемо ентропію композиційного простору для випадку незалежних випробувань.
Біноміальний розподіл.
n випробувань називаються системою випробувань Бернуллі, якщо випробування незалежні, в кожному з них відбувається подія
Знайдемо ймовірність того, що в результаті проведених n випробувань подія А сталося m разів:
Розглянемо композицію n незалежних випробувань і побудуємо композиційне простір елементарних подій.
Загальний вигляд елемента цього простору наступний:
| де |
Знайдемо ймовірність настання будь-якого елементарної події з композиційного простору:
Розглянемо в композиційному вероятностном просторі подія: у n випробуваннях подія A сталося m разів.
Подія A складається з
Отже, на підставі III аксіоми теорії ймовірності результат дорівнює:
Випадкова величина
Нехай є ймовірнісний простір виду
Випадковою величиною називається вимірна числова скалярна функція
Числова скалярна функція - це функція, яка задовольняє наступній умові:
Якщо проведено випробування, в результаті якого відбулося деяке елементарна подія
Відповідно до визначення випадкової величини вводиться числова скалярна функція F (x),
Ця функція називається функцією розподілу випадкової величини
Розглянемо три події:
де a <b, a, b - дійсні числа.
Властивості:
Покажемо, що з факту
A 2 -алгебри
A 1 -алгебри
і рівності
За визначенням -алгебри A 3 вимірна, тому можна прийняти III аксіому теорії ймовірності:
F (x) - неспадними функція
Якщо x <y, то
тому що
Для всіх технічних додатків функцію розподілу можна вважати спрямованої зліва.
У силу того, що функція розподілу не убуває, вона однозначно задає стчетно-адитивну міру на полі, породженому усіма полуінтерваламі ненульовий довжини.
За введеному полю побудуємо борелівська алгебру. Позначимо її . Візьмемо довільне число B не належить полю. Це крапка або сегмент. Оскільки безліч
Функція
де
Функція g (x) називається борелівська функцією, якщо для будь-якого B безліч
Борелівська функція - функція, визначена на системі борелівська множин.
У функціональному аналізі показано, що всі відомі аналітичні функції є борелівська.
ТЕОРЕМА:
Нехай g (x) борелівська функція,
є вимірної і, отже, випадковою величиною.
Беремо довільне B .
Розглянемо безліч
тому що
Отже, функція
Теорема Колмогорова
Будь-яка числова скалярна функція, яка задовольняє властивостям, яким задовольняє функція розподілу, є функцією розподілу і однозначно задає ймовірнісний простір виду:
- борелівська алгебра;
P - міра на борелівська геометрії;
R 1 - числова скалярна вісь.
Введемо функцію F (x)
Ця функція визначена для всіх x, неспадними, безперервна зверху. Показати самим, що така функція однозначно задає лічильно-адитивну міру на полі, породженому усіма полуінтерваламі ненульовий довжини.
Доведемо, що 0 <F (x) <1
Відповідно до термінології, якщо функція y = f (x) неперервна на відрізку [a, b], то вона обмежена. Оскільки наша функція не спадна, то максимум і мінімум вона відповідно буде мати такий:
тобто 0 <F (x) <1.
2. Нехай маємо такі функції.
Побудуємо борелеву алгебру на полі, тоді за теоремою про продовження лічильно-адитивна функція, визначена на полі, без зміни аксіом теорії ймовірності, однозначно поширюється на всі елементи борелевой алгебри, не належать полю. Т.ч. ймовірнісний простір побудований, теорема доведена.
Сенс теореми.
Теорема Колмогорова дозволяє стверджувати, що якщо ви досліджуєте випадкову величину, то не треба будувати абстрактне простір елементарних подій, -алгебру, лічильно-адитивну міру, конкретний вид функції
X 1, X 2, ..., X n
Дискретні випадкові величини
Випадкова величина називається дискретною, якщо в результаті випробування вона може прийняти значення з кінцевого або лічильного безлічі можливих числових значень.
Випадкові величини надалі будемо позначати великими літерами:
X, Y, Z
Ймовірнісний простір дискретної випадкової величини задається у вигляді:
Приклад:
Випробування - композиція n-незалежних випробувань, в кожному з яких відбувається подія A з імовірністю p, або
Ймовірнісний простір
У цьому прикладі -алгеброю є безліч всіх підмножин простору елементарних подій. Введену нами випадкову величину x за визначенням можна задати:
- Верхній рядок - це сукупність можливих числових значень, які може приймати випадкова величина;
- Нижня рядок - ймовірність настання цих числових значень.
Практично у всіх завданнях природознавства відсутній проміжний етап: випробування, - простір всіх можливих результатів випробування,
Насправді структура:
- Випробування;
- Результат випробування;
- Число на числовій осі.
Імовірнісні характеристики дискретних випадкових величин.
Математичним очікуванням випадкової величини X називається число виду
x i - всі можливі різні конкретні результати випробування;
p i - ймовірність їх настання.
Математичне сподівання є як би аналогом центру мас точкової механічної системи:
Як центр мас:
Сенс характеристики мат.ожіданія полягає в наступному: це точка на числовій осі, щодо якої групуються результати конкретних випробувань над дискретної випадкової величиною.
Властивості математичного сподівання
1. MC = C
2. MCX = CMX
Побудуємо таблицю для випадкової величини CX:
за визначенням математичного сподівання:
3. M (X + a) = MX + a, a = const
Побудуємо таблицю для випадкової величини x + a
Довести наслідок
4. M (aX + b) = aMX + b, де a, b - константи
Нехай випадкова величина Y є функцією f (x) від випадкової величини X. Побудуємо ймовірнісний простір випадкової величини Y.
Верхня рядок є простором елементарних подій для випадкової величини Y. В іншому випадку верхня рядок є простором елементарних подій для величини Y.
Всі однакові числа у верхньому рядку замінюється одним, ймовірність настання якого дорівнює сумі відповідних ймовірностей.
Слідство.
Математичне сподівання випадкової величини Y дорівнює:
Початковим моментом К-го порядку випадкової величини X називається математичне сподівання випадкової величини X k.
Центрована випадкова величина - це величина, рівна X '= X-MX
Покажемо, що математичне сподівання MX 'дорівнює 0.
Центральним моментом К-го порядку називається початковий момент К-го порядку випадкової величини X '
при вирішенні реальних завдань практичні ймовірності р i невідомі, але вважаючи, що ймовірність - це частість, при великому числі випробувань
Дисперсією випадкової величини X, називається центральний момент другого порядку випадкової величини X.
Дисперсія є мірою концентрації результатів конкретних випробувань над випадковою величиною X.
Властивості.
1. Чим менше дисперсія, тим більш тісно групуються результати конкретних випробувань щодо математичного очікування.
Нехай дисперсія мала, тоді мало кожний доданок суми (x i - ) 2 p i. Тоді для, x i яке за модулем різко відрізняється від математичного сподівання , p i - мало. Отже, велику ймовірність настання можуть мати лише ті x i, які по модулю мало відрізняються від математичного очікування.
2. Якщо дисперсія дорівнює 0, то X - const.
3.
D (X + C) = DX
Y = X + C
Y '= Y-MY = X + CM (X + C) = X + C-MX-C = X-MX = X'
DY = M (Y ') 2 = M (X') 2 = DX
4.
DCX = C 2 DX
Y = CX
DY = M (Y ') 2 = M (Y') 2
Y '= Y-MY = CX-MCX = CX-MCX = C (X-MX) = CX'
DY = M (Y ') 2 = M (CX') 2 = C 2 M (X ') 2 = C 2 DX
5.
Побудуємо функцію розподілу для дискретної випадкової величини. Для зручності домовимося, що випадкові величини розташовуються в порядку зростання.
тобто за визначенням для будь-якого дійсного X, F (x) чисельно дорівнює ймовірності настання наступної події: в результаті випробувань над X воно прийняло значення строго менше x.
Похідна функція
Характеристичної функцією випадкової величини X називається функція дійсного аргументу виду
Генератрисою називається скалярна функція виду:
Властивості виробляє функції
1.
2.
3. Розкладання виробляє функції в ряд Маклорена має вигляд
Формула Тейлора має вигляд
при to = 0 вона носить назву формули Маклорена
Приклад:
Розглянемо випадкову величину, розподілену за біномінальної законом розподілу:
Знайдемо виробляє функцію:
Знайти DX і MX
Перша модель розподілу Пуассона
Проведена необмежено велика серія випробувань, в результаті кожного випробування випадковим чином з'являється точка на числовій осі. Випадковий розподіл точок на числовій осі задовольняє наступним трьом властивостям.
1. Стационарность. Імовірність того, що на відрізок даної довжини потрапляє дана кількість точок визначається тільки завдовжки цього відрізка і не залежить від розташування цього відрізка на числовій осі.
2. Ординарність. Імовірність того, що на досить малий відрізок довжини x потрапляє одна точка, є нескінченно малою x порядку. Імовірність того, що на цей відрізок потрапляє більше, ніж одна точка, є нескінченно малою більш високого порядку, ніж x.
3. Властивість без післядії. Імовірність того, що на даний відрізок потрапило певну кількість точок не залежить від того, скільки точок у результаті проведеної нескінченно серії випробувань потрапило на відрізок, що не перетинається з даними.
Знайти ймовірність того, що на даний відрізок довжина l потрапляє m точок.
Позначимо через x l - випадкова величина, що дорівнює чисельності точок, що випали на відрізок довжини l.
На числової осі розглянемо відрізок довжини 1 і позначимо:
MX 1 =
Математичне сподівання кількості точок, що потрапили на відрізок довжини 1. По властивості стаціонарності l однаково для всіх відрізків.
MX 1 = ll - довести
Нехай l - ціле число. Розіб'ємо відрізок довжини l на l відрізків єдиної довжини. Тоді кількість точок, що потрапили на відрізок довжини l буде дорівнює числу точок, що потрапили на кожен з непересічних відрізків довжини 1 (тут використовувалося властивість беспоследействія).
Використовуючи формулу
маємо
MX 1 = ll
Математичне сподівання кількості точок, що потрапили на відрізок довжини l одно мат. очікувань точок, що потрапили на непересічні відрізки. Нехай l - не ціле число. Виділяємо цілу частину. Тоді
На числової осі розглянемо відрізок довжини l, розіб'ємо його на n відрізків даної довжини
такий, що дозволить використовувати властивість ординарности. Тоді з певною похибкою, яка тим менше, чим більше n можна вважати
тобто на відрізок довжини x потрапляє не більше, ніж одна точка, тоді
Для достатнього малого відрізку довжини l x ймовірність попадання в нього однієї точки x, а ймовірність того, що нічого не відбудеться 1 - x.
У зроблених припущеннях m точок потрапляє на відрізок довжини l тільки в одному випадку, коли в m відрізках потрапляє по одній точці. Тоді на підставі третій властивості шукана ймовірність дорівнює
Точну ймовірність отримаємо шляхом граничного переходу при числі розділень відрізка
Тут ми розклали
Знайдемо виробляє функцію розподілу Пуассона
Знайти MX і DX
Друга модель розподілу Пуассона
Розглядається звичайна схема біномного розподілу, в якому n - велике, а p - досить мало. Тоді точна формула для ймовірності появи події A в m випробуваннях має вигляд
Ця формула при великих n обчислюється складно. Таку ймовірність замінюють наближеною
Для знайденого a побудуємо гіпотетичний ряд ймовірностей
Передбачається, що для досить великих n і малих p шукана ймовірність
є членом побудованого гіпотетичного ряду ймовірностей, а по друге знаходиться в малій околиці граничного значення цього ряду. І, отже, це значення можна взяти в якості допустимої хорошою апроксимації значень шуканої ймовірності.
Безперервні випадкові величини.
Будемо розглядати простір елементарних подій як сукупність всіх точок числової осі. У цьому випадку введена раніше функція розподілу має вигляд:
Нехай функція розподілу є неперервною. Знайдемо ймовірність того, що в результаті випробувань випадкова величина X прийме значення a, де a - довільне дійсне число.
P (X = a).
Розглянемо нерівність:
Довести самим.
Отже:
Ми вперше зіткнулися із ситуацією, коли подія принципово може відбутися в результаті випробування, але має ймовірність дорівнює 0. В інженерному тлумаченні це означає: в даній кінцевої серії випробувань дана подія ніколи не відбудеться.
Випадкова величина X називається неперервною, якщо її простором елементарних подій є вся числова вісь (або відрізок (відрізки) числової осі), а ймовірність настання будь-якого елементарного події дорівнює нулю.
P (a £ X <b) = P (a £ X £ b) = F (b)-F (a)
Якщо від складної події відняти кінцеве або зліченна множина, ймовірність настання нового події залишиться незмінною.
Функція f (x) - числова скалярна функція дійсного аргументу x називається щільністю ймовірності, і існує в точці x, якщо в цій точці існує межа:
Властивості щільності ймовірності.
1. Щільність ймовірності є неотрицательной функцією.
2.
3.
4.
Наслідок: Якщо простором елементарних подій є відрізок числової осі, то простір елементарних подій формально можна поширити на всю числову вісь, поклавши поза відрізка значення щільності ймовірності дорівнює 0.
Друге еквівалентне визначення щільності ймовірності.
x + Dx |
x |
Приклад:
Рівномірний розподіл.
p (x) |
a |
b |
c |
тому що
F (x) |
a |
b |
1 |
Експоненційний розподіл.
1 |
1 |
2 |
p (x) = le - lx |
Неперервна випадкова величина є математичною абстракцією і в чистому вигляді на практиці не зустрічається, хоча б тому, що теоретично не може існувати вимірювальне пристрій, що обчислює це величину. Отже, завжди дослідник має справу з випадковими дискретними величинами. На практиці відрізок [a, b] розбивають на відрізки однакової довжини, довжину спрямовують до нуля. При цьому x належить відрізку. Імовірність того, що відрізок містить x дорівнює
Імовірнісні характеристики неперервних випадкових величин.
Нехай є випадкова величина, яка є функцією від безперервної випадкової величини X.
Y = x (x)
Математичним очікуванням неперервної випадкової величини є число:
Обгрунтування цієї формули.
Апроксимуємо безперервну випадкову величину Y випадкової величини Y *, яка є дискретною. Нехай числова вісь - простір елементарних подій випадкової величини X, розіб'ємо всю числову вісь на відрізки досить малої довжини.
x n-1 |
x n |
x 1 |
x 0 |
x n-1 |
x n |
2n відрізків.
Якщо в результаті випробування випадкова величена X потрапила у відрізок з початковою вершиною x i, то випадкова величена X * прийняла значення x (x i) з точністю до нескінченно малої Dx - довжини i-го відрізка. Імовірність того, що Y * прийме значення x (x i) з точністю до нескінченно малої більш високого порядку, ніж Dx, тим більш точно Y * апроксимує Y.
Імовірність настання x (x i) для Y * дорівнює
Тоді
Самим показати, що всі властивості мат. очікування для дискретної випадкової величини зберігаються для неперервної випадкової величини.
Довести, що
Довести самим, що властивість 1 і 2 для виробляє функції в дискретному випадку справедливі і для безперервного.
Розподіл Гауса - нормальне
Випадкова величина має нормальний розподіл (розподіл Гаусса) і називається нормально розподіленої, якщо її щільність ймовірності
З визначення
функція розподілу
Знайдемо вираз для виробляє функції нормального розподілу
= 1 (інтеграл Ейлера)
Зобразимо приблизний вигляд щільності
|
|
|
Розглянемо центровану нормальну величину, тобто MX = 0
У центральної нормованої величини всі непарні початкові моменти рівні 0
Функція Лапласа
Функцією Лапласа називається функція виду
Властивості:
1) при z> 0 функція Лапласа визначає ймовірність потрапляння нормальної випадкової величини з параметрами
MX = 0
DX = 1
в інтервалі (0, z)
2)
3)
Іноді в літературі зустрічаються два види функцій Лапласа
Функція Лапласа табулював. Функція Лапласа використовується для виконання подій виду
для довільних нормальних величин.
Знайдемо ймовірність того, що в результаті випробування над x відбудеться складна подія: x візьме числове значення, що належить відрізку з кінцями (a, b).
Приклад.
x - випадкова величина.
f (x) - щільність імовірності.
Знайти щільність ймовірності g (n) випадкової величини H.
Розглянемо відрізок (h, h + dh). Події потрапляння H у відрізок (h, h + dh) в силу однозначності функції h (x) відповідає потрапляння x у відрізок (x, x + dx). При цьому ймовірності настання такої події однакові:
Тоді побудуємо функцію h (x), зворотний x (h), x = x (h).
тому що
Імовірність першої події дорівнює
Імовірність другої події
Отже
Нерівність Чебишева
Розглянемо випадкову величину X з кінцевим мат. очікуванням і дисперсією
Для будь-якого невід'ємного числа t ймовірність настання події
Нехай Z - безперервна випадкова величина з щільністю ймовірності f (Z). Простір подій величини Z (0; ). Тоді має місце нерівність
Довести нерівності
Розглянемо два складних події
a - довільне дійсне число.
Показати самим, що x - задовольняє і одному і другому нерівності.
Тоді
У даному випадку
Рівномірність нерівностей при > 0
при = t справедливо нерівність Чебишева.
Багатовимірні випадкові величини.
Інженерна інтерпретація.
Проводиться випробування. У результаті випробування фіксується m числових значень X 1, X 2, ..., X m. Вихід випробування випадковий.
Приклад: Випробування - реалізація деякої технології випуску продукту. Вихід - чисельне значення m характеристик, оцінивши які ми оцінимо якість продукту.
Оскільки в процесі реалізації технології на технологію діють випадкові фактори, то результат випробування неоднозначний.
Аксіоматика. Формальна імовірнісна модель.
Є ймовірнісний простір: (W, s, P). Задамо m числових вимірних скалярних функцій x 1 (w), ..., x m (w). Кожна з цих функцій є одномірної за визначенням. Візьмемо m довільних дійсних чисел і розглянемо подія A.
Очевидно, що подія A є перетином подій A i виду:
Оскільки кожне A i Îs-алгебри, то й AÌs-алгебри. Отже, існує ймовірність настання події A і існує числова скалярна функція m дійсних аргументів, що визначена для всіх значень своїх аргументів і чисельно дорівнює ймовірності настання події A.
F (x 1, x 2, ..., x m) = P (A)
Це m-мірна функція розподілу m-мірної випадкової величини.
Властивості багатовимірного розподілу:
1. Значення функції при значенні хоча б одного її аргументу рівного - ¥, дорівнює 0, як ймовірність неможливої події.
2. Значення функції, при всіх значеннях її аргументів рівних + ¥, дорівнює 1, як ймовірність достовірної події.
3. Функція не зменшується за будь-якої сукупності її аргументів.
4. Функція неперервна майже всюди (для інженерної практики це означає, що на кінцевому, або рахунковому безлічі аргументів вона може мати скачки 1-го роду).
Розглянемо арифметичне простір
Довести самим, що P (B) існує, і образ цієї множини належить s-алгебри по w.
Можна довести, що:
Т.ч. багатовимірна функція розподілу дозволяє в m-мірному арифметичному просторі задати лічильно-адитивну міру - функцію на полі, породженому усіма m-мірними полуінтерваламі обсягу ("i, a i ¹ b i). Тоді побудуємо мінімальну s-алгебру на цьому полі, яка називається борелівська полем (алгеброю) в m-мірному арифметичному просторі. Будь-яка скалярна функція m-аргументів задовольняє всім властивостей, наведених для m-мірної функції розподілу і однозначно задає ймовірнісний простір виду:
Таким чином, для інженерного дослідження задача звелася до наступного: простір елементарних подій - це m-мірний арифметичне простір. За результатами статистичних випробувань потрібно оцінити m-мірну функцію розподілу F (x 1, x 2, ..., x m). Розглянемо числову скалярну функцію m дійсних аргументів. g (x 1, x 2, ..., x m). Функція g (x 1, x 2, ..., x m) називається борелівська, якщо для будь-якого BÌb в одновимірному арифметичному просторі відповідна
Двовимірні випадкові величини.
Розглянемо випробування, результатом якого є поява двох чисел із деякого кінцевого або лічильного безлічі пар чисел. Це випробування фізично може бути одним випробуванням (миттєве вимір приладом величини струму і напруги в мережі), а також може бути композицією двох випробувань, кожне з яких породжує одновимірну дискретну величину. Умовно двовимірна дискретна випадкова величина позначається як XY, або будь-які дві букви латинського алфавіту, або для: X: {x 1, x 2, ..., x s}, Y: {y 1, y 2, ..., y n}, проводячи випробування над двовимірної випадкової величиною знаходять одне з чисел з X небудь з Y. А ймовірнісний простір двовимірної випадкової величини формально будується так:
Двовимірної випадкової величиною називається система з двох одномірних випадкових величин X, Y, де як X, так і Y є дискретними випадковими величинами. У просторі елементарних подій дискретної випадкової величини XY визначимо складна подія A: В результаті випробування над двовимірної випадкової величиною XY, випадкова величина X прийняла значення x i, випадкова величина Y - будь-яке значення.
Вводимо складна подія B: В результаті випробування над двовимірної випадкової величиною XY, випадкова величина Y прийняла значення y j.
Знайдемо умовну ймовірність:
Аналогічно:
Покажемо що сума умовних ймовірностей:
Умовним математичним очікуванням є вираз:
Умовної дисперсією називається вираз:
Умовне мат. очікування і дисперсія відрізняються від безумовної тільки тим, що в їх визначенні підставляється умовна ймовірність замість безумовною.
Умовне мат. сподівання випадкової величини, за умови, що інша випадкова величена прийняла задане значення визначає число-точку, щодо якої групуються результати конкретних випробувань над однією випадковою величиною, за умови, що в цьому випробуванні (над двовимірної випадкової величиною XY) друга випадкова величена прийняла заданий фіксований значення.
Умовна дисперсія визначає ступінь концентрації результатів конкретних випробувань над однією випадковою величиною щодо умовного мат. очікування.
При вирішенні практичних завдань умовне мат очікування і умовна дисперсія зазвичай використовуються в наступному випадку: проводять випробування над X і Y, дослідник має можливість вимірювати результати випробування над однією випадковою величиною, вимір іншого недоступне. Якщо умовні дисперсії малі, то як невідомого значення не вимірюваної випадкової величини, яку вона прийняла в результаті випробування, можна брати мат. очікування.
Двовимірні неперервні випадкові величини.
Двовимірна випадкова величина називається безперервної випадкової величиною, якщо простором її елементарних подій є площина, або область площині, або область кінцевої ненульовий площині. Очевидно що X і Y є одновимірними безперервними випадковими величинами.
y |
x |
Наслідком цього визначення є наступне: будь-яке складне подія розмірності 1 (довільна крива, що належить простору елементарних подій) має нульову ймовірність тому у противному випадку ймовірність достовірної події ніколи б не дорівнювала одиниці. Числова скалярна функція двох дійсних аргументів називається двовимірної щільністю ймовірності, двовимірної випадкової величини XY, якщо для фіксованих значень своїх аргументів вона виконує рівність
Нижче буде виведено умова існування щільності ймовірності для фіксованих x, y.
Розглянемо довільну область G.
y |
x |
i, j |
f (x i, y j) Dx i Dy j) - ймовірність попадання в елементарний об'єм, що примикає до точки i, j. |
Розіб'ємо область G на безліч прямокутників, що покривають область G. Тоді на підставі третій аксіоми теорії ймовірності маємо: вірогідність шуканого події дорівнює:
Числова скалярна функція двох дійсних аргументів називається двовимірної функцією розподілу, якщо вона при фіксованому числі своїх аргументів чисельно дорівнює ймовірності настання F x, y (x, y) = P (X £ x, Y £ y), якщо X, y - безперервні випадкові величини, то значення функції розподілу не зміниться.
Довести:
За визначенням другий змішаної похідної.