Випадкові величини

Випадкові величини

Зміст
Випадкові величини .. 2
Функція розподілу ймовірностей .. 3
Основні властивості функції розподілу ймовірностей .. 5
Функція розподілу ймовірностей дискретної випадкової величини 6
Щільність розподілу ймовірностей .. 7
Щільність розподілу ймовірностей дискретної випадкової величини 9
Приклади щільностей і функцій розподілу ймовірностей .. 10
Сингулярні випадкові величини .. 13
Математичне сподівання випадкової величини .. 15
Приклади обчислення математичного сподівання випадкової величини .. 17
Властивості математичного сподівання. 19
Дисперсія випадкової величини .. 20
Моменти випадкової величини .. 22
Нерівність Чебишева. 23
Коефіцієнт асиметрії .. 25
Коефіцієнт ексцесу. 26
Среднеквадратическая помилка. 27
Характеристична функція. 28
Основні властивості характеристичної функції .. 29
Приклади обчислення характеристичної функції .. 30
Моменти, кумулянтах і характеристична функція. 31

Випадкові величини

Вище розглядалися експерименти, результати яких є випадковими подіями. Проте часто виникає необхідність кількісного представлення результатів експерименту у вигляді деякої величини , Яка називається випадковою величиною. Випадкова величина є другим (після випадкового події) основним об'єктом вивчення теорії ймовірностей і забезпечує більш загальний спосіб опису досвіду з випадковим результатом, ніж сукупність випадкових подій.
Розглядаючи експерименти з випадковим результатом, ми вже мали справу з випадковими величинами. Так, число успіхів в серії з випробувань - приклад випадкової величини. Іншими прикладами випадкових величин є: число викликів на телефонній станції за одиницю часу, час очікування чергового виклику; число частинок із заданою енергією в системах частинок, що розглядаються в статистичній фізиці; середня добова температура в даній місцевості і т.д.
Випадкова величина характерна тим, що неможливо точно передбачити її значення, яке вона прийме, але з іншого боку, безліч її можливих значень зазвичай відомо. Так для числа успіхів в послідовності з випробувань це безліч звичайно, оскільки число успіхів може приймати значення . Безліч значень випадкової величини, може збігатися з речовинної полуосью , Як у випадку часу очікування і т.д.
Розглянемо приклади експериментів з випадковим результатом, для опису яких зазвичай застосовуються випадкові події і введемо еквівалентну опис за допомогою завдання випадкової величини.
1). Нехай результатом досвіду може бути подія або подія . Тоді цього експерименту можна поставити у відповідність випадкову величину , Яка приймає два значення, наприклад, і з імовірностями і , Причому мають місце рівності: і . Таким чином, досвід характеризується двома наслідками і з імовірностями і , Або цей же досвід характеризується випадковою величиною , Що приймає два значення і з імовірностями і .
2). Розглянемо досвід з киданням гральної кістки. Тут результатом досвіду може бути одна з подій , Де - Випадання грані з номером . Ймовірності , . Введемо еквівалентну опис цього досвіду з допомогою випадкової величини , Яка може приймати значення з імовірностями , .
3). Послідовність незалежних випробувань характеризується повною групою несумісних подій , Де - Подія, що складається в появі успіхів у серії з дослідів; причому ймовірність події визначається формулою Бернулі, тобто . Тут можна ввести випадкову величину - Число успіхів, яка приймає значення з імовірностями . Таким чином, послідовність незалежних випробувань характеризується випадковими подіями з їх ймовірностями або випадковою величиною з імовірностями того, що приймає значення : , .
4). Однак, не для будь-якого досвіду з випадковим результатом існує настільки просте відповідність між випадковою величиною і сукупністю випадкових подій. Наприклад, розглянемо експеримент, в якому точка навмання кидається на відрізок . Тут природно ввести випадкову величину - Координату на відрізку , В яку потрапляє крапка. Таким чином, можна говорити про випадковий подію , Де - Число з . Однак імовірність цієї події . Можна поступити інакше - відрізок розбити на кінцеве число непересічних відрізків і розглядати випадкові події, що складаються в тому, що випадкова величина приймає значення з інтервалу . Тоді ймовірності - Кінцеві величини. Однак і цей спосіб має суттєвий недолік, оскільки відрізки вибираються довільним чином. Для того, щоб усунути цей недолік розглядають відрізки виду , Де змінна . Тоді відповідна ймовірність
(29.1)
є функцією аргументу . Це ускладнює математичний опис випадкової величини, але при цьому опис (29.1) стає єдиним, усувається неоднозначність вибору відрізків .
Для кожного з розглянутих прикладів нескладно визначити імовірнісний простір , Де - Простір елементарних подій, - - Алгебра подій (підмножин ), - Ймовірність, визначена для будь-якого . Наприклад, в останньому прикладі , - - Алгебра всіх відрізків , Що містяться в .
Розглянуті приклади приводять до наступного визначення випадкової величини.
Нехай - Ймовірнісний простір. Випадковою величиною називається однозначна дійсна функція , Визначена на , Для якої безліч елементарних подій виду є подією (тобто належать ) Для кожного дійсного числа .
Таким чином, у визначенні потрібно, щоб для кожного речового безліч , І ця умова гарантує, що для кожного визначена ймовірність події . Ця подія прийнято позначати більш короткої записом .

Функція розподілу ймовірностей

Функція
, , (30.1)
називається функцією розподілу ймовірностей випадкової величини .
Функція іноді називається коротко - функція розподілу, а також - інтегральним законом розподілу ймовірностей випадкової величини . Функція є повною характеристикою випадкової величини, тобто представляє собою математичний опис всіх властивостей випадкової величини і більш детального способу опису цих властивостей не існує.
Відзначимо наступну важливу особливість визначення (30.1). Часто функцію визначають інакше:
, . (30.2)
Згідно (30.1) функція є безперервною справа. Це питання детальніше буде розглянуто нижче. Якщо ж використовувати визначення (30.2), то - Неперервна зліва, що є наслідком застосування суворого нерівності в співвідношенні (30.2). Функції (30.1) і (30.2) являють собою еквівалентні опису випадкової величини, оскільки не має значення яким визначенням користуватися як при вивченні теоретичних питань, так і при вирішенні завдань. Для визначеності надалі будемо використовувати тільки визначення (30.1).
Розглянемо приклад побудови графіка функції . Нехай випадкова величина приймає значення , , з імовірностями , , Причому . Таким чином, інші значення крім зазначених дана випадкова величина приймає з нульовою ймовірністю: , Для будь-якого , . Або як кажуть, інших значень крім , , випадкова величина не може приймати. Нехай для визначеності . Знайдемо значення функції для з інтервалів: 1) , 2) , 3) , 4) , 5) , 6) , 7) . На першому інтервалі , Тому функція розподілу . 2). Якщо , То . Очевидно випадкові події і несумісні, тому за формулою складання ймовірностей . За умовою подія неможливе і , А . Тому . 3). Нехай , Тоді . Тут перший доданок , А друге , Оскільки подія - Неможливе. Таким чином для будь-якого , Що задовольняє умові . 4). Нехай , Тоді . 5). Якщо , То . 6) При маємо . 7) Якщо , То . Результати обчислень представлені на рис. 30.1 графіком функції . У точках розриву , , вказана безперервність функції справа.

Рис. 30.1. Графік функції розподілу ймовірностей.

Основні властивості функції розподілу ймовірностей

Розглянемо основні властивості функції розподілу, наступні безпосередньо з визначення:
. (31.1)
1. Введемо позначення: . Тоді з визначення слід . Тут вираз розглядається як неможливе подія з нульовою ймовірністю.
2. Нехай . Тоді з визначення функції слід . Випадкова подія є достовірним і його ймовірність дорівнює одиниці.
3. Імовірність випадкової події , Що складається в тому, що випадкова величина приймає значення з інтервалу при визначається через функцію наступним рівністю
. (31.2)
Для доказу цього рівності розглянемо співвідношення
. (31.3)
Події і несумісні, тому за формулою складання ймовірностей з (31.3) слід
, (31.4)
що і збігається з формулою (31.2), оскільки і .
4. Функція є неубутною. Для доказу розглянемо . При цьому справедлива рівність (31.2). Його ліва частина , Оскільки ймовірність приймає значення з інтервалу . Тому і права частина рівності (31.2) неотрицательна: , Або . Це рівність отримано за умови , Тому - Неспадними функція.
5. Функція неперервна справа в кожній точці , Тобто
, (31.5)
де - Будь-яка послідовність, яка прагне до праворуч, тобто і .
Для доказу представимо функцію у вигляді:
. (31.5)
Звідси
. (31.6)
Тепер на підставі аксіоми лічильної адитивності ймовірності вираз у фігурних дужках одно , Таким чином
, Що й доводить неперервність справа функції .
Таким чином, кожна функція розподілу ймовірностей має властивості 1-5. Вірно і зворотне твердження: якщо , , Задовольняє умовам 1-5, то вона може розглядатися як функція розподілу деякої випадкової величини.

Функція розподілу ймовірностей дискретної випадкової величини

Випадкова величина називається дискретною, якщо безліч її значень звичайно або лічильно.
Для повного імовірнісного опису дискретної випадкової величини , Що приймає значення , Досить задати ймовірності
, (32.1)
того, що випадкова величина приймає значення . Якщо задані і , , Тоді функцію розподілу ймовірностей дискретної випадкової величини можна представити у вигляді:
. (32.2)
Тут підсумовування ведеться за всіма індексами , Що задовольняє умові: .
Функцію розподілу ймовірностей дискретної випадкової величини іноді представляють через так звану функцію одиничного стрибка
(32.3)
При цьому приймає вигляд
, (32.4)
якщо випадкова величина приймає кінцеве безліч значень , І верхня межа підсумовування в (32.4) покладається рівним , Якщо випадкова величина приймає рахункове безліч значень.
Приклад побудови графіка функцій розподілу ймовірностей дискретної випадкової величини був розглянутий у п.30.

Щільність розподілу ймовірностей

Нехай випадкова величина має диференційовану функцію розподілу ймовірностей , Тоді функція
(33.1)
називається щільністю розподілу ймовірностей (або щільністю ймовірності) випадкової величини , А випадкова величина - Безперервної випадкової величиною.
Розглянемо основні властивості щільності ймовірності.
З визначення похідної слід рівність:
. (33.2)
Згідно властивостям функції має місце рівність . Тому (33.2) набирає вигляду:
. (33.3)
Це співвідношення пояснює назву функції . Дійсно, згідно (33.3) функція - Це ймовірність , Що припадає на одиницю інтервалу , В точці , Оскільки . Таким чином, щільність ймовірності, що визначається співвідношенням (33.3), аналогічна визначень густин інших величин, відомих у фізиці, таких як щільність струму, щільність речовини, щільність заряду і т.д.
2. Оскільки - Неспадними функція, то її похідна - Функція неотрицательная:
. (33.4)
3. З (33.1) слід
,
оскільки . Таким чином, справедлива рівність
. (33.5)
4. Оскільки , То зі співвідношення (33.5) слід
(33.6)
- Рівність, яке називається умовою нормування. Його ліва частина - Це ймовірність достовірної події.
5. Нехай , Тоді з (33.1) слід
. (33.7)
Це співвідношення має важливе значення для додатків, оскільки дозволяє обчислити вірогідність через щільність ймовірності або через функцію розподілу ймовірностей . Якщо покласти , То з (33.7) слід співвідношення (33.6).
На рис. 33.1 наведені приклади графіків функції розподілу та щільності ймовірностей.

Рис. 33.1. Приклади функції розподілу ймовірностей і щільності ймовірності.
Відзначимо, що щільність розподілу ймовірності може мати кілька максимумів. Значення аргументу , При якому щільність має максимум називається модою розподілу випадкової величини . Якщо щільність має більш однієї моди, то називається багатомодальну.

Щільність розподілу ймовірностей дискретної випадкової величини

Нехай випадкова величина приймає значення з імовірностями , . Тоді її функція розподілу ймовірностей
, (34.1)
де - Функція одиничного стрибка. Визначити щільність ймовірності випадкової величини за її функції розподілу можна з урахуванням рівності . Однак при цьому виникають математичні складності, пов'язані з тим, що функція одиничного стрибка , Що входить в (34.1), має розрив першого роду при . Тому в точці не існує похідна функції .
Для подолання цієї складності вводиться -Функція. Функцію одиничного стрибка можна представити через -Функцію наступним рівністю:
. (34.2)
Тоді формально похідна
(34.3)
і щільність ймовірності дискретної випадкової величини визначається зі співвідношення (34.1) як похідна функції :
. (34.4)
Функція (34.4) має всі властивості щільності ймовірності. Розглянемо приклад. Нехай дискретна випадкова величина приймає значення з імовірностями , І нехай , . Тоді ймовірність - Того, що випадкова величина прийме значення з відрізка може бути обчислена, виходячи із загальних властивостей густини за формулою:
.
Тут
,
оскільки особлива точка - Функції, що визначається умовою , Знаходиться всередині області інтегрування при , А при особлива точка знаходиться поза областю інтегрування. Таким чином,
.
Для функції (34.4) також виконується умова нормування:
.
Відзначимо, що в математиці запис виду (34.4) вважається некоректною (неправильної), а запис (34.2) - коректною. Це обумовлено тим, що -Функція при нульовому аргументі , І говорять, що не існує. З іншого боку, в (34.2) -Функція утримується під інтегралом. При цьому права частина (34.2) - кінцева величина для будь-якого , Тобто інтеграл від -Функції існує. Незважаючи на це у фізиці, техніці та інших додатках теорії ймовірностей часто використовується представлення щільності у вигляді (34.4), яке, по-перше, дозволяє отримувати вірні результати, застосовуючи властивості - Функції, і по-друге, має очевидну фізичну інтерпретацію.

Приклади щільностей і функцій розподілу ймовірностей

35.1. Випадкова величина називається рівномірно розподіленої на відрізку , Якщо її щільність розподілу ймовірностей
(35.1)
де - Число, яке визначається з умови нормування:
. (35.2)
Підстановка (35.1) в (35.2) призводить до рівності, рішення якого щодо має вигляд: .
Функція розподілу ймовірностей рівномірно розподіленої випадкової величини може бути знайдена за формулою (33.5), яка визначає через щільність:
(35.3)
На рис. 35.1 представлені графіки функцій і рівномірно розподіленої випадкової величини.

Рис. 35.1. Графіки функції і щільності розподілу
рівномірно розподіленої випадкової величини.
35.2. Випадкова величина називається нормальним (або гауссовой), якщо її щільність розподілу ймовірностей:
, (35.4)
де , - Числа, що називаються параметрами функції . При функція приймає своє максимальне значення: . Параметр має сенс ефективної ширини . Крім цієї геометричної інтерпретації параметри , мають і вірогідну трактування, яка буде розглянута в наступному.
З (35.4) слід вираз для функції розподілу ймовірностей
, (35.5)
де - Функція Лапласа. На рис. 35.2 представлені графіки функцій і нормальної випадкової величини. Для позначення того, що випадкова величина має нормальний розподіл з параметрами і часто використовується запис .

Рис. 35.2. Графіки щільності та функції розподілу
нормальної випадкової величини.
35.3. Випадкова величина має щільність розподілу ймовірностей Коші, якщо
. (35.6)
Цією щільності відповідає функція розподілу
.
(35.7)
35.4. Випадкова величина називається розподіленою за експоненціальним законом, якщо її щільність розподілу ймовірностей має вигляд:
(35.8)
Визначимо її функцію розподілу ймовірностей. При з (35.8) слід . Якщо , То
. (35.9)
35.5. Релеевское розподіл ймовірностей випадкової величини визначається щільністю виду
(35.10)
Цією щільності відповідає функція розподілу ймовірностей при і рівна
(35.11)
при .
35.6. Розглянемо приклади побудови функції розподілу та щільності дискретної випадкової величини. Нехай випадкова величина - Це число успіхів в послідовності з незалежних випробувань. Тоді випадкова величина приймає значення , з імовірністю , Яка визначається формулою Бернуллі:
, (35.12)
де , - Імовірності успіху і неуспіху в одному досвіді. Таким чином, функція розподілу ймовірностей випадкової величини має вигляд
, (35.13)
де - Функція одиничного стрибка. Звідси щільність розподілу:
, (35.14)
де - Дельта-функція.

Сингулярні випадкові величини

Крім дискретних і неперервних випадкових величин існують ще так звані сингулярні випадкові величини. Ці випадкові величини характеризуються тим, що їхня функція розподілу ймовірностей - Неперервна, але точки зростання утворюють безліч нульової міри. Точкою росту функції називається значення її аргументу таке, що похідна .
Таким чином, майже всюди на області визначення функції. Функцію , Що задовольняє цій умові, також називають сингулярної. Прикладом сингулярної функції розподілу є крива Кантора (рис. 36.1), яка будується наступним чином. Покладається при і при . Потім інтервал розбивається на три рівні частини (сегмента) і для внутрішнього сегмента визначається значення - Як полусумма вже певних значень на найближчих сегментах праворуч і ліворуч. На даний момент функція визначена для , Її значення , І для зі значенням . Полусумма цих значень дорівнює і визначає значення на внутрішньому сегменті . Потім розглядаються відрізки

Рис. 36.1. Побудова кривої Кантора.
і , Кожен з них розбивається на три рівні сегмента і функція визначається на внутрішніх сегментах як полусумма найближчих праворуч і ліворуч заданих значень функції . Таким чином, при функція - Як полусумма чисел і . Аналогічно на інтервалі функція . Потім функція визначається на інтервалі , На якому і т.д.
Сумарна довжина всіх внутрішніх сегментів дорівнює

Тому, розглядаючи інтервал , Кажуть що функція - Постійна на безлічі заходи 1, на безлічі заходів 0 зростає, але без стрибків.
Відома теорема Лебега. Будь-яка функція розподілу може бути єдиним чином представлена у вигляді суми трьох компонент: дискретної, безперервної і сингулярної.
Сингулярні розподілу практично не зустрічаються в реальних задачах і тому виключаються з нашого подальшого вивчення.

Математичне сподівання випадкової величини

37.1. Функція розподілу ймовірностей або щільність ймовірності є повними імовірнісними характеристиками випадкової величини. Однак, у багатьох завданнях така повна характеристика випадкової величини, з одного боку, може бути невідома для дослідника, а з іншого боку і не обов'язкова, достатньо обмежитися значенням деяких параметрів розподілу ймовірностей, тобто деяких чисел (або числових характеристик). Тут доречна аналогія з геометричним описом складної форми твердого тіла, коли обмежуються такими характеристиками (числами) як довжина, ширина, висота, об'єм, момент інерції, і т.д., а детальний опис складної форми цього тіла не розглядається. Числовими характеристиками випадкових величин найчастіше служать так звані моменти розподілу, найпростішим з яких є математичне сподівання випадкової величини.
Перш ніж вводити визначення математичного очікування випадкової величини, розглянемо вираз середнього арифметичного результатів вимірювання дискретної випадкової величини. Нехай випадкова величина може приймати значення відповідно з ймовірностями . Результат вимірювання випадкової величини в кожному досвіді - це одне з чисел . Нехай виконано дослідів, серед них у дослідах випадкова величина приймала значення , В дослідах - значення ,..., В дослідах - значення . Очевидно, - Повне число дослідів. Нехай - Середнє арифметичне результатів вимірювання випадкової величини в дослідах, тоді
, (37.1)
де - Частота появи числа при вимірюванні випадкової величини в дослідах. Зі збільшенням числа дослідів величина наближається до числа . Тому для того, щоб визначити теоретичний аналог середнього арифметичного досить у формулі (37.1) частоту замінити на ймовірність . Це призводить до наступного визначення.
Математичним очікуванням (середнім, статистичними середнім) дискретної випадкової величини , Що приймає значення з імовірностями , Називається число
. (37.2)
Якщо безліч значень дискретної випадкової величини лічильно: , То в (37.2) покладається .
Нехай - Однозначна функція однієї змінної, - Дискретна випадкова величина, що приймає значення з імовірностями . Тоді - Дискретна випадкова величина, що приймає значення з імовірностями . Тому з визначення (37.2) математичного очікування слід
(37.3)
- Вираз, що визначає математичне сподівання функції .
Математичним очікуванням неперервної випадкової величини з щільністю розподілу ймовірностей називається число
. (37.4)
Аналогічно визначається математичне сподівання випадкової величини - Як число
, (37.5)
де - Однозначна функція однієї змінної, - Щільність розподілу ймовірностей випадкової величини .
37.2. Визначення (37.2) і (37.4) узгоджуються один з одним. Співвідношення (37.4) можна представити приблизно у вигляді інтегральної суми:
, (37.6)
де - Мала величина. Тоді , І отже, (37.4) формально представимо сумою (37.2).
Якщо - Дискретна величина, що приймає значення з імовірностями , То її щільність ймовірності можна представити через - Функцію:
. (37.7)
Підставимо (37.7) в (37.4), тоді
, (37.8)
що збігається з (37.2). Таким чином, визначення (37.4) математичного очікування можна використовувати як універсальне визначення як для безперервних, так і для дискретних випадкових величин. Однак обчислювати математичне сподівання дискретної випадкової величини, звичайно, зручніше за формулою (37.2).
Вираз (37.4) можна представити через функцію розподілу випадкової величини . Для цього виконаємо наступні перетворення: . Далі використовуємо для обчислення інтеграла спосіб «по частинах»:
.
Нехай функція задовольняє умовам: , , Тоді
. (37.9)
Це вираз дозволяє обчислювати математичне сподівання через функцію розподілу .

Приклади обчислення математичного сподівання випадкової величини

38.1. Нехай гауссова випадкова величина має щільність розподілу ймовірностей (35.4). Обчислимо її математичне сподівання. Для цього підставимо вираз (35.4) у формулу (37.4), тоді
. (38.1)
Замість змінної інтегрування введемо нову змінну , , Тоді
. (38.2)
Функція є непарною, тому інтеграл в першому доданку (38.2) дорівнює нулю. У другому доданку
. (38.3)
Ця рівність є умова нормування для гауссової щільності розподілу ймовірностей (35.4) з параметрами: і . Таким чином, з (38.2) слід - Середнє гауссовой випадкової величини є параметром щільності розподілу ймовірностей (35.4). У даному випадку має геометричну інтерпретацію (рис. 35.2) як значення аргументу , При якому щільність (35.4) приймає максимальне значення. Надалі символ використовується і для позначення середнього будь випадкової величини .
38.2. Обчислимо середнє випадкової величини , Розподіленої за експоненціальним законом (35.8):
. (38.4)
Далі використовуємо спосіб інтегрування «по частинах»:
. (38.5)
38.3. Нехай - Число успіхів у серії з незалежних дослідів. Тоді ймовірності , визначаються формулою Бернулі. Тому
. (38.6)
Остання рівність справедливо, оскільки . Підставимо в (38.6) формулу Бернулі, тоді:
. (38.7)
Введемо новий індекс підсумовування , Тоді
. (38.8)
Оскільки - Ймовірність успіхів у серії з дослідів, то - Як ймовірність достовірної події, що складається в появі будь-якого числа успіхів в інтервалі . Тому з (38.8) слід
. (38.9)
38.4. Однак не у всякої випадкової величини існує її математичне сподівання. Причиною цього є розбіжність інтеграла (37.4), що в свою чергу, зумовлено малою швидкістю збіжності до нуля щільності при , Так що для функції не існує інтеграл виду (37.4). Для прикладу розглянемо обчислення математичного сподівання випадкової величини , Розподіленої за законом Коші: .
(38.10)
Тут невласний інтеграл розходиться, так як
.
Отже, випадкова величина не має математичного сподівання. Однак, якщо інтеграл в (38.10) розуміти в сенсі головного значення Коші, то
,
оскільки функція є непарною. Отже, при цьому
. (38.11)

Властивості математичного сподівання

Основні властивості математичного сподівання йдуть безпосередньо з властивостей інтеграла у визначенні (37.5):
. (39.1)
1. Нехай являє собою постійну , Тоді з (39.1) слід
, (39.2)
оскільки для щільності виконується умова нормування (33.6). Таким чином, математичне сподівання постійної дорівнює самій постійною.
2. Нехай , Де - Число і - Однозначна функція однієї змінної, тоді з (39.1) слід
. (39.3)
Таким чином, постійний множник можна винести за знак математичного сподівання.
3. Нехай , Де - Числа, - Однозначні функції однієї змінної, тоді з (39.1) слід
. (39.4)
З цієї рівності при слід властивість 2, а при і - Властивість 1.
Математичне сподівання - Це число, яке ставиться у відповідність випадковій величині . Тому можна розглядати як операцію (оператор, функцію) над випадковою величиною . Згідно з властивостями 1-3 оператор математичного очікування є лінійним оператором.

Дисперсія випадкової величини

40.1. Дисперсією випадкової величини називається число
. (40.1)
Дисперсія є зручною характеристикою розкиду значень біля її середнього значення . Часто використовується для позначення дисперсії символ . Тоді називається среднеквадратическим ухиленням випадкової величини . Якщо дисперсія має розмірність квадрата випадкової величини, то розмірність збігається з розмірністю випадкової величини. З (40.1) у відповідності з властивостями математичного сподівання слід
. (40.2)
Таким чином,
. (40.3)
Якщо дискретна випадкова величина із значеннями та відповідними ймовірностями , То її дисперсія
(40.4)
Якщо - Безперервна випадкова величина і - Її щільність ймовірності, то
. (40.5)
40.2. Розглянемо приклади. Обчислимо дисперсію нормальної випадкової величини. Її щільність визначається формулою (35.4). Підставимо в (40.5), тоді
. (40.6)
Нехай , Тоді ,

. (40.7)
Підстановка меж в (40.7) дає нульові результати, а інтеграл дорівнює . Тому
. (40.8)
Таким чином, параметр в щільності нормальної випадкової величини є дисперсією цієї величини, а середньоквадратичне ухилення визначає ефективну ширину щільності : Значення в разів менше значення - У точці максимуму.
40.3. У деяких випадках для обчислення дисперсії зручно використовувати формулу (40.3). Наприклад, для експоненціально розподіленої випадкової величини щільність має вигляд (35.8), а її середнє . Обчислимо
. (40.9)
Інтеграл у (40.9) обчислюється по частинах:

.
Таким чином, . Отриманий результат підставимо у формулу (40.3), тоді
. 40.10)
40.4. Обчислимо дисперсію числа успіхів у ймовірнісної схемою Бернуллі, як приклад обчислення дисперсії дискретної випадкової величини. При цьому також використовуємо формулу (40.3), тобто на першому кроці обчислимо середнє від квадрата , А потім використовуючи раніше отриманий результат, дисперсію за формулою (40.3). Отже, середнє від квадрата
, (40.11)
де - Розподіл ймовірностей Бернуллі, тому
. (40.12)
Нехай , Тоді і

. (40.13)
Тут - Імовірність появи успіхів в послідовності з дослідів. Тому , Як ймовірність достовірної події, що складається в тому, що кількість успіхів буде будь-яким в інтервалі від до . Перша сума в (40.13) як математичне сподівання кількості успіхів в послідовності з дослідів у відповідності з формулою (38.9). Підставимо ці результати в (40.13), тоді

. (40.14)
Тепер
. (40.15)

Моменти випадкової величини

41.1. Математичне сподівання і дисперсія є прикладами моментів випадкової величини, які визначаються наступним чином.
Початковим моментом порядку неперервної випадкової величини з щільністю розподілу ймовірності називається число
. (41.1)
Порядок моменту - Це невід'ємне ціле число, тобто .
Початковим моментом порядку дискретної випадкової величини , Що приймає значення з імовірностями , , Називається число
. (41.2)
Визначення (41.1) можна розглядати як універсальне визначення для безперервних і для дискретних випадкових величин. В останньому випадку щільність ймовірності виражається через - Функцію згідно з формулою (34.4). Однак на практиці для обчислення моменту дискретної величини зручніше використовувати співвідношення (41.2).
Центральним моментом порядку випадкової величини називається число
. (41.3)
Для неперервної випадкової величини з густиною ймовірності центральний момент порядку має вигляд:
. (41.4)
41.2. З усієї множини початкових і центральних моментів зазвичай використовуються моменти невисоких порядків, до включно, як більш прості характеристики випадкової величини. Застосування моментів високих порядків, , Обмежена. По-перше, при великих моменти можуть не існувати, оскільки можуть розходитися інтеграли (41.1), (41.4). І по-друге, інтерпретація моментів вищих порядків утруднена.
Розглянемо початкові моменти, починаючи з . При цьому з (41.1) слід
. (41.5)
Отже, початковий момент нульового порядку для будь-якої випадкової величини, отже, цей момент не відображає будь-яких властивостей випадкової величини, тобто не є її характеристикою. При з (41.1) випливає, що момент першого порядку - це математичне сподівання випадкової величини. Різні випадкові величини можуть мати різні математичні очікування, і тому число є характеристикою випадкової величини: число показує положення центру її щільності ймовірності.
Момент другого порядку
(41.6)
- Це середнє квадрата випадкової величини, і т.д.
Розглянемо аналогічно центральні моменти (41.4). При отримуємо - Однаковий результат для будь-випадкової величини. Тому даний момент не є характеристикою випадкової величини, оскільки не відображає будь-яких її властивостей. При . Цей результат також однаковий для будь-якої випадкової величини, тому центральний момент першого порядку не є характеристикою випадкової величини. При з (41.4) отримуємо дисперсію
(41.7)
- Найважливішу числову характеристику випадкової величини і т.д.
Моменти третього і четвертого порядків будуть розглянуті в подальшому.

Нерівність Чебишева

42.1. Нехай випадкова величина має кінцевий момент другого порядку , Тоді
, (42.1)
де - Будь-яке дійсне число і . Співвідношення (42.1) називають нерівністю Чебишева.
Спочатку розглянемо доказ нерівності, наступного з (42.1) при :
. (42.2)
Доказ нерівності Чебишева зручніше розглядати окремо для безперервної і для дискретної випадкових величин. При цьому докази є відносно простими, а хід доказів цілком очевидний. У той час як універсальне доказ, справедливе і для безперервної і для дискретної випадкових величин виявляється значно складнішим. Розглянемо безперервну випадкову величину з густиною ймовірності . Тоді в співвідношенні перший доданок можна представити у вигляді
,
тому
.
Тут використано нерівність - Справедливе на області інтегрування. Отримане вираження збігається з нерівністю (42.2). Аналогічно виконується доказ для дискретної випадкової величини.
Тепер випадкову величину в (42.2) можна замінити на випадкову величину , Де - Будь-яке дійсне число, тоді з (42.2) слід нерівність Чебишева (42.1). Це нерівність визначає межу зверху для ймовірності або, як кажуть, великих ухилень випадкової величини від числа . Великі ухилення розуміються в сенсі їх перевищення над заданим числом .
42.2. Нехай , Тоді нерівність Чебишева (42.1) має вигляд
. (42.3)
Тепер мінімальна ухилення можна вимірювати в одиницях середньоквадратичного ухилення випадкової величини , Тобто покласти
, (42.4)
де - Коефіцієнт пропорційності. Підставимо (42.4) в (42.3), тоді
. (42.5)
Якщо права частина , То (42.5) не представляє будь-які обмеження на випадкову величину, оскільки ймовірність не може виходити за межі інтервалу . Тому коефіцієнт в (42.5) має сенс розглядати тільки великим: . Звідси очевидна інтерпретація нерівності Чебишева як нерівності, що визначає кордон зверху ймовірності великих ухилень.
Нехай - Безперервна випадкова величина з щільністю ймовірності , Тоді нерівності Чебишева (42.1) можна дати просту геометричну інтерпретацію, представлену на рис. 42.1.

Рис. 42.1. Ілюстрація до нерівності Чебишева.
Тут вказані числа , і , Заштрихована площа - це ймовірність
.

Коефіцієнт асиметрії

Середня і дисперсія випадкової величини - Це числа, які визначають такі властивості її щільності ймовірності як положення центру та ефективну ширину. Очевидно, ці два числа не відображають всіх особливостей щільності, зокрема, ступінь симетрії або асиметрії щільності щодо математичного очікування - це нова характеристика, яку можна визначити як деяке число.
Для будь-якої симетричної щільності центральні моменти непарного порядку дорівнюють нулю (доказ наводиться нижче). Тому найпростіший серед них - центральний момент третього порядку може характеризувати асиметрію щільності розподілу:
, (43.1)
де - Математичне сподівання, - Центральний момент - Го порядку.
Асиметрію прийнято характеризувати коефіцієнтом асиметрії
, (43.2)
де - Дисперсія випадкової величини .
Розглянемо доказ твердження про те, що для симетричної щільності центральние моменти нечетних порядков равни нулю.
1). Нехай - Симетрична функція щодо деякої точки , Тоді
, (43.3)
оскільки - Антисиметрична функція щодо . Звідси випливає:
. (43.4)
Таким чином, якщо - Симетрична функція відносно точки , То - Точка симетрії щільності ймовірності - це математичне сподівання випадкової величини.
2). Нехай - Непарне ціле і - Симетрична функція, тоді , Оскільки - Симетрична щодо математичного очікування , І - Антисиметрична щодо .
Вираз (43.2) для можна представити через початкові моменти , . З визначення випливає:
.
Аналогічно центральний момент третього порядку

.
Нехай випадкова величина має щільність ймовірності:
, (43.6)
(Розподіл Релея), тоді обчислення і підстановка в (43.2) приводить до результату .
Щільність імовірності з має більш важкий «хвіст» в області великих позитивних аргументів, і навпаки, при більш важким є «хвіст» щільності в області негативних аргументів.

Коефіцієнт ексцесу

Характеристикою ступеня сглаженности вершини щільності ймовірності є число
, (43.1)
називане коефіцієнтом ексцесу.
Визначимо для нормального розподілу. Оскільки , То залишилося обчислити
.
Нехай , Тоді
.
Обчислимо інтеграл способом «по частинах»:
.
Таким чином, . Підставимо отримані результати в (43.6), тоді .
Якщо , То щільність ймовірності має більш високу і більш гостру вершину, ніж крива щільності нормального розподілу з тією ж дисперсією. Якщо , То вершина щільності розподілу більш плоска, ніж у нормального розподілу.

Среднеквадратическая помилка

Нехай - Невідомий параметр (число), що характеризує стан системи. Для визначення параметра проводиться досвід (вимір). Ситуація ускладнюється тим, що в процесі вимірювання на величину накладається перешкода. Таким чином, вимірюванню підлягає не число , А деяка випадкова величина , Значення якої в кожному досвіді точно передбачити неможливо.
Випадкову величину будемо називати оцінкою параметра . Тоді - Помилка, також випадкова величина. Характеристикою якості оцінки є її среднеквадратическая помилка
. (45.1)
Перетворимо цей вираз:
(45.2)
Величина - Детермінована, тому її можна винести за оператор , Отже, другий доданок

Перший доданок (45.2) за визначенням

- Дисперсія випадкової величини . Введемо позначення
. (45.3)
Число називається зсувом оцінки . Таким чином, з (45.2) слід
(45.4)
- Середньоквадратична помилка є сумою двох невід'ємних складових. Перше з них - дисперсія, або випадкова (стохастична) компонента помилки, а друге - квадрат зміщення - систематична помилка. Якщо , То оцінка називається незміщеної.
Нехай випадкова величина - Має щільність ймовірності . Тоді процедури вимірювання можна дати геометричну інтерпретацію. На рис. 45.1 представлений графік щільності ймовірності оцінки і показана систематична помилка , І випадкова помилка .

Рис. 45.1. Щільність ймовірності оцінки,
випадкова і систематична частини помилки.
Очевидно, ідеальна процедура вимірювання (з нульовою середньоквадратичної помилкою) - це процедура, для якої щільність близька до функції . Тоді , Точка , А ефективна ширина .

Характеристична функція

Характеристичної функцією випадкової величини називається функція
, . (46.1)
Нехай - Безперервна випадкова величина з щільністю ймовірності , Тоді її характеристична функція
(46.2)
- Є інтегральним перетворенням, яке називається перетворенням Фур'є від щільності ймовірності . Відомо, що перетворення Фур'є є взаємно однозначною. Тому існує зворотне перетворення, яке визначає щільність ймовірності через характеристичну функцію . Це перетворення має вигляд
. (46.3)
Співвідношення (46.2) і (46.3) утворюють пару перетворень Фур'є.
Для дискретної випадкової величини , Що приймає значення з імовірностями характеристична функція, як випливає з (46.1), має вигляд
. (46.4)
Характеристична функція є повною ймовірнісної характеристикою випадкової величини, також як і функція розподілу або щільність ймовірності . Сенс введення характеристичної функції в теорії ймовірності полягає в тому, що є клас завдань, які відносно просто вирішуються із застосуванням перетворення Фур'є від щільності ймовірності. Роль цього перетворення виявилася настільки велика, що в теорії з'явився спеціальний термін «характеристична функція» для позначення цього перетворення.

Основні властивості характеристичної функції

Розглянемо властивості функції для неперервної випадкової величини. Для дискретної величини ці властивості доводяться аналогічно.
1). У загальному випадку характеристична функція (46.2) є комплексною. Її речова частина
(47.1)
- Є - Перетворенням від щільності ймовірності, і уявна частина
(47.2)
- Є - Перетворенням від . Якщо - Парна функція, то , Тоді характеристична функція і є речової і парною функцією.
2). . Це властивість випливає з (46.2) і умови нормування для щільності:
. (47.3)
3). - Функція має глобальний максимум в точці . Доказ випливає з (46.2):
.
4).
5). Характеристична функція неперервна. Для доказу розглянемо прирощення аргументу функції , Таке, що , Де - Позитивне число. Тоді має місце наступна ланцюжок перетворень:

. (47.4)
Нехай і число
, (47.5)
тоді з (47.4) слід
. (47.6)
Таким чином, виконується визначення безперервності функції : Для будь-якого можна вибрати позитивне , Що з умови слід .

Приклади обчислення характеристичної функції

48.1. Нехай - Випадкова величина з характеристичною функцією . Знайти характеристичну функцію випадкової величини
, (48.1)
де - Числа. За визначенням
. (48.2)
48.2. Знайти характеристичну функцію гауссовой випадкової величини . За формулою (46.2)
. (48.3)
Виконаємо заміну змінної інтегрування на змінну , Тоді і
. (48.4)
Показник в Фундаментальний вираз перетворимо наступним чином:
.
Підстановка цього результату в (48.4) приводить до виразу
. (48.5)
Звідси випливає, що характеристична функція гауссовой випадкової величини при є речової і парною функцією.

Моменти, кумулянтах і характеристична функція

49.1. Обчислимо похідну порядку характеристичної функції (46.1) при :
, (49.1)
де - Початковий момент порядку випадкової величини . Нехай існують всі моменти , , Тоді існують похідні (49.1) характеристичної функції при . Тому функцію можна розкласти в ряд Тейлора біля точки :
. (49.2)
Відзначимо, що тут перший доданок . Вираз (49.2) називають іноді розкладанням характеристичної функції по моментах, маючи на увазі той факт, що коефіцієнти при визначаються початковими моментами .
Для неперервної випадкової величини з щільністю ймовірності співвідношення (49.1) можна представити у вигляді:
. (49.3)
Таким чином, існування похідної порядку характеристичної функції при (Або початкового моменту ) Визначається поведінкою щільності ймовірності при , Від якого залежить існування інтеграла (49.3).
49.2. Функція
(49.4)
називається кумулянтной функцією випадкової величини . Кумулянтная функція є повною ймовірнісної характеристикою випадкової величини, також, як і . Сенс введення кумулянтной фукнції полягає в тому, що ця функція часто виявляється найбільш простий серед повних імовірнісних характеристик, тобто серед . Наприклад, для гауссової випадкової величини з (48.5) слід
. (49.5)
Кумулянтную функцію можна уявити поруч, аналогічно співвідношенню (49.2) для характеристичної функції:
, (49.6)
де число
(49.7)
називається кумулянтах порядку випадкової величини . З (49.7) слід , Тому підсумовування в (49.6) можна починати з , А оскільки для будь-якої випадкової величини, то не є характеристикою випадкової величини.
Обчислимо кумулянтах для гауссової випадкової величини. З (49.7), (49.5)
, (49.8)
. (49.9)
Для похідна , Отже, гауссова випадкова величина має тільки два кумулянтах і відмінних від нуля, решта кумулянтах - нульові. Тому ряд (49.6) для гауссовой величини складається з двох доданків.