1   ...   7   8   9   10   11   12   13   14   ...   36
Ім'я файлу: ПОТОКИ книга.docx
Розширення: docx
Розмір: 927кб.
Дата: 29.05.2021
скачати
Опис процесу Маркова з дискретними станами та неперервним часом

У посібнику [11, с. 54–76] аналізувалися випадкові процеси зі

скінченною множиною станів

s1,

s2 , ,

sn,

які залежать від дискрет-

ного параметра. У них зміни можуть відбуватися лише у фіксовані

моменти часу

t 0, 1, ...,

причому стан системи в наступний момент

залежить лише від того, у якому стані система перебуває в даний мо- мент часу і не залежить ні від динаміки переходів зі стану в стан у по- передні моменти часу, ні від того, як система потрапила в теперішній стан. У цьому розділі ми будемо вивчати стохастичні процеси, які є залежними від неперервного параметра. У системах, у яких відбува- ються такі процеси, переходи з одного стану в інший можливі в будь- які моменти часу. Вказані стохастичні процеси застосовуються в різ- них розділах природознавства, техніки та економіко-математичного моделювання.

Нехай досліджується деяка система S, яка в кожний фіксований

момент часу

t ti

може перебувати в одному з несумісних станів

s1 , s2 , ,

sn.

У загальному випадку число станів системи може бути

як скінченним, так і зліченним. При вивченні випадкових процесів, які відбуваються в системах з дискретними станами, важливу роль відіг- рають ймовірностістанів.

Означення.Ймовірність події, яка полягає в тому, що в момент t

система Sбуде знаходитися в стані

si ,

називається ймовірністю

i-го станувмомент часуt:


pit PSt si,
i 1, 2, n.
(2.1)


Оскільки для будь-якого tвипадкові події

St si,

i 1, 2, n

попарно несумісні та утворюють повну групу подій, то сума ймовір- ностей цих подій для кожного tдорівнює одиниці:





pit 1.

i 1
(2.2)

Означення.Випадковий процес, який відбувається в будь-якій сис- темі S з дискретними станами, називається марковським(про-

цесомбезпіслядії), якщо для будь-якого моменту часу t0

ймовір-

ність будь-якого стану системи в майбутньому (при

t t0 )

зале-

жить лише від його стану в теперішньому (при

t t0 )

і не залежить

від того, як і скільки часу цей процес розвивався в минулому (при

t t0 ).

Іншими словами, для марковського випадкового процесу при фік- сованому теперішньому майбутнє не залежить від минулого.

На практиці марковські процеси у чистому вигляді зустрічаються не досить часто, але достатньо часто зустрічаються процеси, які з пев- ним наближенням можна вважати марковськими. Марковськіпроцесиє одним із важливих розділів економіко-математичного моделювання; вони визначають окремий вид ймовірнісних моделей різноманітних процесів, що відбуваються у фінансово-економічних системах.

Будемо вважати, що переходи системи Sзі стану si

у стан sj

від-

буваються під впливом деякого потоку подій. Теорію марковських про- цесів з дискретними станами і неперервним часом вивчають у припу- щенні, що переходи зі стану в стан у системі відбуваються під впли- вом пуассонівських потоків подій (не обов’язково стаціонарних). Саме властивість відсутності післядії в потоці Пуассона дозволяє при фік-

сованому теперішньому стані (стан si

системи в момент часу t) не

враховувати, як і коли система набула цього стану.

Зауважимо, що як тільки настає перша подія потоку після деякого

моменту часу

t0 ,

то система Sвідразу переходить зі стану si

у стан

sj.

Таким чином, перехід системи Sзі стану si

у стан sj

відбува-

ється під впливом лише першої події потоку

Пij,

хоча теоретично цей

перехід пояснюється впливом “усього” потоку подій

Пij,

що дозволяє

використовувати поняття інтенсивності t

потоку

Пij.

Слід зазначити, що, на відміну від ланцюгів Маркова (випадково-

го процесу Маркова з дискретними станами і дискретним часом), за-

мість ймовірностей переходу pijk [11, с. 55], для процесу Маркова

із неперервним часом використовують інші характеристики щільно-

стіймовірностейпереходу

ij

зі стану si

у стан

sj.

Розглянемо детальніше це поняття. Нехай

pijt;

t,

i j,

t 0

ймовірність того, що система S, яка знаходиться в стані

si ,

за промі-

жок часу t; t t перейде зі стану si

у стан

sj.

Зауважимо, що

pijt;

t 0,

i j,

якщо:

  • система Sу момент часу tне знаходилась у стані si;

  • система Sу момент часу tзнаходилась у стані

si ,

але за час t

вона перейшла у стан

sk, відмінний від стану

sj:

j k;

  • система Sу момент часу tзнаходилась у стані si і протягом про-

міжку часу tзалишалась у цьому стані: piit; t 0,

i 1, 2, n.

Означення.Щільністю ймовірності переходу системи Sзі стану

si у стан sj

у момент часу tназивається величина



ij
З рівності (2.3) маємо

t lim

t0

pijt; t

t .
(2.3)

pij(t; t) ijt t,

t 0.

(2.4)


Отже, в загальному випадку ij(t) є функцією від t;

ij(t) набуває

невід’ємних значень, на відміну від pijt;

t,

може приймати значен-

ня, які більші за 1;

ii(t) 0,

i 1, 2, , n.

Теорема2.1.Щільність ймовірності переходу

ij(t)

системи Sзі

стану si

у стан sj

у момент часу tпід впливом пуассонівського по-

току

Пij

дорівнює інтенсивності t

потоку

Пij.

Доведення

Згідно з формулою (2.4) ймовірність того, що система Sза промі-

жок часу t

перейде зі стану si

у стан

sj,

дорівнює


pij(t; t) ijt t,

t 0.


Ця ймовірність це ймовірність того, що за час t

відбулася хо-

ча б одна подія пуассонівського потоку, під впливом якої відбувається

перехід системи Sзі стану si

у стан

sj.

Для стаціонарного потоку Пуассона ймовірність появи хоча б однієї

події за час t, згідно з (1.3), дорівнює

Pt

k 1 1 Pt

(0) 1 et.

Використовуючи розвинення функції

et

в ряд Маклорена

t2 t3

et 1 t   , 2! 3!

отримаємо наближену рівність:

et 1 t,

тоді
Ptk 1 1 Pt(0) 11 t t,
t 0.

Оскільки

pij(t; t) Ptk 1, маємо

ij(t) t (t) t.


Отже,

ijt t,
(2.5)

що й потрібно було довести.
Зауважимо ще раз, що для того, щоб випадковий процес із непере- рвним часом, який відбувається в системі з дискретними станами, був марковським, необхідно і достатньо, щоб всі потоки подій, що перево- дять систему зі стану в стан, були пуассонівськими (стаціонарними чинестаціонарними).

У зв’язку з цим системи, у яких відбуваються марковські випадко- ві процеси з дискретними станами та неперервним часом, називають пуассонівськимисистемами.

Означення.Процес Маркова з дискретними станами і неперервним

часом називається однорідним, якщо для будь-яких iта j, i j,

i 1, 2, , n,

j 1, 2, , n

щільність ймовірності переходу

ijt

системи зі стану si

до стану sj

не залежить від часу t,

тоб-

то ijt ij const.

Якщо ж хоча б для однієї пари i; j, i jщільність ймовірності

переходу ijt залежить від t, то процес називається неоднорідним.

Надалі будемо розглядати однорідні марковські процеси з дискрет- ними станами та неперервним часом.

Для наочності при дослідженні марковських випадкових процесів з дискретними станами і неперервним часом, як і у випадку ланцюгів

Маркова, зручно використовувати графистанівсистеми.У загальному випадку на графі прямокутниками позначають стани системи, а стріл- ками можливі переходи зі стану в стан під впливом дії потоку з інтен-

сивністю ij. На графі відображаються безпосередні переходи, а не

переходи через інші стани.

Зокрема, на рис. 2.1 показано граф системи, у якій відбувається про-

цес з неперервним часом. Відсутність стрілки між станами s2

і s1

вка-

зує на те, що щільність ймовірності відповідного переходу дорівнює

нулю: 21 0. Аналогічно маємо 31 0, 14 0, 43 0.




Рисунок 2.1


Щільності ймовірностей переходів
ij,

як і перехідні ймовірно-

сті

pij

у випадку ланцюга Маркова, можна записати у вигляді квадрат-

ної матриці
11
12
13

...
1n





21

22

23

...



2n









...

...

...

...

...

...

...

...

...

...

...

...

...



...

...



n1

n2

n3
...



nn

де 11 22 nn 0.

    1. Диференціальні рівняння Колмогорова

Нехай досліджується деяка система S, яка в кожний фіксова-

ний момент часу

t ti

може перебувати в одному з несумісних станів

s1 , s2 , ,

sn.

Для опису випадкового процесу, який відбувається в си-

стемі, використовують ймовірності станів системи (2.1):

p1 t,

p2 t, ,

pnt.


Якщо для кожної пари станів si

і sj

відомі інтенсивності пуассо-

нівського потоку подій

ij ,

то можна скласти диференціальні рівняння

для ймовірностей станів.

Теорема 2.1. Ймовірності станів
pit,
де i 1, 2, , n
системи

S, у якій відбувається однорідний марковський процес з неперервним

часом, є розв’язком системи диференціальних рівнянь:




dpit


dt

pt

jipjt.

n

n
(2.6)



ij i
Доведення

j 1, ji

j 1, j i

Розглянемо систему S, яка в кожен момент часу tможе перебу-

вати в одному із несумісних станів s1 , s2 , ,

sn. Надамо моменту часу

tприріст tі знайдемо ймовірність

pit t того, що в момент часу

t t

система буде знаходитись у стані

si.

Ця подія може відбутися внаслідок однієї з подій

Ait, t
або

Bit, t

де Ait, t

подія, яка полягає в тому, що система Sу момент

часу tзнаходилась у стані si

і за час t

не вийш-

ла з цього стану, тобто не перейшла в інший стан

sj,

j 1, 2, , n,

j i;

Bit, t

подія, яка полягає в тому, що система Sу момент

часу tзнаходилась у деякому стані

sj ,

j 1, 2, ,

, n,

j i,

і за час t

перейшла у стан

si.


Оскільки події

Ait, t та

Bit, t несумісні, то за теоремою про

суму несумісних подій маємо

pit t P Ait, t PBit, t.

(2.7)

Подія

Ait, t

може бути подана у вигляді добутку двох подій:

Ait, t Sit Cit, t

де Si t

  • подія, яка полягає в тому, що система Sу момент ча-

су tзнаходилась у стані si;

Cit, t

  • подія, яка полягає в тому, що система Sпротягом ча-

су t

залишалась у стані

si.


Тоді за теоремою про ймовірність добутку залежних подій маємо

P Ai t, t PSi t Ci t, t PSi t PCi t, t / Si t

pi t PCi t,

t / Sit.

(2.8)


Знайдемо ймовірність події

PCit, t / Sit.
Розглянемо проти-

лежну подію

Cit, t,

яка полягає в тому, що система Sза час t

перейде зі стану si

що

до іншого стану

sj ,
n

j 1, 2, , n,

j i. Зрозуміло,

Cit, t



j 1, j i

Dijt, t

де Dijt, t,

j i

  • подія, яка полягає в тому, що система Sза

час ну

t

sj.

перейде зі стану si

до іншого ста-


Оскільки події

Dijt, t

несумісні, маємо:


n n

PCit, t / Sit PDijt, t / Sit pijt, t.

j 1, j i j 1, j i

Враховуючи (2.4), маємо



Тоді

PCit, t / Sit



1   ...   7   8   9   10   11   12   13   14   ...   36

скачати

© Усі права захищені
написати до нас