Марковские процессы.

Для математического описания многих случайных процессов может быть применен аппарат, разработанный в теории вероятностей, для так называемых Марковских случайных процессов. Они обладают следующим свойством:

Для каждого момента времени t0 вероятность любого состояния в будущем (t > t0) зависит только от ее состояния в настоящее время (при t > t0) и не зависит от того, когда и каким образом система придет в это состояние и не зависит от предыстории процесса. Процесс работы СМО представляет собой случайный процесс с дискретными состояниями и непрерывным временем. Это означает, что состояние СМО меняется скачком в случайные моменты, появления каких-то событий. Например, прихода заявок, окончания обслуживания и т.д.

Пример марковского процесса: система S - метчик в такси. Состояние системы в момент t характеризуется числом километров, пройденных такси до данного момента. Пусть в момент времени t0 счетчик показывает S0. Вероятность того, что в t > t0 счетчик покажет то или иное число километров S1 зависит от S0, но не зависит от того, в какие моменты времени изменились показания счетчика до момента t0.

При анализе случайных процессов с дискретным состоянием удобно пользоваться специальной схемой – графом состояний и переходов (ГСП).

S1, S2, S3… - состояние системы.

λ12, λ13, λ14… - переход из одного состояния в другое.

Пусть имеется система S с дискретными состояниями S1, S2, S3… Sn. Каждое состояние изображено прямоугольником, а возможные переходы из состояния в состояние – стрелками, соединяющие эти прямоугольники. Стрелками изображаются только непосредственные переходы из состояния в состояние, если система может перейти из S1 в S5 только через S2, то стрелками отмечаются только переходы S1 - S2 и S2 – S5, но не S1 – S5.

Марковский процесс (процесс без последствия) – процесс обладающий свойством: для любого момента времени t0 вероятность любого состояния системы в будущем (t > t0) зависит только от ее состояния в настоящем (при t = 0) и не зависит от того, когда и каким образом система S перешла в это состояние. Для марковских процессов хорошо разработан математический аппарат , элементы которого мы и рассмотрим.