(完整版)应用随机过程期末复习资料

随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学学科，在通信、金融、物理等众多领域都有广泛应用。

下面我们通过一些例题来深入理解随机过程的相关知识点。

一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量都对应着某个特定的时刻。

例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，都有一个对应的随机变量 X(t)表示股票的价格。

二、常见的随机过程类型1、泊松过程泊松过程常用于描述在一定时间内随机事件发生的次数。

例如，某电话交换台在单位时间内接到的呼叫次数就可以用泊松过程来建模。

例题：假设某电话交换台在上午 9 点到 10 点之间接到的呼叫次数是一个泊松过程，平均每分钟接到 2 次呼叫。

求在 9 点 10 分到 9 点 20 分这 10 分钟内接到至少 5 次呼叫的概率。

解：设 X(t) 表示在时间段 0, t 内接到的呼叫次数，且 X(t) 是一个强度为λ ＝ 2 的泊松过程。

10 分钟内接到的呼叫次数 X(10) 服从参数为λt ＝ 2×10 ＝ 20 的泊松分布。

P(X(10) ≥ 5) ＝ 1 P(X(10) ＜ 5) ＝ 1 P(X(10) ＝ 0) ＋ P(X(10) ＝ 1) ＋ P(X(10) ＝ 2) ＋ P(X(10) ＝ 3) ＋ P(X(10) ＝ 4)通过泊松分布的概率质量函数可以计算出每个概率值，进而求得最终结果。

2、马尔可夫过程马尔可夫过程具有“无记忆性”，即未来的状态只与当前状态有关，而与过去的状态无关。

例题：一个状态空间为｛0, 1, 2} 的马尔可夫链，其一步转移概率矩阵为 P ＝ 05 03 02; 02 06 02; 01 03 06 ，初始状态为 0，求经过 3 步转移后处于状态 2 的概率。

解：通过计算 P³得到 3 步转移概率矩阵，然后取出第 0 行第 2 列的元素即为所求概率。

1 [()()][()()]()E X t X s D X t X s t s λ-=-=- 由于(0)0X =故()[()][()(0)]X m t E X t E X t X t λ==-=2()[()][()(0)]X t D X t D X t X t σλ==-=2222(,)[()()]{()[()()()]}[()(0)][()()][()][()(0)][()()][()]{[()]}()()(1)X R s t E X s X t E X s X t X s X s E X s X X t X s E X s E X s X E X t X s D X s E X s s t s s s st s s t λλλλλλλλ==-+=--+=--++=-++=+=+(,)(,)()()X X X X B s t R s t m s m t s λ=-=()()[]exp{(1)}iuX t iu X g u E e t e λ==-2 定理3.2 设{(),0}X t t ≥是具有参数λ的泊松分布，{,1}n T n ≥是对应的时间间隔序列，则随机变量n T 是独立同分布的均值为1λ的指数分布Proof:注意到1{}T t >发生当且仅当泊松过程在区间[0,]t 内没有事件发生，因而1{}{()0}t P T t P X t e λ->=== 即111(){}1{}1tT F t P T t P T t e λ-=≤=->=-所以1T 是服从均值为1λ的指数分布.利用泊松过程的独立、平稳增量性质，有21{|}{()()0}{()(0)0}tP T t T s P X t s X s P X t X eλ->==+-==-==即222(){}1{}1tT F t P T t P T t e λ-=≤=->=-对任意的1n ≥和121,,,...,0n t s s s -≥有21111{|,...,}{()(0)0}t n n P T t T s T s P X t X e λ--->===-==即(){}1n tT n F t P T t eλ-=≤=-所以对任一n T 其分布是均值为1λ的指数分布.所以1,0(){}0,0n t T n e t F t P T t t λ-⎧-≥=≤=⎨<⎩概率密度为,0()0,0n tT et f t t λλ-⎧≥=⎨<⎩3 设在[0,]t 内事件A 已经发生n 次,0s t <<,对于0k n <<,求{()|()}P X s k X t n ==解:利用条件概率及泊松分布得{(),()}{()|()}{()}{(),()()}{()}1kn kk n P X s k X t n P X s k X t n P X t n P X s k X t X s n k P X t n s s C t t -=======-=-==⎛⎫⎛⎫=- ⎪ ⎪⎝⎭⎝⎭这是一个参数为n 和st的二项分布 4 对有s t <有11(){,()1}{|()1}{()1}{()1,()()0}{()1}{()1}{()()0}{()1}s t s s P W s X t P W s X t P X t P X s X t X s P X t P X s P X t X s P X t se e s se tλλλλλ----≤=≤====-====-=====即分布函数为1|()10,0(),01,W X t s F s s t s t s t =<⎧⎪=≤<⎨⎪≥⎩分布密度为1|()11,0()0,W X t t s tf s =≤<⎧=⎨⎩其它5 设()1()N t kk X t Y==∑,0t ≥是复合泊松过程则（1）{(),0}X t t ≥是独立增量过程；（2）()X t 是特征函数()()exp{[()1]}X t Y g u t g u λ=-,其中()Y g u 是随机变量1Y 的特征函数; λ是事件的到达率;3)若21()E Y <∞,则1[()][]E X t tE Y λ=,21[()][]D X t tE Y λ= Proof:1)令010...m t t t ≤<<<, 则1()1()1()()k k N t k k i i N t X t X t Y --=+-=∑,1,2,...,k m = 故()X t …2)因为 ()()()01()[][|()]{()}()[exp()|()]!exp{[()1]}iuX t iuX t X t n n ntk n k Y g u E eE eN t n P N t n t E iu Y N t n en t g u λλλ∞=∞-=========-∑∑∑3)由条件期望的性质[()]{[()|()]}E X t E E X t N t =及假设知()11[()|()][|()]()N t ii E X t N t n E Y N t n nE Y =====∑所以11[()]{[()|()]}[()]()()E X t E E X t N t E N t E Y tE Y λ===类似地1[()|()]()[]D X t N t N t D Y =,2111[()]{()[]}{()()}()D X t E N t D Y D N t E Y tE Y λ=+=6 设脉冲到达计数器的规律是到达率为λ的泊松过程,记录每个脉冲的概率为p ,记录不同脉冲的概率是相互独立的.l 令()X t 表示已被记录的脉冲数. (1) 求{()},0,1,2,...P X t k k == (2) ()X t 是否为泊松过程.解：设{(),0}N t t ≥表示在[0,]t 区间脉冲到达计数器的个数,令1,0,i i i ξ⎧=⎨⎩第个脉冲被计数器记录第个脉冲没有被计数器记录则()1()N t ii X t ξ==∑根据复合泊松过程的定义知()X t 为泊松过程，且1()()EX t EN t E t p pt ξλλ=== 故()X t 强度为p λ,(){()}!kptpt P X t k e k λλ-==,0,1,...k =7 设{,}n X n T ∈为马尔科夫链,则对任意整数0,n ≥0l n ≤<和,i j I ∈,n 步转移概率()n ij p 具有下列性质：(1) ()()()n l n l ij ik kjk Ip pp -∈=∑; (2) 112111()......n n n ij ik k k k j k Ik I p pp p --∈∈=∑∑(3) ()(1)n n P PP-=(4) ()n nP P =Proof:1）利用全概率公式及马尔科夫性，有()()()()(){,}{|}{}()()n m m n ij m n m m n l l l n l kj ik ik kjk Ik IP X i X j p P X j X i P X i p m l p m p p ++--∈∈========+=∑∑2)在(1)中令11,l k k ==，得111()(1)n n ij ik k jk Ip pp -∈=∑ 这是一个递推公式，故可推得到112111()......n n n ij ik k k k j k Ik Ip p p p --∈∈=∑∑3）在(1)中令1l =,利用矩阵乘法可证 4）由(3),利用归纳法可证8 判别马氏性、齐次性1）马氏性定义: 110011{|,,...,}n n n n P X i X i X i X i ++====11{|}n n n n P X i X i ++===2)111111111111{,,...,}{|}{|}...{|}n n n n n n n n n n n n n n P X i X i X i P X i X i P X i X i P X i X i ++--++--==========9 设{,0}n X n ≥为马尔科夫链，试证(1) 1100{,...,|,...}n n n m n m n n P X i X i X i X i ++++====11{,...,|}n n n m n m n n P X i X i X i ++++====(2)002211{,...,,...,|}n n n n n m n m n n P X i X i X i X i X i ++++++=====00112211{,...|}{,...,|}n n n n n n n m n m n n P X i X i X i P X i X i X i ++++++++=======proof: (1)110000110011{,...,|,...}{,...,,...,}{,...}{,...,}{}{,...,|}n n n m n m n n n n n n n m n m n n n n n m n m n n n n n m n m n n P X i X i X i X i P X i X i X i X i P X i X i P X i X i P X i P X i X i X i ++++++++++++++===================(2)利用条件概率类似可得10 设马氏链{}n X 的状态空间为{0,1...}I =转移概率为00,10111,,,222i i i p p p i I +===∈考察状态0 可知000000(1)(2)(3)11111111,,22242228p p p ==⋅==⋅⋅=有00()12n n p =故0001111,22n n n n f n μ∞∞-=====<∞∑∑可见0为正常返，由于00(1)102f =>，所以它是非周期的，因而是遍历的，对于其它状态由定理4.9，因0i ↔故i 也是遍历的11 设{1,2,...6}I =转移矩阵为00100000000100001013130130010*******12P ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦试分解此链并指出各状态的常返性及周期性. 解：有题可知1111(3)()1,0,3n f f n ==≠所以11()113n n nfμ∞===∑可见1为正常返状态且周期等于3.含1的基本常返闭集为1{:1}{1,3,5}C k k =→=从而状态3及5也为正常返且周期为3.同理可知6为正常返状态. 632μ=,其周期为1,含6的基本常返闭集为2{:6}{2,6}C k k =→=可见2是遍历的. 由于(1)()44441,0,13n f f n ==≠故4非常返，周期为1，于是I 可分解为12{4}{1,3,5}{2,6}I D C C ==12 设不可分马氏链的状态空间为{1,2,...6}C =,转移矩阵为0120120130010101000000100001000000140340P ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦可知各状态的周期3d =.固定状态1i =令(3)01,(31)11,(32)21,{:00}{1,4,6}{:00}{3,5}{:00}{2}n j n jn jG j n p G j n p G j n p++=≥>==≥>==≥>=对某有对某有对某有 故012{1,4,6}{3,5}{2}C G G G ==13 设马尔科夫链具有状态空间{0,1,...}I =,转移概率11,,(0)ii i ii i ii i p p p r p q i +-===≥,其中,0i i p q >1i i i p r q ++=.称这种马尔科夫链为生灭链,是不可约的，记0101...1,,1...j j jp p a a j q q -==≥试证此马氏链存在平稳分布的充要条件为jj a∞=<∞∑Proof:由题可知000111111,11j j j j j j j j j j r q p r q j p r q πππππππ--++⎧=+⎪=++≥⎨⎪++=⎩于是有递推关系110011110j j j j j j j j q p q p q p ππππππ++---=⎧⎪⎨-=-⎪⎩解得11,0j j j j p j q ππ--=≥所以110001...j j j j jp p a q q ππππ--==== 对j 求和得001jj j j a ππ∞∞====∑∑由此可知平稳分存在的充要条件是jj a∞=<∞∑此时001,,1jj jjj a j aπππ∞===≥∑14 设马氏链的转移概率矩阵为(1) 12121323⎡⎤⎢⎥⎣⎦ (2) 112233000p q p q q p ⎡⎤⎢⎥⎢⎥⎢⎥⎣⎦计算()()1112,,1,2,3n n f f n =解：(1) (1)(2)(3)(1)(2)(3)111111121213111111,,;,,269248f f f f f f ====== (2)(1)(2)(3)(1)(2)(3)2111111112312112111311,0,;,,f p f f q q q f q f p q f p q ======15 设马氏链的转移矩阵为1112010.........00......000.....................q p P q p ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦求它的平稳分布. 解：110011101...1,1,...1j j j kjj k k p p j pq q q πππ--∞==+=≥=+∑∏16 证明泊松过程{(),0}X t t ≥为连续时间齐次马氏链 Proof:先证泊松过程具有马氏性,再证齐次性,由泊松过程的定义知{(),0}X t t ≥识独立增量过程,且(0)0X =对任意110...n t t +<<<有111111111111{()|(),...,()}{()()|()(0),...,()()}{()()}n n n n n n n n n n n n n n n n P X t i X t i X t i P X t X t i i X t X i X t X t i i P X t X t i i ++++--++====-=--=-=-=-=-又因为1111{()|(),...,()}n n n n P X t i X t i X t i ++===1111{()()|()(0)}{()()}n n n n n n n n n n P X t X t i i X t X i P X t X t i i ++++=-=--==-=-所以111111{()|(),...,()}{()|()}n n n n n n n n P X t i X t i X t i P X t i X t i ++++=====即泊松过程是一个连续时间马氏链；再证齐次性,当j i ≥时,由泊松过程定义,得{()|()}(){()()}()!j i tP X s t j X s i t P X s t X s j i ej i λλ--+===+-=-=- 当j i <时,由于过程的增量只取非负整数,故(,)0ij p s t =,所以(),(,)()()!0,j it ij ij t ej i p s t p t j i j i λλ--⎧≥⎪==-⎨⎪<⎩即转移概率只与t 有关,泊松过程具有齐次性17 求poisson 过程的Q 及π解：poisson 过程(),0()()!0,j i tij t e j i p t j i λλ--⎧-≥⎪=-⎨⎪⎩其它(1) 0,(0)lim (0)lim 1,0,tij j i p p e j i j i λ-<⎧⎪===⎨⎪>⎩(2)由性质知()p t 关于t 一致连续lim ()t p t π→∞=（存在）(3) (0)limp IQ t-=存在 ()lim()lim lim,()!1()lim ,1()lim ()!0,1,ij ijij tj i t t j i tp t I q te t e t j i j i t e j i t e t t j i j i j i λλλλλλλλλ-------=⎧⎛⎫-==⎪ ⎪-⎝⎭⎪⎪=⎨⎧==+⎪⎪=⎨⎪-⎪>+<⎪⎩⎩由Q Q ππθ==得0...00...00...............Q λλλλλλ-⎡⎤⎢⎥-⎢⎥=⎢⎥-⎢⎥-⎣⎦,0π=18 M/M/s 排队系统.假设顾客按照参数为λ的泊松过程来到一个有s 个服务员的服务站,即相继到达顾客的时间间隔是均值为1λ的独立指数随机变量,每一个顾客一来到,如果有服务员空闲,则直接进行服务,否则此顾客加入排队行列.当一个服务员结束对一位顾客的服务时,顾客就离开服务系统,排队中的下一个顾客进入服务.假定相继的服务时间是独立的指数随机变量,均值为1μ.如果我们以()X t 记时刻t 系统中的人数,则{(),0}X t t ≥是生灭过程,1,n n n ss n s μμμ=≤≤⎧⎨>⎩，,0n n λλ=≥ M/M/s 排队系统中M 表示马氏过程,s 代表有s 个服务员.特别,在M/M/s 排队系统中,,n n λλμμ===,于是若1λμ<,则1()1,01()nnn n n n λμλλπλμμμ∞=⎛⎫⎛⎫==-≥ ⎪ ⎪⎝⎭⎝⎭+∑ 要平稳分布存在, λ必须小于μ.λμ=的情况类似随机游动,它是常零返的,从而没有极限概率19 某修理店只有一个服务员,顾客按强度为4人每小时poisson 过程到达,服务员对每位顾客服务的时间是常数10的指数分布,问(1)修理店空闲的概率0β;(2)等候服务的顾客平均数解：(1) 010.6λβμ=-=； (2) 010101... 1.5n n L n λμβββλμ∞=-==++==∑20 讨论随机过程()X t Y =的各态历经性,其中Y 是方差不为零的随即变量.解：易知()X t Y =是平稳过程,事实上[()][]()X E X t E Y m ==常数，22(,)[][]()X X R t t E Y D Y m t τ-==+与无关但此过程不具有各态历经性，因为1()12TTT X t i mYdt Y T-→∞<>=⋅⋅=⎰,Y 是非常数，不等于[()]E X t .所以()X t Y =的均值不具有各态历经性.类似可证其相关函数也不具有各态历经性.21 设随机过程()sin()cos()X t A t B t λλ=+，其中A B 、是均值为零、方差为2σ相互独立的正态随机变量.试问： (1) ()X t 的均值是否各态历经的？(2) ()X t 的均方值2[()]E X t 是否各态历经的？(3)若sin cos A B φφ=，,φ是π（0,2）上服从均匀分布的随机变量,此时2[()]E X t 是否各态历经的？ 解：(1) [()]=sin()cos()=0E X t EA t EB t λλ+01()1()21=12cos()2sin()=1TTT T T T X t i mX t dtTi mB t dt T t i m B tλλλ-→∞→∞→∞<>=⋅⋅⋅⋅⨯⋅⋅⎰⎰由于2(0,)B N σ ,故22222sin()sin ()lim 0lim 0T T t t E B EB t tλλλλ→∞→∞-== 即sin()t B tλλ均方收敛于0,故()X t 的均值是各态历经的 (2)222222[()][sin ()cos ()2sin()cos()]E X t E A t B t AB t t λλλλσ=++=2222221()1()2sin 21()24T TT T X t i m X t dtT A B T i m B A Tλλ-→∞→∞<>=⋅⋅+=+⋅⋅-⎰类似(1)可证得22sin 21()04T T i mB A Tλλ→∞⋅⋅-=，故 222()2A B X t +<>=又2(0,)A N σ ,故222(1)A χσ,22()2A D σ=,242DA σ=222222222411[()]()2211[()]()024E A B EA EB D A B DA DB σσ+=+=+=+=≠因此()X t 的均方值2[()]E X t 非各态历经.(3) 将A B 、代于(2)中得222()[()]X t E X t σ<>== 故2[()]E X t 是各态历经的22 赌徒输光问题两赌徒甲、乙进行一系列赌博.赌徒甲有a 元,赌徒乙有b 元,每赌一局输者赢着一元钱,没有和局,直到两个人中有一个输光为止.设在每一局中,甲赢的概率为p,输的概率为q=1-p ，求甲输光的概率.解：设i u 表示甲从状态i 出发转移到0的概率,由于0和c 是吸收状态,故01,0c u u ==由全概率公式11i i i u pu qu +-=+,1,2,...,1i c =-由于1p q +=即有差分方程11(),1,2,...,1i i i i u u r u u i c +--=-=- 其中qr p=,其边界条件为01,0c u u ==Case1 当11,2r p q ===时，有 11i i i i u u u u +--=-解得1,1,2,...,1i i u i c c=-=- 令i a =求得甲输光的概率为1a a b u c a b=-=+ 故在p q =时赌本小的输光的可能性大 同样乙输光的概率为b a u a b=+ 由于1a b u u +=故必有一人要输光，赌博迟早要结束 Case2p q ≠时111()(1)1k cc c k i i i kr r u u r u u u r --=--=-=--∑ 令0k =由于0c u =故111(1)1cr u r-=--即11(1)1c r u r --=-所以,1,2,...11k ck cr r u k c r-==-- 令k a =得甲输光的概率1a ca cr r u r -=- 同样乙输光的概率为1b cb cr r u r -=-由于1a b u u +=p q ≠时也必有一人要输光。

1、设在底层乘电梯的人数服从均值5λ=的泊松分布，又设此楼共有N+1层。

每一个乘客在每一层楼要求停下来离开是等可能的，而且与其余乘客是否在这层停下是相互独立的。

求在所有乘客都走出电梯之前，该电梯停止次数的期望值。

2、设齐次马氏链{(),0,1,2,}X n n = 的状态空间{1,2,3}E =，状态转移矩阵1102211124412033P=（1）画出状态转移图；（2）讨论其遍历性；（3）求平稳分布；（4）计算下列概率： i ）{(4)3|(1)1,(2)1};P X X X === ii ）{(2)1,(3)2|(1)1}P X X X ===.3、设顾客以泊松分布抵达银行，其到达率为λ，若已知在第一小时内有两个顾客抵达银行，问：（1）此两个顾客均在最初20分钟内抵达银行的概率是多少？ （2）至少有一个顾客在最初20分钟抵达银行的概率又是多少？4、设2()X t At Bt C ++，其中A , B , C 是相互独立的标准正态随机变量，讨论随机过程{(),}X t t −∞<<+∞的均方连续、均方可积和均方可导性.5、设有实随机过程{(),}X t t −∞<<+∞，加上到一短时间的时间平均器上作它的输入，如下图所示，它的输出为1(),()()d tt TY t Y t X u u T −=∫，其中t 为输出信号的观测时刻，T 为平均器采用的积分时间间隔。

若()cos X t A t =，A 是（0, 1）内均匀分布的随机变量。

（1）求输入过程的均值和相关函数，问输入过程是否平稳？ （2）证明输出过程()Y t 的表示式为sin 2()cos()22T T Y t A t T=⋅−.（3）证明输出的均值为sin 12[()]cos()222T T E Y t t T =−，输出相关函数为12(,)R t t = 2sin 1232T T12cos()cos()22T Tt t −−，问输出是否为平稳过程？6、甲、乙两人进行比赛，设每局比赛甲胜的概率为p ，乙胜的概率为q ，和局的概率为R ，1p q r ++=，设每局比赛后胜者记“1”，分负者记“-1”分，和局记“0”分。

应⽤随机过程复习资料1 [()()][()()]()E X t X s D X t X s t s λ-=-=- 由于(0)0X =故()[()][()(0)]X m t E X t E X t X t λ==-=2()[()][()(0)]X t D X t D X t X t σλ==-=2222(,)[()()]{()[()()()]}[()(0)][()()][()][()(0)][()()][()]{[()]}()()(1)X R s t E X s X t E X s X t X s X s E X s X X t X s E X s E X s X E X t X s D X s E X s s t s s s st s s t λλλλλλλλ==-+=--+=--++=-++=+=+(,)(,)()()X X X X B s t R s t m s m t s λ=-=()()[]exp{(1)}iuX t iu X g u E e t e λ==-2 定理3.2 设{(),0}X t t ≥是具有参数λ的泊松分布，{,1}n T n ≥是对应的时间间隔序列，则随机变量n T 是独⽴同分布的均值为1λ的指数分布Proof:注意到1{}T t >发⽣当且仅当泊松过程在区间[0,]t 内没有事件发⽣，因⽽1{}{()0}t P T t P X t e λ->=== 即111(){}1{}1tT F t P T t P T t e λ-=≤=->=-所以1T 是服从均值为1λ的指数分布.利⽤泊松过程的独⽴、平稳增量性质，有21{|}{()()0}{()(0)0}tP T t T s P X t s X s P X t X eλ->==+-==-==即222(){}1{}1tT F t P T t P T t e λ-=≤=->=-对任意的1n ≥和121,,,...,0n t s s s -≥有21111{|,...,}{()(0)0}t n n P T t T s T s P X t X e λ--->===-==即(){}1n tT n F t P T t eλ-=≤=-所以对任⼀n T 其分布是均值为1λ的指数分布.所以1,0(){}0,0n t T n e t F t P T t t λ-?-≥=≤=?概率密度为,0T et f t t λλ-?≥=?3 设在[0,]t 内事件A 已经发⽣n 次,0s t <<,对于0k n <<,求{()|()}P X s k X t n ==解:利⽤条件概率及泊松分布得{(),()}{()|()}{()}{(),()()}{()}1kn kk n P X s k X t n P X s k X t n P X t n P X s k X t X s n k P X t n s s C t t -=======-=-===- ? ???这是⼀个参数为n 和st的⼆项分布 4 对有s t <有11(){,()1}{|()1}{()1}{()1,()()0}{()1}{()1}{()()0}{()1}s t s s P W s X t P W s X t P X t P X s X t X s P X t P X s P X t X s P X t se e s se t λλλλλ----≤=≤====-====-=====即分布函数为1|()10,0(),01,W X t s F s s t s t s t ==≤分布密度为1|()11,0()0,W X t t s tf s =≤其它5 设()1()N t kk X t Y（1）{(),0}X t t ≥是独⽴增量过程；（2）()X t 是特征函数()()exp{[()1]}X t Y g u t g u λ=-,其中()Y g u 是随机变量1Y 的特征函数; λ是事件的到达率;3)若21()E Y <∞,则1[()][]E X t tE Y λ=,21[()][]D X t tE Y λ= Proof:1)令010...m t t t ≤<<<, 则1()1()1()()k k N t k k i i N t X t X t Y --=+-=∑,1,2,...,k m = 故()X t …2)因为 ()()()01()[][|()]{()}()[exp()|()]!exp{[()1]}iuX t iuX t X t n n ntk n k Y g u E eE eN t n P N t n t E iu Y N t n en t g u λλλ∞=∞-=========-∑∑∑3)由条件期望的性质[()]{[()|()]}E X t E E X t N t =及假设知()11[()|()][|()]()N t ii E X t N t n E Y N t n nE Y =====∑所以11[()]{[()|()]}[()]()()E X t E E X t N t E N t E Y tE Y λ===类似地1[()|()]()[]D X t N t N t D Y =,2111[()]{()[]}{()()}()D X t E N t D Y D N t E Y tE Y λ=+=6 设脉冲到达计数器的规律是到达率为λ的泊松过程,记录每个脉冲的概率为p ,记录不同脉冲的概率是相互独⽴的.l 令()X t 表⽰已被记录的脉冲数. (1) 求{()},0,1,2,...P X t k k == (2) ()X t 是否为泊松过程.则()1()N t ii X t ξ==∑根据复合泊松过程的定义知()X t 为泊松过程，且1()()EX t EN t E t p pt ξλλ=== 故()X t 强度为p λ,(){()}! kptpt P X t k e k λλ-==,0,1,...k =7 设{,}n X n T ∈为马尔科夫链,则对任意整数0,n ≥0l n ≤<和,i j I ∈,n 步转移概率()n ij p 具有下列性质：(1) ()()()n l n l ij ik kjk Ip pp -∈=∑; (2) 112111()......n n n ij ik k k k j k Ik I p pp p --∈∈=∑∑(3) ()(1)n n P PP-=(4) ()n nP P =Proof:1）利⽤全概率公式及马尔科夫性，有()()()()(){,}{|}{}()()n m m n ij m n m m n l l l n l kj ik ik kjP X i X j p P X j X i P X i p m l p m p p ++--∈∈========+=∑∑2)在(1)中令11,l k k ==，得111()(1)n n ij ik k jk Ip pp -∈=∑ 这是⼀个递推公式，故可推得到112111()......n n n ij ik k k k j k Ik Ip p p p --∈∈=∑∑3）在(1)中令1l =,利⽤矩阵乘法可证 4）由(3),利⽤归纳法可证8 判别马⽒性、齐次性1）马⽒性定义: 110011{|,,...,}n n n n P X i X i X i X i ++====11{|}n n n n P X i X i ++===2)111111111111{,,...,}{|}{|}...{|}n n n n n n n n n n n n n n P X i X i X i P X i X i P X i X i P X i X i ++--++--==========9 设{,0}n X n ≥为马尔科夫链，试证(1) 1100{,...,|,...}n n n m n m n n P X i X i X i X i ++++====11{,...,|}n n n m n m n n P X i X i X i ++++====(2)002211{,...,,...,|}n n n n n m n m n n P X i X i X i X i X i ++++++=====00112211{,...|}{,...,|}n n n n n n n m n m n n P X i X i X i P X i X i X i ++++++++=======proof: (1)110000110011{,...,|,...}{,...,,...,}{,...}{,...,}{}{,...,|}n n n m n m n n n n n n n m n m n n n n n m n m n n n n n m n m n n P X i X i X i X i P X i X i X i X i P X i X i P X i X i P X i P X i X i X i ++++++++++++++===================(2)利⽤条件概率类似可得,,,222i i i p p p i I +===∈考察状态0 可知000000(1)(2)(3)11111111,,22242228p p p ==?==??=有00()12n n p =故0001111,22n n n n f n µ∞∞-=====<∞∑∑可见0为正常返，由于00(1)102f =>，所以它是⾮周期的，因⽽是遍历的，对于其它状态由定理4.9，因0i ?故i 也是遍历的11 设{1,2,...6}I =转移矩阵为00100000000100001013130130010*******12P =?试分解此链并指出各状态的常返性及周期性. 解：有题可知1111(3)()1,0,3n f f n ==≠所以11()113n n nfµ∞===∑可见1为正常返状态且周期等于3.含1的基本常返闭集为1{:1}{1,3,5}C k k =→=µ=,其周期为1,含6的基本常返闭集为2{:6}{2,6}C k k =→=可见2是遍历的. 由于(1)()44441,0,13n f f n ==≠故4⾮常返，周期为1，于是I 可分解为12{4}{1,3,5}{2,6}I D C C == 12 设不可分马⽒链的状态空间为{1,2,...6}C =,转移矩阵为0120120130010101000000100001000000140340P ??=?可知各状态的周期3d =.固定状态1i =令(3)01,(31)11,(32)21,{:00}{1,4,6}{:00}{3,5}{:00}{2}n j n jn jG j n p G j n p G j n p++=≥>==≥>==≥>=对某有对某有对某有故012{1,4,6}{3,5}{2}C G G G == 13 设马尔科夫链具有状态空间{0,1,...}I =,转移概率11,,(0)ii i ii i ii i p p p r p q i +-===≥,其中,0i i p q >1i i i p r q ++=.称这种马尔科夫链为⽣灭链,是不可约的，记0101...1,,1...j j jp p a a j q q -==≥试证此马⽒链存在平稳分布的充要条件为=<∞∑Proof:由题可知000111111,11j j j j j j j j j j r q p r q j p r q πππππππ--++?=+? =++≥??++=?于是有递推关系110011110j j j j j j j j q p q p q p ππππππ++---=-=-??解得11,0j j j j p j q ππ--=≥所以110001...j j j j jp p a q q ππππ--==== 对j 求和得001jj j j a ππ∞∞====∑∑由此可知平稳分存在的充要条件是jj a∞=<∞∑此时001,,1jj a j aπππ∞===≥∑14 设马⽒链的转移概率矩阵为(1) 12121323 (2) 112233000p q p q q p计算()()1112,,1,2,3n n f f n =解：(1) (1)(2)(3)(1)(2)(3)111111121213111111,,;,,269248f f f f f f ====== (2)(1)(2)(3)(1)(2)(3)2111111112312112111311,0,;,,f p f f q q q f q f p q f p q ====== 15 设马⽒链的转移矩阵为1112010.........00......000.....................q p P q p =??求它的平稳分布. 解：110011101...1,1,...1j j j kjj k k p p j pq q q πππ--∞==+=16 证明泊松过程{(),0}X t t ≥为连续时间齐次马⽒链 Proof:先证泊松过程具有马⽒性,再证齐次性,由泊松过程的定义知{(),0}X t t ≥识独⽴增量过程,且(0)0X =对任意110...n t t +<<<有111111111111{()|(),...,()}{()()|()(0),...,()()}{()()}n n n n n n n n n n n n n n n n P X t i X t i X t i P X t X t i i X t X i X t X t i i P X t X t i i ++++--++====-=--=-=-=-=-⼜因为1111{()|(),...,()}n n n n P X t i X t i X t i ++===1111{()()|()(0)}{()()}n n n n n n n n n n P X t X t i i X t X i P X t X t i i ++++=-=--==-=-所以111111{()|(),...,()}{()|()}n n n n n n n n P X t i X t i X t i P X t i X t i ++++=====即泊松过程是⼀个连续时间马⽒链；再证齐次性,当j i ≥时,由泊松过程定义,得{()|()}(){()()}()!j i tP X s t j X s i t P X s t X s j i ej i λλ--+===+-=-=- 当j i <时,由于过程的增量只取⾮负整数,故(,)0ij p s t =,所以(),(,)()()!0,j it ij ij t ej i p s t p t j i j i λλ--?≥?==-??即转移概率只与t 有关,泊松过程具有齐次性17 求poisson 过程的Q 及π解：poisson 过程(),0()()!0,j i tij t e j i p t j i λλ--?-≥?=-其它(1) 0,(0)lim (0)lim 1,0,tij j i p p e j i j i λ-?(2)由性质知()p t 关于t ⼀致连续lim ()t p t π→∞=（存在）(3) (0)limp IQ t,()!1()lim ,1()lim ()!0,1,ij ijij tj i t t j i tp t I q te t e t j i j i t e j i t e t t j i j i j i λλλλλλλλλ-------=-==? ?-?=??==+??=??-?>+由Q Q ππθ==得0...00...00...............Q λλλλλλ-??-?=-??-??,0π=18 M/M/s 排队系统.假设顾客按照参数为λ的泊松过程来到⼀个有s 个服务员的服务站,即相继到达顾客的时间间隔是均值为1λ的独⽴指数随机变量,每⼀个顾客⼀来到,如果有服务员空闲,则直接进⾏服务,否则此顾客加⼊排队⾏列.当⼀个服务员结束对⼀位顾客的服务时,顾客就离开服务系统,排队中的下⼀个顾客进⼊服务.假定相继的服务时间是独⽴的指数随机变量,均值为1µ.如果我们以()X t 记时刻t 系统中的⼈数,则{(),0}X t t ≥是⽣灭过程,1,n n n ss n s µµµ=≤≤??>?，,0n n λλ=≥ M/M/s 排队系统中M 表⽰马⽒过程,s 代表有s 个服务员.特别,在M/M/s 排队系统中,,n n λλµµ===,于是若1λµ<,则1()1,01()nnn n n n λµλλπλµµµ∞=??==-≥ ? ?????+∑ 要平稳分布存在, λ必须⼩于µ.λµ=的情况类似随机游动,它是常零返的,从⽽没有极限概率19 某修理店只有⼀个服务员,顾客按强度为4⼈每⼩时poisson 过程到达,服务员对每位顾客服务的时间是常数10的指数分布,问(1)修理店空闲的概率0β;(2)等候服务的顾客平均数解：(1) 010.6λβµ=-=； (2) 010101... 1.5n n L n λµβββλµ∞=-==++==∑20 讨论随机过程()X t Y =的各态历经性,其中Y 是⽅差不为零的随即变量.解：易知()X t Y =是平稳过程,事实上[()][]()X E X t E Y m ==常数，22(,)[][]()X X R t t E Y D Y m t τ-==+与⽆关但此过程不具有各态历经性，因为1()12TTT X t i mYdt Y T-→∞<>=??=?,Y 是⾮常数，不等于[()]E X t .所以()X t Y =的均值不具有各态历经性.类似可证其相关函数也不具有各态历经性.21 设随机过程()sin()cos()X t A t B t λλ=+，其中A B 、是均值为零、⽅差为2σ相互独⽴的正态随机变量.试问： (1) ()X t 的均值是否各态历经的？(2) ()X t 的均⽅值2[()]E X t 是否各态历经的？(3)若sin cos A B φφ=，,φ是π（0,2）上服从均匀分布的随机变量,此时2[()]E X t 是否各态历经的？解：(1) [()]=sin()cos()=0E X t EA t EB t λλ+()1()21=12cos()2sin()=1TTT T T T X t i mX t dtTi mB t dt T t i m B tλλλ-→∞→∞→∞<>=由于2(0,)B N σ ,故22222sin()sin ()lim 0lim 0T T t t E B EB t tλλλλ→∞→∞-== 即sin()t B tλλ均⽅收敛于0,故()X t 的均值是各态历经的 (2)222222[()][sin ()cos ()2sin()cos()]E X t E A t B t AB t t λλλλσ=++= 2222221()1()2sin 21()24T TT T X t i m X t dtT A B T i m B A Tλλ-→∞→∞<>=??+=+??-?类似(1)可证得22sin 21()04T T i mB A Tλλ→∞-=，故 222A B X t +<>=⼜2(0,)A N σ ,故222(1)A χσ,22()2A D σ=,242DA σ=222222222411[()]()2211[()]()024E A B EA EB D A B DA DB σσ+=+=+=+=≠因此()X t 的均⽅值2[()]E X t ⾮各态历经.(3) 将A B 、代于(2)中得222()[()]X t E X t σ<>== 故2[()]E X t 是各态历经的22 赌徒输光问题两赌徒甲、⼄进⾏⼀系列赌博.赌徒甲有a 元,赌徒⼄有b 元,每赌⼀局输者赢着⼀元钱,没有和局,直到两个⼈中有⼀个输光为⽌.设在每⼀局中,甲赢的概率为p,输的概率为q=1-p ，求甲输光的概率.解：设i u 表⽰甲从状态i 出发转移到0的概率,由于0和c 是吸收状态,故01,0c u u ==由全概率公式11i i i u pu qu +-=+,1,2,...,1i c =-由于1p q +=即有差分⽅程11(),1,2,...,1i i i i u u r u u i c +--=-=- 其中qr p=,其边界条件为01,0c u u ==Case1 当1r p q ===时，有 11i i i i u u u u +--=-解得1,1,2,...,1i i u i c c=-=- 令i a =求得甲输光的概率为1a a b u c a b=-=+ 故在p q =时赌本⼩的输光的可能性⼤同样⼄输光的概率为b a u a b =+ 由于1a b u u +=故必有⼀⼈要输光，赌博迟早要结束 Case2p q ≠时111()(1)1k cc c k i i i kr r u u r u u u r --=--=-=--∑ 令0k =由于0c u =故111(1)1cr u r-=--即11(1)1c r u r --=-所以,1,2,...11k ck cr r u k c r-==-- 令k a =得甲输光的概率1a ca cr r u r -=- 同样⼄输光的概率为1b cb cr r u r -=-由于1a b u u +=p q ≠时也必有⼀⼈要输光。

随机过程试题及答案一、选择题1. 随机过程是研究什么的对象？A. 确定性系统B. 随机性系统C. 静态系统D. 动态系统答案：B2. 下列哪项不是随机过程的特点？A. 可预测性B. 随机性C. 连续性D. 状态的不确定性答案：A3. 随机过程的数学描述通常使用什么？A. 概率分布B. 微分方程C. 差分方程D. 以上都是答案：A4. 马尔可夫链是具有什么特性的随机过程？A. 独立性B. 无记忆性C. 均匀性D. 周期性答案：B5. 以下哪个是随机过程的数学工具？A. 傅里叶变换B. 拉普拉斯变换C. 特征函数D. 以上都是答案：D二、简答题1. 简述什么是随机过程的遍历性。

答：遍历性是随机过程的一种特性，指的是在足够长的时间内，随机过程的统计特性不随时间变化而变化，即时间平均与遍历平均相等。

2. 解释什么是泊松过程，并给出其主要特征。

答：泊松过程是一种计数过程，它描述了在固定时间或空间内随机发生的事件次数。

其主要特征包括：事件在时间或空间上独立发生，事件的发生具有均匀性，且在任意小的时间段内，事件发生的概率与该时间段的长度成正比。

三、计算题1. 假设有一个泊松过程，其平均事件发生率为λ。

计算在时间间隔[0, t]内恰好发生n次事件的概率。

答：在时间间隔[0, t]内恰好发生n次事件的概率由泊松分布给出，公式为：\[ P(N(t) = n) = \frac{e^{-\lambda t} (\lambda t)^n}{n!} \]2. 考虑一个具有两个状态的马尔可夫链，其状态转移概率矩阵为：\[ P = \begin{bmatrix}p_{11} & p_{12} \\p_{21} & p_{22}\end{bmatrix} \]如果初始时刻在状态1的概率为1，求在第k步时处于状态1的概率。

答：在第k步时处于状态1的概率可以通过马尔可夫链的状态转移矩阵的k次幂来计算，即：\[ P_{11}^{(k)} = p_{11}^k + p_{12} p_{21} (p_{11}^{k-1} + p_{12} p_{21}^{k-2} + \ldots) \]四、论述题1. 论述随机过程在信号处理中的应用及其重要性。

随机过程复习题（含答案）随机过程复习题一、填空题：1．对于随机变量序列}{n X 和常数a ，若对于任意0>ε，有______}|{|lim =<-∞>-εa X P n n ，则称}{n X 依概率收敛于a 。

2．设}),({0≥t t X 是泊松过程，且对于任意012≥>t t ，，则1592}6)5(,4)3(,2)1({-??====eX X X P ,618}4)3(|6)5({-===eX X P1532623292!23!2)23(!23}2)3()5({}2)1()3({}2)0()1({}2)3()5(,2)1()3(,2)0()1({}6)5(,4)3(,2)1({----??=?==-=-=-==-=-=-====eeeeX X P X X P X X P X X X X X X P X X X P66218!26}2)3()5({}4)3(|6)5({--===-===eeX X P X X P3．已知马尔可夫链的状态空间为},,{321=I ，初始分布为),,(4 12141，=43410313131043411)(P ，则167)2(12=P ，161}2,2,1{210====X X X P=4831481348436133616367164167165)1()2(2P P 167)2(12=P161314341}2|2{}1|2{}1{}2,1|2{}1|2{}1{}2,2,1{12010102010210=??=================X X P X X P X P X X X P X X P X P X X X P4．强度λ的泊松过程的协方差函数),min(),(t s t s C λ= 5．已知平稳过程)(t X 的自相关函数为πττcos )(=X R ，)]()([)(π?δπ?δπω-++=X S6. 对于平稳过程)(t X ，若)()()(ττX R t X t X >=+<，以概率1成立，则称)(t X 的自相关函数具有各态历经性。

随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学理论，在通信、金融、物理等众多领域都有广泛的应用。

接下来，我们通过一些例题来深入理解随机过程的相关知识点。

一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量对应于一个特定的时间点。

例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，股票价格就是一个随机变量。

知识点 1：随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。

离散时间随机过程的时间参数是离散的，比如每天的股票收盘价；连续时间随机过程的时间参数是连续的，比如股票价格在任意时刻的取值。

知识点 2：随机过程的概率分布描述随机过程在不同时刻的概率分布是研究随机过程的重要内容。

对于离散随机过程，常用概率质量函数；对于连续随机过程，常用概率密度函数。

例题 1假设一个离散时间随机过程{Xn}，n ＝ 0, 1, 2, ，其中 Xn 取值为 0 或 1，且 P(Xn ＝ 0) ＝ 06，P(Xn ＝ 1) ＝ 04，求 X0 和 X1 的联合概率分布。

解：X0 和 X1 的可能取值组合有(0, 0)、（0, 1)、（1, 0)、（1, 1)。

P(X0 ＝ 0, X1 ＝ 0) ＝ P(X0 ＝ 0) × P(X1 ＝ 0) ＝ 06 × 06 ＝ 036P(X0 ＝ 0, X1 ＝ 1) ＝ P(X0 ＝ 0) × P(X1 ＝ 1) ＝ 06 × 04 ＝ 024P(X0 ＝ 1, X1 ＝ 0) ＝ P(X0 ＝ 1) × P(X1 ＝ 0) ＝ 04 × 06 ＝ 024P(X0 ＝ 1, X1 ＝ 1) ＝ P(X0 ＝ 1) × P(X1 ＝ 1) ＝ 04 × 04 ＝ 016二、随机过程的数字特征数字特征可以帮助我们更简洁地描述随机过程的某些重要性质。

一、选择题1.在随机过程中，若某一过程的所有可能状态及其概率在时间上保持不变，则称该过程为：A.平稳过程B.非平稳过程C.马尔可夫过程D.遍历过程2.下列哪个不是描述随机变量分布特性的重要参数？A.期望值（均值）B.方差C.协方差D.样本容量3.马尔可夫链中，若当前状态仅依赖于前一个状态，则称该链具有：A.一阶记忆性B.无记忆性C.高阶记忆性D.完全记忆性4.在随机游走模型中，若每一步的位移是独立同分布的随机变量，且均值为0，则该模型属于：A.布朗运动B.泊松过程C.几何布朗运动D.平稳独立增量过程5.泊松分布常用于描述：A.单位时间内某事件发生次数的概率分布B.连续型随机变量的概率分布C.样本均值的分布D.两个随机变量之间的线性关系6.若一个随机过程的任意两个时间点上的随机变量之间都存在线性关系，则称该过程具有：A.平稳性B.相关性C.正态性D.独立性7.在连续时间马尔可夫链中，状态转移率矩阵描述了：A.各状态间的直接转移概率B.各状态间的间接转移概率C.单位时间内从某状态转移到其他状态的概率D.所有状态的总转移概率8.布朗运动的一个关键性质是：A.路径可预测性B.路径连续但几乎处处不可导C.路径分段平滑D.路径与时间呈线性关系9.对于随机过程X(t)，若对任意t，X(t)的概率分布函数与时间t无关，则X(t)是：A.平稳过程B.严格平稳过程C.弱平稳过程D.遍历过程10.下列哪个随机过程模型常用于金融市场中的股票价格模拟？A.几何布朗运动B.泊松过程C.平稳独立增量过程D.线性回归过程。

应用随机过程期末复习资料全第一章随机过程的基本概念一、随机过程的定义例1：医院登记新生儿性别，0表示男，1表示女，X n 表示第n 次登记的数字，得到一个序列X 1 ， X 2 ，···，记为{X n ，n=1,2, ···}，则X n 是随机变量，而{X n ，n=1,2, ···}是随机过程。

例2：在地震预报中，若每半年统计一次发生在某区域的地震的最大震级。

令X n 表示第n 次统计所得的值，则X n 是随机变量。

为了预测该区域未来地震的强度，我们就要研究随机过程{X n ，n=1,2, ···}的统计规律性。

例3：一个醉汉在路上行走，以概率p 前进一步，以概率1-p 后退一步（假设步长相同）。

以X(t)记他t 时刻在路上的位置，则{X(t), t ≥0}就是（直线上的）随机游动。

例4：乘客到火车站买票，当所有售票窗口都在忙碌时，来到的乘客就要排队等候。

乘客的到来和每个乘客所需的服务时间都是随机的，所以如果用X(t)表示t 时刻的队长，用Y(t)表示t 时刻到来的顾客所需等待的时间，则{X(t), t ∈T}和{Y(t), t ∈T}都是随机过程。

定义：设给定参数集合T ，若对每个t ∈T, X(t)是概率空间),,(P ?Ω上的随机变量，则称{X(t), t ∈T}为随机过程，其中T 为指标集或参数集。

E X t →Ω:)(ω，E 称为状态空间，即X(t)的所有可能状态构成的集合。

例1：E 为{0,1} 例2：E 为[0, 10]例3：E 为},2,2,1,1,0{Λ-- 例4：E 都为),0[∞+注：（1）根据状态空间E 的不同，过程可分为连续状态和离散状态，例1，例3为离散状态，其他为连续状态。

（2）参数集T 通常代表时间，当T 取R, R +, [a,b]时，称{X(t), t ∈T}为连续参数的随机过程；当T 取Z, Z +时，称{X(t), t ∈T}为离散参数的随机过程。

3、（ 10分）某商店顾客的到来服从强度为4人每小时的 Poisson 过程，已知商店9: 00开门，试求： （1） 在开门半小时中，无顾客到来的概率；（2） 若已知开门半小时中无顾客到来，那么在未来半小 时中，仍无顾客到来的概率。

3、解：设顾客到来过程为｛N （t ）, t>=0｝，依题意N （t ）是 参数为，的Poisson 过程。

（1） 在开门半小时中，无顾客到来的概率为：P N I 1=0 =e 2 = e 2 I 12丿丿（2） 在开门半小时中无顾客到来可表示为 N 1 =0， I12 丿 J在未来半小时仍无顾客到来可表示为 N 1 N 1 =0 ，I ⑵J从而所求概率为：=P N ⑴一N .— ]=0 =e ，2丿=e ‘l I 2丿丿4、（ 15分）设某厂的商品的销售状态（按一个月计）可 分为三个状态：滞销（用1表示）、正常（用2表示）、 畅销（用3表示）。

若经过对历史资料的整理分析，其 销售状态的变化（从这月到下月）与初始时刻无关，且 其状态转移概率为P j （ P ij 表示从销售状态i 经过一个月 后转为销售状态j 的概率），一步转移矩阵为：P N (1) - N =PIN ⑴-NN 0=01 12 2 1 13 9 1 2 〕6 3试对经过长时间后的销售状况进行分析 4、解答：由一步转移概率矩阵可知状态互通，且 p ii >0 , 从而所有状态都是遍历状态，于是极限分布就是平稳分 布。

设平稳分布为二二｛^,二2，二3｝，求解方程组:二二二P,二［+ 二 2+ 二3=1即:11_兀+ 兀2 + —兀3 2 3 6 1 1 2兀+ J[ 2十 兀3 ='2 9 35 1兀2 +一兀3= 9 6£ 十712 十71^得:8961 = --- H2 = --- 兀3 — -23'23'23由计算结果可以看出：经过相当长时间后，正常销售状 态的可能性最大，而畅销状态的可能性最小。

应用随机过程学习总结一、预备知识：概率论随机过程属于概率论的动态部分，即随机变量随时间不断发展变化的过程，它以概率论作为主要的基础知识。

1、概率空间方面，主要掌握sigma 代数和可测空间，在随机过程中由总体样本空间所构成的集合族。

符号解释： sup 表示上确界， inf 表示下确界。

本帖隐藏的内容2、数字特征、矩母函数与特征函数：随机变量完全由其概率分布来描述。

其中由于概率分布较难确定，因此通常计算随机变量的数字特征来估算分布总体，而矩母函数和特征函数便用于随机变量的 N 阶矩计算，同时唯一的决定概率分布。

3、独立性和条件期望：独立随机变量和的分布通常由卷积来表示，对于同为分布函数的两个函数，卷积可以交换顺序，同时满足结合律和分配率。

条件期望中，最重要的是理解并记忆E(X) = E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。

二、随机过程基本概念和类型随机过程是概率空间上的一族随机变量。

因为研究随机过程主要是研究其统计规律性，由 Kolmogorov 定理可知，随机过程的有限维分布族是随机过程概率特征的完整描述。

同样，随机过程的有限维分布也通过某些数值特征来描述。

1、平稳过程，通常研究宽平稳过程：如果X(t1) 和 X(t2) 的自协方差函数r(t1,t2)=r(0,t-s)均成立，即随机过程X(t) 的协方差函数 r(t,s)只与时间差t-s有关，r(t) = r(-t)记为宽平稳随机过程。

因为一条随机序列仅仅是随机过程的一次观察，那么遍历性问题便是希望将随即过程的均值和自协方差从这一条样本路径中估计出来，因此宽平稳序列只需满足其均值遍历性原理和协方差遍历性原理即可。

2、独立增量过程：若 X[Tn] – X[T(n-1)] 对任意 n 均相互独立，则称 X(t) 是独立增量过程。

若独立增量过程的特征函数具有可乘性，则其必为平稳增量过程。

兼有独立增量和平稳增量的过程称为平稳独立增量过程，其均值函数一定是时间t的线性函数。