1、随机信号分析随机信号分析教师：那景芳教师：那景芳引引 言言 随机信号分析随机信号分析是一门研究随是一门研究随机变化过程的特点与规律性的学科。机变化过程的特点与规律性的学科。 本课程主要介绍随机信号分析本课程主要介绍随机信号分析和处理的基本概念、基本理论和基和处理的基本概念、基本理论和基本方法。本方法。 应用领域：雷达、通信、自应用领域：雷达、通信、自动控制、随机振动、地震信号处动控制、随机振动、地震信号处理、图像处理、气象预报、生物理、图像处理、气象预报、生物电子等电子等 本课程基础：本课程基础：概率论概率论、信信号与系统号与系统 后续课程：后续课程：通信系统原理通信系统原理及及从事统计信号处
2、理研究从事统计信号处理研究第一章第一章 概率与随机变量概率与随机变量 1.1 随机事件及其概率随机事件及其概率1.1.1 随机现象随机现象现象：现象：第一类：确定的、可以预测的第一类：确定的、可以预测的第二类：随机的、不可预测的第二类：随机的、不可预测的 第一类现象称之为第一类现象称之为必然现象必然现象或或确定确定性现象性现象：这类现象在一定的条件下：这类现象在一定的条件下进行多次重复试验，必然产生同一进行多次重复试验，必然产生同一结果。结果。 第二类现象称之为第二类现象称之为随机现象随机现象：是指：是指在相同条件下进行多次重复试验，在相同条件下进行多次重复试验，有多种可能的结果，但在试验前不
3、有多种可能的结果，但在试验前不能准确预言它的结果。能准确预言它的结果。 在相同条件下，对同一随机现在相同条件下，对同一随机现象进行大量的重复试验，就会呈现象进行大量的重复试验，就会呈现出确定的规律性统计规律性。出确定的规律性统计规律性。概率论就是研究和揭示随机现象统概率论就是研究和揭示随机现象统计规律性的数学学科。计规律性的数学学科。1.1.2 随机试验随机试验 为了掌握随机现象的统计规律，为了掌握随机现象的统计规律，就必须对随机现象进行大量观测或就必须对随机现象进行大量观测或试验。试验。 例例1：抛硬币试验：抛硬币试验E1：抛一枚硬币，：抛一枚硬币，观察其正面观察其正面H，反面，反面T出现的
4、情况。出现的情况。例例2：掷骰子试验：掷骰子试验E2：掷一颗骰子，：掷一颗骰子，观察出现的点数。观察出现的点数。例例3：产品抽样测试试验：产品抽样测试试验E3：在一批：在一批灯泡中任意抽取一只，测试它的寿灯泡中任意抽取一只，测试它的寿命。命。 这些试验均具有以下三个特点：这些试验均具有以下三个特点：（1）试验可以在相同条件下重复进行）试验可以在相同条件下重复进行（2）试验有多种可能结果，并且事先）试验有多种可能结果，并且事先明确知道该试验的所有可能的结果明确知道该试验的所有可能的结果（3）每次试验出现哪个结果，是不能）每次试验出现哪个结果，是不能准确预言的准确预言的 将具有以上三个特点的试验称
5、为将具有以上三个特点的试验称为随机试验随机试验，简称，简称试验试验，常用，常用E来表示。来表示。1.1.3 随机事件随机事件 在随机试验的结果中，可能发生在随机试验的结果中，可能发生也可能不发生，但在大量重复试验中，也可能不发生，但在大量重复试验中，却具有某种规律性的事件，叫做却具有某种规律性的事件，叫做随机随机事件事件，简称为，简称为事件事件。 随机试验的每一种可能出现的结随机试验的每一种可能出现的结果都是一个随机事件，它们是该试验果都是一个随机事件，它们是该试验的最简单的随机事件。通常称这种简的最简单的随机事件。通常称这种简单的、不可再分割的随机事件为单的、不可再分割的随机事件为基本基本事
6、件事件。 在试验在试验E中必然会发生的事件叫中必然会发生的事件叫做做必然事件必然事件。 不可能发生的事件就叫做不可能发生的事件就叫做不可不可能事件能事件。 必然事件和不可能事件没有不必然事件和不可能事件没有不确定性，它们是一种特殊的随机事确定性，它们是一种特殊的随机事件。件。1.1.4 样本空间样本空间 随机试验随机试验E的所有基本事件所组成的所有基本事件所组成的集合叫的集合叫E的的样本空间样本空间，记为，记为S。 S中的元素就是试验中的元素就是试验E的基本事件，的基本事件，这里基本事件也称为这里基本事件也称为样本点样本点。 由于随机事件是基本事件，或由基由于随机事件是基本事件，或由基本事件所
7、组成的，故引入样本空间本事件所组成的，故引入样本空间S后，后，试验试验E的事件是样本空间的事件是样本空间S的子集。的子集。1.1.5 事件之间的关系与运算事件之间的关系与运算 在一个随机试验中，可以观测在一个随机试验中，可以观测到很多事件，它们各有特点，而且到很多事件，它们各有特点，而且彼此之间又有一定的联系。彼此之间又有一定的联系。1）子事件）子事件 若事件若事件A发生必然导致事件发生必然导致事件B发发生，则称事件生，则称事件A是事件是事件B的子事件，的子事件，或称事件或称事件A含于事件含于事件B中（或中（或B包含包含A），记为），记为ABBA2）两事件相等）两事件相等 若事件若事件A含于事
8、件含于事件B，事件，事件B也也含于事件含于事件A，即，即 则称事件则称事件A与事件与事件B相等，记为相等，记为ABBABA 3）和事件）和事件 事件事件A与事件与事件B至少有一个发生，至少有一个发生，这一事件称为事件这一事件称为事件A与与B的和（或的和（或A与与B的并），记为的并），记为 BABAknknAAAA121 类似地，事件类似地，事件A1,A2, An中至少有中至少有一个发生，这一事件称为事件一个发生，这一事件称为事件A1,A2, An的和，记为的和，记为4）积事件）积事件 事件事件A与事件与事件B同时发生，这一事同时发生，这一事件称为事件件称为事件A与与B的积（或的积（或A与与B之
9、交），之交），记为记为 BAABknknAAAA121类似地，可以定义类似地，可以定义Ak（k=1,2,n）的）的交，交，5）差事件）差事件 事件事件A发生而事件发生而事件B不发生，这不发生，这一事件称为一事件称为A与与B之差，记为之差，记为BA 6）互不相容事件）互不相容事件 若事件若事件A与事件与事件B不能同时发生，不能同时发生，亦即亦即 ，则称，则称A与与B不相不相 容。显然，基本事件是互不相容的。容。显然，基本事件是互不相容的。AB7）逆事件）逆事件 若事件若事件A与与B中必然有一个发生，中必然有一个发生，且仅有一个发生，即且仅有一个发生，即A、B满足条件：满足条件： 则称则称A与与B
10、互逆，又称互逆，又称A是是B的对立事件的对立事件（或（或B是是A的对立事件），记为的对立事件），记为ABSBAABBA1.1.6 随机事件的频率和概率随机事件的频率和概率1）随机事件的频率）随机事件的频率 一般地，在同样条件下，大量进一般地，在同样条件下，大量进行重复试验，来观察事件行重复试验，来观察事件A发生或不发生或不发生。若在发生。若在n次独立试验中，随机事件次独立试验中，随机事件A出现出现nA次，比值次，比值 称为事件称为事件A在这在这n次试验中出现的频率。次试验中出现的频率。 nnAfAn)( 数数P(A)是客观存在的，即对于每一是客观存在的，即对于每一随机事件随机事件A总有这样一个
11、数总有这样一个数P(A)与之相对与之相对应。因此，用稳定值应。因此，用稳定值P(A)来刻划事件来刻划事件A发发生的可能性的大小是比较恰当的。生的可能性的大小是比较恰当的。2) 概率的定义概率的定义 设设E是随机试验，是随机试验，S是它的样本是它的样本空间，对于空间，对于E的每一事件赋予一实数，的每一事件赋予一实数，记为记为P(A)，称之为事件，称之为事件A的概率，显的概率，显然，然，)()(nnnAPA 由于概率是频率的稳定值，因由于概率是频率的稳定值，因而对任何随机事件而对任何随机事件A，有，有 1)(0AP0)(1)(PSP 对于必然事件对于必然事件S和不可能事件，和不可能事件，则有则有
12、前面提到的前面提到的“抛硬币抛硬币”、“掷骰子掷骰子”试验，它们具有两个共同的特点：试验，它们具有两个共同的特点：（1）试验的样本空间中元素只有有限个）试验的样本空间中元素只有有限个（2）试验中每个基本事件出现的可能性）试验中每个基本事件出现的可能性相同相同 一般地，设试验一般地，设试验E的样本空间为的样本空间为S=e1, e2, en，如果每一个基本，如果每一个基本事件的概率相等，即事件的概率相等，即 则称这类试验为则称这类试验为等可能概型等可能概型，又叫，又叫古典概型古典概型。)()()(21nePePeP对于等可能概型，由于对于等可能概型，由于S=e1+ e2+ en则有则有故有故有),
13、2, 1(1)()(nienPSPinePi1)( 因此，在等可能概型中，若事件因此，在等可能概型中，若事件A包含包含k个基本事件，则有个基本事件，则有nkAP)(3）概率的性质）概率的性质 性质性质1（有限可加性）（有限可加性） 设有有限个设有有限个两两互不相容事件两两互不相容事件A1,A2, An，则，则niiniiAPAP11)()(性质性质2 设设A为任一随机事件，则为任一随机事件，则)(1)(APAP性质性质3 设设A、B为任意两事件，则为任意两事件，则)()()()()()()(ABPAPBAPABPBPAPBAP1.2 条件概率与统计独立条件概率与统计独立1.2.1 条件概率条件
14、概率 事件在一定条件下发生的情况，事件在一定条件下发生的情况，即在一个事件发生的条件下另一事件即在一个事件发生的条件下另一事件发生的概率，这就是条件概率问题。发生的概率，这就是条件概率问题。 定义定义 设设A、B为随机试验的两个事为随机试验的两个事件，且件，且P(A)0，则称，则称 为事件为事件A发生的条件下事件发生的条件下事件B发生的发生的条件概率。条件概率。 )()()|(APABPABP类似地，有类似地，有P(B)0)()()|(BPABPBAP1.2.2 乘法定理乘法定理乘法定理：乘法定理：设设P(B)0，则有，则有若若P(A)0，则有，则有)()|()(BPBAPABP)()|()(
15、APABPABP 乘法定理可以推广到乘法定理可以推广到n个事件之个事件之积的情况。设积的情况。设A1,A2, An为为n个事件个事件(n=2)，且，且P(An| A1,A2, An-1)0则则有有)|()|()|()()(12121312121nnnAAAAPAAAPAAPAPAAAP1.2.3 全概率公式全概率公式1. 完备事件组完备事件组若事件若事件A1,A2, An两两互不相容，且两两互不相容，且则称则称A1,A2, An构成一个构成一个完备事件组完备事件组。SAnii1 虽然，事件虽然，事件A1,A2, An可以不可以不是基本事件，而随机试验是基本事件，而随机试验E的所有基的所有基本事
16、件构成一个完备事件组。本事件构成一个完备事件组。2. 全概率公式全概率公式 若某个事件可能在多种情况下发若某个事件可能在多种情况下发生，而且它在各种情况下发生的可能生，而且它在各种情况下发生的可能性也知道，试问该事件发生的性也知道，试问该事件发生的“总的总的可能性可能性”或或“全部可能性全部可能性”多大？多大？设设B为为E的事件，的事件，A1,A2, An构成构成E的完的完备事件组，备事件组，B发生，只能与事件发生，只能与事件A1,A2, An中的一个同时发生，且仅能与它们之中的一个同时发生，且仅能与它们之一同时发生，现在要确定一同时发生，现在要确定B发生的概率。发生的概率。 全概率公式全概率
17、公式 设设n个事件个事件A1,A2, An构成随构成随机试验机试验E的一个完备事件组，且的一个完备事件组，且P(Ai)0，B为随机试验为随机试验E的一个事件，的一个事件，则则niiiABPAPBP1)|()()( 例：对飞机进行三次独立的射击，例：对飞机进行三次独立的射击，第一次射击的命中率是第一次射击的命中率是0.4，第二次，第二次是是0.5，第三次是，第三次是0.7。飞机中一弹坠。飞机中一弹坠落的概率为落的概率为0.2，中二弹而坠落的概，中二弹而坠落的概率是率是0.6，若中三弹，则必然被击落。，若中三弹，则必然被击落。求射击三弹而击落飞机的概率。求射击三弹而击落飞机的概率。解：解：假设事件
18、假设事件B1有一弹击中飞机有一弹击中飞机 A1第一次击中飞机第一次击中飞机B2有二弹击中飞机有二弹击中飞机 A2第二次击中飞机第二次击中飞机B3有三弹击中飞机有三弹击中飞机 A3第三次击中飞机第三次击中飞机A飞机被击落飞机被击落 可看出，可看出， B1、 B2、 B3为互不相容事件；为互不相容事件；而而A1、 A2、 A3为相互独立，但相容事件。为相互独立，但相容事件。根据题意已知根据题意已知现在所求的是现在所求的是P(A)：即要求即要求P(B1)、 P(B2)、 P(B3)。1)|(,6.0)|(,2.0)|(7.0)(,5.0)(,4.0)(321321BAPBAPBAPAPAPAP)|(
19、)()|()()|()()(332211BAPBPBAPBPBAPBPAP 可以看出可以看出 通过分析知，通过分析知， A1、 A2、 A3为相互为相互独立，但相容事件，而独立，但相容事件，而 则是不相容的，有则是不相容的，有321332132132123213213211AAABAAAAAAAAABAAAAAAAAAB321321321,AAAAAAAAA14. 0)(41. 0)(36. 07 . 0*5 . 0*6 . 03 . 0*5 . 0*6 . 03 . 0*5 . 0*4 . 0)()()()()()()()()()()()()()(3232132132132132132132
20、13213211BPBPAPAPAPAPAPAPAPAPAPAAAPAAAPAAAPAAAAAAAAAPBP即飞机被击落的概率为即飞机被击落的概率为0.458458. 01*14. 06 . 0*41. 02 . 0*36. 0)|()()|()()|()()(332211BAPBPBAPBPBAPBPAP1.2.4 贝叶斯公式贝叶斯公式 现在有这样一个问题：在全概现在有这样一个问题：在全概率公式的命题中，若事件率公式的命题中，若事件B已经发生，已经发生，求事件求事件Ai的概率，即求的概率，即求P(A1|B)，P(A2|B)， P(An|B)的大小。的大小。经推导得贝叶斯公式为经推导得贝叶斯公
21、式为njjjiiiABPAPABPAPBAP1)|()()|()()|(定义定义 对于事件对于事件A与与B，若，若则称则称事件事件A与与B相互独立相互独立，简称，简称独立独立。)()()(BPAPABP1.2.5 事件的独立性事件的独立性 关于两个事件的独立性，有如关于两个事件的独立性，有如下定理：下定理： 定理定理1：当：当P(A)0，P(B)0时，事时，事件件A与事件与事件B相互独立的充分必要条相互独立的充分必要条件是件是 或或)()|()()|(APBAPBPABP 定理定理2：若事件：若事件A与与B相互独立，则相互独立，则下列三对事件：下列三对事件： 也相互独立。也相互独立。BABABA,;,;, 定理定理3：不可能事件及必然事件与任何：不可能事件及必然事件与任何事件事件A独立。独立。
