1、多媒体通信技术多媒体通信技术 第一章 多媒体通信技术概述第二章 音频技术基础第三章 图像技术基础第四章 视频信息压缩与处理 第五章 多媒体通信系统中的关键技术 第六章 多媒体通信网络技术 第七章 多媒体数据的分布式处理 第八章 多媒体通信应用系统 本书章节本书章节第一章 多媒体通信技术概述o 多媒体技术的概念o 多媒体通信系统的概念及主要特征o 多媒体通信中的关键技术o 多媒体通信的应用o 多媒体通信技术的发展趋势1.1 多媒体通信的基本概念o1媒体媒体 “媒体媒体”是指信息传递和存储的最基本的技术和手段，即信息的是指信息传递和存储的最基本的技术和手段，即信息的载体。载体。媒体可划分为5大类：
2、(1)感觉媒体感觉媒体（perception medium）感觉媒体是指人类通过其感觉器官，如听觉、视觉、嗅觉、味觉和触觉器官等直接产生感觉（感知信息内容）的一类媒体，包括：声音、文字、图像、气味、冷热等。(2)表示媒体表示媒体（representation medium）表示媒体是指用于数据交换的编码表示，包括：图像编码、文本编码、声音编码等。其目的是为了能有效地加工、处理、存储和传输感觉媒体。(3)显示媒体显示媒体（presentation medium）显示媒体是指进行信息输入和输出的媒体。输入媒体包括：链盘、鼠标、摄像头、话筒、扫描仪、触摸屏等，输出媒体包括：显示屏、打印机、扬声器等。
3、(4)存储媒体存储媒体（storage medium）存储媒体是指进行信息存储的媒体。包括：硬盘、光盘、软盘、磁带、ROM、RAM等。(5)传输媒体传输媒体（transmission medium）传输媒体是指承载信息，将信息进行传输的媒体。包括：双绞线、同轴电缆、光缆、无线电链路等。在多媒体技术中的“多媒体”通常是指感觉媒体的组合，即声音、文字、图像、数据等各种媒体的组合。2多媒体多媒体（Multimedia）“多媒体技术多媒体技术”的定义：的定义：所谓多媒体技术就是计算机交互式所谓多媒体技术就是计算机交互式综合处理多媒体媒体信息综合处理多媒体媒体信息文本、图形、图像和声音，使多种文本、图形
4、、图像和声音，使多种信息建立逻辑连接，集成为一个系统并具有交互性。简而言之，信息建立逻辑连接，集成为一个系统并具有交互性。简而言之，多媒体技术就是计算机综合处理声、文、图多媒体技术就是计算机综合处理声、文、图 信息的技术，具有集信息的技术，具有集成性、实时性和交互性的特点。成性、实时性和交互性的特点。多媒体技术最简单的表现形式就是多媒体计算机。多媒体计算机相对于普通计算机的一个根本不同点在于在多媒体计算机中增加了对活动图像（包括伴音在内）的处理、存储和显示的能力，其硬件配以声卡、视频采集卡等。其主要特征体现在它能够有效地对电视图像数据进行实时的压缩和解压缩，并能够使在时间上有相关性的多种媒体保
5、持同步。3多媒体通信多媒体通信 多媒体通信技术是多媒体技术、计算机技术、通信技术和网络技术等相互结合和发展的产物。多媒体通信系统同时具有以下三个特征：n 集成性集成性n 交互性交互性n 同步性同步性o 集成性集成性：主要是对各类信息进行存储、传输、处理、显现的能力。o 1）内容数据信息：文本、图形、静止图像与二值图像、声音、运动图像。o 2）多媒体和超媒体信息：是结构化信息，由结构框架+内容数据组成。o 3）脚本信息o 4）特定的应用信息o 交互性交互性：指的是在通信中使用者与系统之间的相互沟通的特性，它使用户可以更有效地控制和使用信息，增加对信息的注释和理解。o o 交互性有两个方面的内容：
6、o 人机接口：也就是人在使用系统的终端时，系统向用户提供的操作界面。o 通信协议：用户终端与系统之间的应用层通信协议。o 同步性：同步性：多媒体通信终端上显现的图象、声音和文字等信息是以同步方式工作。o 检索“刘谦 春晚”，显示多媒体信息，各信息同步显示。1多媒体数据压缩技术多媒体数据压缩技术 数据压缩的必要性和可能性。1.2 多媒体通信中的关键技术多媒体信息的特点1.1.多媒体信息的类型多媒体信息的类型 文本、图形、图像、动画、声音、视频文本、图形、图像、动画、声音、视频2.2.常用多媒体处理软件常用多媒体处理软件 CorelDraw Illustrator o 图形类o 图像类photos
7、hop ACDSee 多媒体信息的特点 o 动画类二维动画Flash ANIMO 三维动画3ds max mayaCooledit pro VEGAS o 声音类o 影视编辑类o 交互演示类Authorware director flashPremiere after effect o 编程类Vb VC Delphi Java3.3.多媒体信息的特点多媒体信息的特点n 多媒体数据类型复杂（多样性）多媒体数据类型复杂（多样性）多媒体数据种类繁多也决定了多媒体数据表示的复杂性n 多媒体数据的实时性多媒体数据的实时性 由于在多媒体技术中新引入的复杂媒体类型大部份都含有与时间有关的信息，因此在许多场合
8、都要求实时处理3.3.多媒体信息的特点多媒体信息的特点n 多媒体数据的同步性多媒体数据的同步性 另一由于引入与时间有关的媒体而形成的重要特点n 数据量大数据量大 多媒体系统需要大量的存储空间来存放复杂类型的数据n 多媒体数据的交互性多媒体数据的交互性n 码率可变、突发性强码率可变、突发性强 人们讲话时的停顿、所传场景图像中物体的运动等都会形成码流速率的波动，而且这种波动往往呈现出极强的突发性。信息压缩的必要性n 由于多媒体数据量非常大，造成计算机的存储和网络由于多媒体数据量非常大，造成计算机的存储和网络传输负担传输负担若帧速率为25帧秒，则1s的数据量大约为25MB，一个640MB的光盘只能存
9、放大约25s的动态图像一幅640480分辨率的24位真彩色图像的数据量约为900KB；一个100MB的硬盘只能存储约100幅静止图像画面n 解决办法之一就是进行解决办法之一就是进行数据压缩数据压缩，压缩后再进行存储，压缩后再进行存储和传输，到需要时再解压、还原。和传输，到需要时再解压、还原。表1 各种信号的特性和未压缩速率信息压缩的必要性 从上图可以看出：从上图可以看出：未进行任何形式编码和压缩的窄带未进行任何形式编码和压缩的窄带语音信号需要语音信号需要128 kb/s的速率，的速率，即两倍于普通电话的速率即两倍于普通电话的速率。信号未被压缩的宽带话音需要信号未被压缩的宽带话音需要256 kb
10、/s的速率，的速率，未压未压缩的双声道立体声缩的双声道立体声CD音频需要音频需要1.41 Mb/s的速率。的速率。在保持在保持原始信号质量的前提下，原始信号质量的前提下，窄带语音可以压缩到窄带语音可以压缩到4 kb/s（30 1的压缩比），的压缩比），宽带话音可以压缩到约宽带话音可以压缩到约16 kb/s（15 1的压缩比），的压缩比），CD音频可以压缩到音频可以压缩到64 kb/s（22 1的压缩比）。的压缩比）。显然，显然，多媒体信号在进行有效的存储和传输之前，多媒体信号在进行有效的存储和传输之前，必必须进行处理，须进行处理，而最关键的处理方法是进行数据压缩。而最关键的处理方法是进行数据压
11、缩。信息压缩的可行性 研究表明，一个文件所包含的数据量并不等于研究表明，一个文件所包含的数据量并不等于它所包含的信息量，数据中通常包含很大的冗余，它所包含的信息量，数据中通常包含很大的冗余，其关系如：其关系如：D=I+r 其中其中D为数据量，为数据量，I I为信息量，为信息量，r r为冗余量。为冗余量。压缩：压缩：在多媒体信息中包含大量冗余的信息，把这在多媒体信息中包含大量冗余的信息，把这些冗余的信息去掉的过程。些冗余的信息去掉的过程。信息压缩的可行性音频、图像和视频数据中存在的冗余主要有以下几种：（1）空间冗余 图象本身的数据冗余 在任何一幅图像中，均有许多灰度或颜色都相同的邻近像素组成的局
12、部区域，它们形成了一个性质相同的集合块，即它们之间具有空间（或空域）上的强相关性，在图像中就表现为空间冗余。空间冗余的压缩方法：空间冗余的压缩方法：把这种局部区域集合块当作一个整体，用极少的数据量来表示，从而节省存储空间。这种压缩方法叫空间压缩或帧内压缩，它的基本点就在于减少邻近像素之间的空间（或空域）相关性。信息压缩的可行性该图为一张俯视图，该图为一张俯视图，图中央的黑色是一块表面均匀的积木块，图中央的黑色是一块表面均匀的积木块，在图中，在图中，黑色区域所有点的表示数据差不多都是相同的，黑色区域所有点的表示数据差不多都是相同的，因而黑色区域的数据因而黑色区域的数据表达有很大的冗余。表达有很大
13、的冗余。信息压缩的可行性（2）时间冗余）时间冗余 序列图像和语音数据中包含的冗余。活动图像（视频）中的两幅相邻图像之间存在的相关性或一段时间内连续音频存在的相关性。PTPF 1F 2信息压缩的可行性（3）信息熵冗余）信息熵冗余 信息熵冗余也称为编码冗余，它是指一块数据所携带的信息量少于数据本身所产生的冗余。例如，利用等长码表示信息就比不等长码如Huffman编码表示信息量存在冗余。（4）结构冗余）结构冗余 指图象各部分结构上的类似性所产生的冗余，例如物体表面图象上的纹理结构。信息压缩的可行性（5）知识冗余）知识冗余 指某些图象的结构可由这些图象的先验知识和背景知识获得。例：汽车图象的结构可由汽
14、车的先验知识和背景知识得到。这种冗余称为知识冗余。例：人脸的图像有固定的结构，嘴的上方有鼻子，鼻子的上方有眼睛，鼻子位于正脸图像的中线上等等。这类规律的结构可由先验知识和背景知识得到，因此这类信息对一般人来说是冗余信息。信息压缩的可行性（6）视觉听觉冗余视觉听觉冗余 视觉听觉冗余是指人的视觉、听觉分辨率低于实际图象、音频的分辨率所产生的冗余。例如，人的视觉对灰度等级的分辨率是2个等级，而一般图象量化所采用灰度等级是2等级。例如，人的视觉对于图像边缘的急剧变化不敏感，对图像的亮度信息敏感，对颜色的分辨率较弱等。因此，如果图像经压缩或量化发生的变化（或称引入了噪声）不能被视觉所感觉，则认为图像质量
15、是完好的或是够好的，即图像压缩并恢复后仍有满意的主观图像质量。（7）其他冗余其他冗余4.压缩的种类压缩的种类l无损压缩无损压缩 也称为冗余压缩或无失真压缩。冗余压缩法去掉或者减少了数据中的冗余，但这些冗余数据是用特定的方法重新插入到数据中。冗余压缩是可逆的，它能保证百分之百地恢复原始数据。在多媒体技术中，一般用于文本的压缩。但这种方法压缩比较低。常用的压缩编码方法有LZW编码、行程编码、霍夫曼（Huffman）编码等，压缩比一般在2：15：1之间。l有损压缩有损压缩 也称为有失真压缩或熵压缩法。压缩了熵，会减少信息量，而损失的信息量是不能恢复的，因此这种压缩方法是不可逆的。这种方法适合对图像、
16、声音、动态视频等数据进行压缩，对动态视频的压缩比可达到50：1200：1。当然，对多媒体数据进行有损压缩后，就涉及到压缩质量的问题，一般的要求是压缩后的内容不应该影响人们对信息的理解。数据压缩的主要指标 有较高的压缩比、压缩和解压缩时间短、解压缩后信有较高的压缩比、压缩和解压缩时间短、解压缩后信息恢复质量高是评价压缩好坏的主要方面。息恢复质量高是评价压缩好坏的主要方面。1.有较高的压缩比有较高的压缩比 即压缩前后的数据量之比，如果文件的大小为即压缩前后的数据量之比，如果文件的大小为1MB，经过，经过压缩处理后变成压缩处理后变成0.5MB，那么压缩比为，那么压缩比为2:1。高的压缩比是。高的压缩
17、比是数据压缩的根本目的，无论从哪个角度看，在同样压缩效数据压缩的根本目的，无论从哪个角度看，在同样压缩效果的前提下，数据压缩得越小越好。当然还要考虑多媒体果的前提下，数据压缩得越小越好。当然还要考虑多媒体数据压缩后的输入和输出表示方式。数据压缩后的输入和输出表示方式。数据压缩的主要指标2.解压缩后信息恢复质量高解压缩后信息恢复质量高 对于文本等文件，特别是是程序文件，是不允许在压缩和对于文本等文件，特别是是程序文件，是不允许在压缩和解压缩过程中丢失信息的。因此需要采用无损压缩，不存解压缩过程中丢失信息的。因此需要采用无损压缩，不存在压缩后恢复质量的问题。对于图像、声音和视频影像，在压缩后恢复质
18、量的问题。对于图像、声音和视频影像，数据经过压缩后允许信息的部分丢失。在这种情况下，信数据经过压缩后允许信息的部分丢失。在这种情况下，信息经解压缩后不可能完全恢复，压缩和解压缩质量就不能息经解压缩后不可能完全恢复，压缩和解压缩质量就不能不考虑。因此，是否具有好的恢复质量是数据压缩的另一不考虑。因此，是否具有好的恢复质量是数据压缩的另一个重要指标。个重要指标。表2 图像主观评价性能表 主观评价分 质量尺度 妨碍观看尺度 5 非常好 丝毫看不出图像质量变坏 4 好 能看出图像质量变化，但不妨碍观看 3 一般 清楚地看出图像质量变坏，对观看稍有妨碍 2 差 对观看有妨碍 1 非常差 非常严重地妨碍观
19、看数据压缩的主要指标3.压缩和解压缩时间短压缩和解压缩时间短 数据的压缩和解压缩是在一定数学模型的基础上，通过一数据的压缩和解压缩是在一定数学模型的基础上，通过一系列数学运算实现的。计算方法的好坏直接关系到压缩和系列数学运算实现的。计算方法的好坏直接关系到压缩和解压缩过程所需要的时间。解压缩过程所需要的时间。数据压缩的主要指标 有较高的压缩比、压缩和解压缩时间短、解压缩后信有较高的压缩比、压缩和解压缩时间短、解压缩后信息恢复质量高是评价压缩好坏的主要方面。息恢复质量高是评价压缩好坏的主要方面。1.有较高的压缩比有较高的压缩比 即压缩前后的数据量之比，如果文件的大小为即压缩前后的数据量之比，如果
20、文件的大小为1MB，经过，经过压缩处理后变成压缩处理后变成0.5MB，那么压缩比为，那么压缩比为2:1。高的压缩比是。高的压缩比是数据压缩的根本目的，无论从哪个角度看，在同样压缩效数据压缩的根本目的，无论从哪个角度看，在同样压缩效果的前提下，数据压缩得越小越好。当然还要考虑多媒体果的前提下，数据压缩得越小越好。当然还要考虑多媒体数据压缩后的输入和输出表示方式。数据压缩后的输入和输出表示方式。1.2 多媒体通信中的关键技术n 视频压缩视频压缩 从图像压缩编码的发展过程看，可以分为三个阶段，即第一代、第二代、第三代图像压缩编码方法。第一代图像压缩编码方法以仙农信息论为基础，考虑图像信源的统以仙农信
21、息论为基础，考虑图像信源的统计特性，采用预测编码、变换编码、矢量量化编码、子带编码、小波计特性，采用预测编码、变换编码、矢量量化编码、子带编码、小波变换编码、神经网络编码等方法。变换编码、神经网络编码等方法。第一代图像压缩编码方法于80年代初已趋于成熟，目前利用第一代技术对视频图像的压缩可以得到848Kb/s的最低码率。第二代图像压缩编码方法充分考虑了人眼的视觉特性，从人类的考虑了人眼的视觉特性，从人类的主观特性出发，采用基于方向滤波的图像编码方法和基于图像轮廓主观特性出发，采用基于方向滤波的图像编码方法和基于图像轮廓纹理的编码方法纹理的编码方法，利用第二代图像压缩编码方法可以获得极低码率的图
22、像数据，目前第二代技术尚未发展到成熟的阶段。第三代图像压缩编码方法考虑到了图像传递的景物特征，采用分考虑到了图像传递的景物特征，采用分形编码方法和基于模型的编码方法形编码方法和基于模型的编码方法，其中基于模型的压缩编码方法是目前最活跃的研究领域，代表着新一代的压缩编码方向。有关图像压缩编码的国际标准主要有：JPEG、H.261、H.263、MPEG-1、MPEG-2/H.262、MPEG-4等。MPEG-7和MPEG-21是MPEG系列标准中的新成员，MPEG-7的正式名称为“多媒体内容描述接口”，用于描述多媒体内容数据。MPEG-21即“多媒体框架”，这一概念是在1999年10月的MPEG会
23、议上提出的，它是一种用于协调处于不同地点、与不同类型的网络相联接的各种设备间进行多媒体信息交互的综合性标准。n 音频压缩音频压缩 基本上与图像压缩编码技术相同，不同之处在于图像信号是二维信号，而音频信号是一维信号。相比较而言，其数据压缩难度较低。涉及的声音压缩编码的国际标准主要有：G.711、G.721、G.722、G.728、G.729、G.723.1等。o 2多媒体数据的获取与显示技术多媒体数据的获取与显示技术 多媒体数据的获取与显示主要指人机交互的界面，它介于用户和计算机系统之间。用户通过人机界面向系统提供命令、数据等输入信息，系统则将输出信息通过人机界面呈现给用户。字符界面字符界面，输
24、入工具是键盘 图形化界面图形化界面，输入工具是鼠标、跟踪球、电子笔、触摸屏、摄像头和视音频采集卡等；输出手段可采用声音、图形图像以及活动视频作为信息的显示形式。文字识别技术文字识别技术 语音识别技术语音识别技术o 3多媒体数据库及其检索技术多媒体数据库及其检索技术传统的数据库管理系统管理多媒体数据的方法的局限性，集中表现在以下三个方面。第一，多媒体数据所包含的信息量非常大，用人工注释难以准确描述；第二，多媒体数据随时变化，因而难以统计及预测；第三，多媒体数据内部有各种复杂的时域、空域以及基于内容的约束关系，传统的数据库系统未曾涉及到这些方面。由此开发出新的多媒体数据库系统，同时基于内容的多媒体
25、信息检索研究方案也应运而生。多媒体数据的内容包括概念级内容、感知特性（例如图像的颜色、纹理，声音的音色、音质等）、逻辑关系（例如音视频对象的时空关系等）、信号特征（通过信号处理方法例如小波变换获得的媒体特征）、特定领域的特征（与应用相关，例如人的面部特征、指纹特征）等。o 4多媒体通信网络技术多媒体通信网络技术随着视频会议、视频点播、远程教育等多媒体网络应用的开展，能够满足多媒体应用需要的通信网络必须具有高带宽、可提供服务质量的保证、实现媒体同步等特点。目前的多媒体网络应用主要涉及到网络传输、服务质量、服务模式等方面的技术。因为传统的基于分组交换的IP网络只提供尽力而为型的服务，要在IP网上得
26、到QoS的保证需要额外的协议或标准，目前有综合服务模型（IntServ）/RSVP、区分服务模型（DiffServ）、多协议标签交换MPLS等，而IETF新公布的IPv6协议则在一定程度上满足了QoS的服务质量要求。对于电路交换网，则通过已有的ITU-T H.32X和T.120等相关的系列标准来获得有保证的服务质量。而ATM网从协议本身就考虑了对多媒体应用的支持，可以为多媒体应用预留资源。多媒体应用还需要组播服务，其发展是多媒体应用的趋势。目前，应用在传统IP分组网上的组播技术正在得到进一步的研究和推广，相关的协议有因特网组管理协议IGMP（Internet Group Management
27、Protocol），组播路由协议DVMRP、MOSPF、PIM和CBT等。ATM网的组播技术也是研究的一个重要内容，其信令控制已经可以采用组播技术，但是数据分发的组播技术还没有成熟。以软交换为核心的NGN网络为多媒体通信开辟了更广阔的天地。o 5多媒体信息存储技术多媒体信息存储技术 既要保证存储设备的存储容量足够大，还要保证存储设备的速度要足够快，带宽要足够宽。满足上述要求的存储设备有多种，包括硬盘、光盘、磁带、冗余磁盘阵列和存储区域网络等。o 6多媒体数据的分布式处理技术多媒体数据的分布式处理技术 用于分布式多媒体系统的业务多种多样，不同业务所用的多媒体终端也各不相同。目前常用的多媒体终端有
28、多媒体计算机终端以及针对某种特定应用的专用设备，如机顶盒、可视电话终端设备等。终端的软件平台则包括系统软件以及各种应用软件，其中操作系统是软件的核心。多媒体操作系统有Apple公司的QuickTime、微软公司的Windows XP等。微软公司于2004年推出的Windows XP Media Center Edition 2004操作系统是专为多媒体个人电脑设计的。流媒体技术也是一种分布式多媒体技术，它主要解决了在多媒体数据流传输过程中所占带宽宽，用户下载数据等待时间长的问题。1.3 多媒体通信的应用多媒体通信系统的应用非常广泛，可以提供VOD视频点播，远程教学、远程办公、远程医疗、多媒体电
29、子邮件、可视电话、桌面视频会议，数字图书馆、电子百科书等多种多样的业务。多媒体通信的体系结构 传输网络：传输网络：它是体系结构的最低层，它为多媒体通信的实现提供了最基本的物理环境。网络服务平台：网络服务平台：该层主要提供各类网络服务，是用户能直接使用这些服务内容，而无需知道底层传输网络是怎么提供这些服务的，即网络服务平台的创建使传输网络对用户来说是透明的。多媒体通信平台：多媒体通信平台：该层主要提供其通信支援（如多媒体信息处理），并支持各类多媒体的应用。一般应用：一般应用：指人们常见的一些多媒体应用。如多媒体文本检索。特殊应用：特殊应用：指业务性较强的某些多媒体应用。如电子邮件。多媒体通信的体
30、系结构 o 一般应用一般应用 特殊应用特殊应用多媒体通信平台多媒体通信平台网络服务平台网络服务平台传输网络传输网络LAN、MAN、WAN、ISDNo 作业作业o 1、什么是媒体？根据原、什么是媒体？根据原CCITT的定义，媒体的定义，媒体可划分为哪几大类？它们是如何描述的？可划分为哪几大类？它们是如何描述的？o 2、多媒体通信系统如何构成的？简述其主要、多媒体通信系统如何构成的？简述其主要特征。特征。o 3、试举出一两种多媒体通信系统的具体应用，、试举出一两种多媒体通信系统的具体应用，并从中分析多媒体通信技术对人类社会的影响。并从中分析多媒体通信技术对人类社会的影响。第二章 音频技术基础音频信
31、息涉及人耳所能听到的声音信息，包括语声和乐声。据统计，人类从外界获得的信息大约有16%是从耳朵得到的，由此可见音频信息在人类获得信息方面的重要性。2.1 声学基础知识o 2.1.1 音频信号特性音频信号特性频域特性频域特性是指的声音信号是由很多的正弦分量组成的。从频谱分析来看，大多数声音都是由线状谱和连续谱组成的。从幅度来看，连续谱相比于线状谱来说比较弱，使整个声音在人耳的听觉来看是表现出有明确音高的有调音的特性。但这些很弱的连续谱还是不能一概忽略的。正是有了这些连续频谱成分，使声音显得生动、活泼、真实。常用声波频率、声压、声强声波频率、声压、声强等参数来描述声音。声波频率声波频率是常用的描述
32、声音的参量。人耳对声波频率的感觉是有界限的。从人耳的听觉特性我们知道，人耳所能感受到的声音的频率范围在2020范围内。低于20和高于20的声音，人耳是听不到的。声压及声压级声压及声压级SPL（Sound Pressure Level）也是常用的声音描述参量。简单来说，声压就是声音的压力。声压级SPL是为了很好的描述人耳对声音的感觉所使用的物理量。研究人耳对声音强弱的感觉是用声压及声压级来说明的。它是用来说明当声音的强弱出现线性的变化时，人耳对这种声音强弱线性的变化感觉是否也是线性的。能引起人耳听到声音时的声压称为听阈，频率1kHz时的听阈为210-5；将引起人耳疼痛的声压称为痛阈，约为20。人
33、耳对声压强弱变化的感觉并不是呈线性的。大体上来说，人耳对声音强弱的感觉是与声压有效值的对数成比例的。为适应人耳的这一特性，就对声压有效值取对数，用此对数值来表示声音的强弱。这种表示声音强弱的对数值就叫做声压级。人耳的听阈和痛阈分别对应的声压级为0dB和120dB。o 2.1.2 人耳听觉特性人耳听觉特性响度、音调和音色称为人耳听觉特性的三要素。一般来说，客观物理量的声压或声强、频率、波形（频谱结构）和主观感觉的三要素响度、音调、音色相对应。1、人耳对声音强弱的感觉特性、人耳对声音强弱的感觉特性人耳对声音强弱的感觉不是与声压成正比，而是与声压级成正比关系。2、响度、响度级、响度、响度级响度是听觉
34、判断声音强弱的属性。响度主要与引起听觉的声压有关，也与声音的频率和声音的波形有关。声压（级）是从客观的角度来描述声波的强弱的，而响度是从主观的角度来描述人耳对声音强弱的感觉。一般来说，声压（级）大的声音其响度也会较大，它们之间是有一定的关系，但并不完全一致。也就是说声压（级）大的声音人耳的感觉不一定响。描述响度、声压以及声音频率之间关系的曲线称为等响度曲线，也叫响度的灵敏度曲线。图图2-1 等响曲线等响曲线3、人耳听觉的掩蔽效应、人耳听觉的掩蔽效应一个频率声音的听阈由于另一个声音的存在而上升的现象称为掩蔽。一个频率声音的听阈由于另一个声音的存在而上升的现象称为掩蔽。当我们听两个频率的声音的时候
35、，其中一个频率的声音很响，而另一个频率的声音较弱，尽管从声强来说都超过了听阈，但此时，我们只能听到很响的那个频率的声音，不很响的频率的声音是听不到的，也就是说弱声被强声掩蔽掉了。对于纯音来说，一般会有这样的现象出现：频率低的纯音比较容易掩蔽频率高纯音，而频率高的纯音比较来说难掩蔽低频率的纯音。利用人耳对声音的掩蔽效应，可以用有用的声音信号去掩蔽那些无用的声音信号。4、声音质量评价、声音质量评价在采用等级法MOS(Mean Opinion Score)进行评价时，通常设优，良，中，差，劣五个等级：5分表示质量极好，十分满意；4分表示质量好，比较满意；3分表示质量一般尚可接受；2分表示质量差勉强能
36、听；1分表示质量低劣无法忍受。图图2-3 中心频率为中心频率为1200Hz的带有噪声的的带有噪声的掩蔽谱掩蔽谱2.2 音频信息编码分类1波形编码波形编码波形编码是基于对语音信号波形的数字化处理，试图使处理后重波形编码是基于对语音信号波形的数字化处理，试图使处理后重建的语音信号波形与原语音信号波形保持一致。建的语音信号波形与原语音信号波形保持一致。优点优点是实现简单、语音质量较好、适应性强等。缺点缺点是话音信号的压缩程度不是很高，实现的码速率比较高。常见的波形压缩编码方法有：脉冲编码调制PCM、增量调制编码DM、差值脉冲编码调制DPCM、自适应差分脉冲编码调制（ADPCM）、子带编码（SBC）和
37、矢量量化编码（VQ）等。波形编码的比特率一般在16至64之间，它有较好的话音质量与成熟的技术实现方法。当数码率低于32的时候音质明显降低，16 时音质就非常差了。编码速率采样频率编码速率采样频率 编码比特数编码比特数 计算播放某个音频信号所需要的存储容量，公式为：存储容量播放时间存储容量播放时间速率速率8（字节）（字节）2、参数编码、参数编码参数编码又称声源编码，它是通过构造一个人发声的模型，以发参数编码又称声源编码，它是通过构造一个人发声的模型，以发音机制的模型作为基础，用一套模拟声带频谱特性的滤波器系数和若音机制的模型作为基础，用一套模拟声带频谱特性的滤波器系数和若干声源参数来描述这个模型
38、，在发送端从模拟语音信号中提取各个特干声源参数来描述这个模型，在发送端从模拟语音信号中提取各个特征参量并对这些参量进行量化编码，以实现语音信息的数字化。征参量并对这些参量进行量化编码，以实现语音信息的数字化。特点特点是语音编码速率较低，基本上在2kbits9.6kbits之间。在模型图中，周期信号源表示浊音激励源，随机信号表示清音激励源；u(n)表示波形产生的激励参数，可以用清/浊音判决（u/v）来表示；G是增益控制，代表语声信号的强度；线性时变滤波器可以看作是声道特性；ai是线性时变滤波器的系统参数；C(n)是合成的语声输出。o 参数编码的典型代表是线性预测编码LPC。周期性信号随机性信号线
39、性时变滤波器G增益控制合成语音信号输出C(n)基音周期TP时变参数aiu(n)图24 语声信号产生模型 v(n)3、混和编码、混和编码混和编码将波形编码和参量编码结合起来，力图保持波形编码话音的混和编码将波形编码和参量编码结合起来，力图保持波形编码话音的高质量与参量编码的低速率。高质量与参量编码的低速率。采用混合编码的编码器有：多脉冲激励线性预测编码器（MPE-LPC），规则脉冲激励线性预测编码器（RPE-LPC），码激励线性预测编码器(CELP)，矢量和激励线性预测编码器(VSELP)和多带激励线性预测编码器。以上三种压缩编码的性能比较可以用下图来表示：图图2-5 合成分析原理简化框图合成分
40、析原理简化框图 2.3 常用压缩编码方法 速率低于64kb/的语声数字化处理方法称为音频信息压缩编码。o 2.3.1 差值脉冲编码调制差值脉冲编码调制DPCM和自适应差值脉冲编码调制和自适应差值脉冲编码调制ADPCM差值脉冲编码调制(DPCM)的基本出发点就是对相邻样值的差值进行基本出发点就是对相邻样值的差值进行量化编码量化编码。由于此差值比较小，可以为其分配较少的比特数，进而起到了压缩数码率的目的。在具体的实现过程中，是对样值与其对应的预测值的差值进行量化编码的。对一个话音信号的样值序列，当前样值的预测值可以由其前面的若干个样值来进行预测，若样值序列表示为：为当前值，则对当前样值完整的预测表
41、达式由下式表示：NNyyyy,121NyNiiiNNNyayayayay1112211 式中 为当前值 的预测值，为当前值前面的N-1个样值。为预测系数，若预测系数随输入信号而变化时就是自适应预测。则当前值 与 预测值的差值表示为：可以由一系列预测值得到其对应的差值。差分脉冲编码调制就是对上面的一系列差值进行量化编码，再进行存储或传输。由于话音信号相邻样值之间有很强的相关性，所以预测值与实际值是很接近的，其差值也是很小，也就可以用比较少的比特数来进行编码表示，这样就减少了编码的比特数。在接收端或在对数据进行回放时，可用类似的过程重建原始数据。Ny Ny12,1,Nyyy121,NaaaNyNy
42、NNyye0o实现差分脉冲编码调制的系统方框图如图27所示：预测系数的求法是预测估值的均方差为最小的预测系数 。为了进一步提高编码的性能，将自适应量化技术和自适应预测技术结合在一起用于差分脉冲编码调制DPCM中，从而实现了自适应差分脉冲编码调制ADPCM。ADPCM的简化原理框图如图所示。ia 2.3.2线性预测编码线性预测编码 LPC如下图所示。在线性预测编码LPC中，将语声信号划分为浊音信号和清音信号。清音信号可以用白色随机噪声激励信号来表示，浊音信号可以用准周期脉冲序列激励信号来表示。由于语声信号是短时平稳的，根据语声信号的短时分析和基音提取方法，可以用若干的样值对应的一帧来表示短时语声
43、信号。这样，逐帧将语声信号用基音周期Tp，清/浊音(u/v)判决，声道模型参数ai和增益G来表示。对这些参进数行量化编码，在接收端再进行语声的合成。模拟信号参量译码A/D基音提取清/浊音判决预测系数分析信道参量量化编码低通D/A激励信号合成滤波器图2-9 线性预测LPC编译码方框图Tp ia iau/vGG、Tpu/v在LPC原理框图的发送端，原始话音信号送入A/D变换器，以8kHz速率抽样变成数字化语声信号。以180个抽样样值为一帧，对应帧周期为22.5ms，以一帧为处理单元进行逐帧处理。完成每一帧的线性预测系数分析，并作相应的清/浊音（u/v）处理、基音(Tp)提取，再对这些参量进行量化、
44、编码并送入信道传送。在接收端，经参量译码分出参量ai、G、Tp、u/v，以这些参数作为合成语声信号的参量，最后将合成产生的数字化语声信号经D/A变换还原为语声信号。o 2.3.3 矢量量化矢量量化VQ(Vector Quantization)编码编码对单个采样的样值进行量化被称为标量量化。所谓矢量量化VQ，是将输入的信号样值按照某种方式进行分组，把每个分组看作是一个矢量，并对该矢量进行量化。矢量量化编码原理矢量量化编码原理：在发送端，先将语音信号的样值数据序列按某种方式进行分组，每个组假定有k个数据。这样的一组数据就构成了一个k维矢量。每个矢量有对应的下标，下标是用二进制数来表示的。把每个数据
45、组所形成的矢量看作是一个码字；这样，语音数据所分成的组就形成了各自对应的码字。把所有这些码字进行排列，可以形成一个表，这样的表就叫作码本或码书。在矢量量化编码方法中，所传输的不是对应的矢量，而是对应每个矢量的下标。由于下标的数据相比于矢量本身来说，要小的多，所以这种方式就实现了数据的压缩。在对码本的描述中，构成码本的码字的数量称为码本的长度，用 来表示这个长度，则每个码字的位置即其下标可以用 的二进制位来表示，每个码字是由 个原始数据构成的。所以，矢量量化编码的编码速率可以低到 假设 ，表示是有16个样值数据构成的一个矢量；，表示码本的长度是256，码本的下标用二进制来表示共有 bit，由于对
46、每组数据只需要传送下标，假定此时码本已经构造好，则比特率为：。实现矢量量化的关键技术有两个：实现矢量量化的关键技术有两个：一个是如何设计一个一个是如何设计一个优良的码本，另一个是量化编码准则。优良的码本，另一个是量化编码准则。NN2logkNk2log116k256N8256loglog22NsamplebitNkRb/5.0256log161log122o 2.3.4 子带编码子带编码图中发送端的n个带通滤波器将输入信号分为n个子频带，对各个对应的子带带通信号进行调制，将n个带通信号经过频谱搬移变为低通信号；对低通信号进行采样、量化和编码，得到对应各个子带的数字流；再经复接器合成为完整的数字
47、流。经过信道传输到达接收端。在接收端，由分配器将各个子带的数字流分开，由译码器完成各个子带数字流的译码；由解调器完成信号的频移，将个子带搬移到原始频率的位置上。各子带相加就可以恢复出原来的语声信号。子带编码有几个突出的优点优点：n 对不同的子带分配不同的比特数可以很好控制各个子带的量化电平数及重建信号时的量化误差方差值，进而获得更好的主观听音质量。n 由于各个子带相互隔开，使各个子带的量化噪声也相互独立，互不影响，量化噪声被束缚在各自的子带内。这样，某些输入电平比较低的子带信号不会被其它子带的量化噪声所淹没。n 子带划分的结果，使各个子带的采样频率大大的降低。o 2.3.5 感知编码感知编码感
48、知编码感知编码（Perceptual Coding）是利用人耳听觉的心理声学特性（包括频域掩蔽特性和时域掩蔽特性）。感知编码是建立在人类听觉系统的心理声学基础上的，只记录那些能够被人耳感觉到的声音，从而达到压缩数据量的目的。感知编码的感知编码的理论基础是基于人耳的闻域、临界频段和掩蔽效应。理论基础是基于人耳的闻域、临界频段和掩蔽效应。临界频段反应了人耳对不同频段声音的反应灵敏度是有差异的：在低频段对几赫兹的声音差异都能分辨，而在高频段的差异要达到几百赫兹才能分辨。试验表明，低频段的临界频段宽度有100Hz到200Hz，在大于5kHz后的高频段的临界频段宽度有1000Hz到几万Hz。近3/4的临
49、界频段低于5kHz。因此在编码时要对低频段进行精细的划分，而对高频段的划分不必精细。掩蔽包括频域掩蔽和时域掩蔽。在频域，一个强音会掩蔽掉与之接近的弱音，掩蔽特性与掩蔽音的强弱、掩蔽音的中心频率以及掩蔽音与被掩蔽音的频率相对位置有关。时域掩蔽是指掩蔽效应发生在掩蔽音与被掩蔽音不同时出现时，也称为异时掩蔽。在编码时，对被掩蔽的弱音不必进行编码，从而达到数据压缩的目的。在感知编码中使用了心理模型。o下图是感知编码的MPEG通用音频编码系统的结构框架：时间/频率映射心理声学模型按帧打包量化和编码(a)编码器 MPEG音频码流PCM声音信号 按帧窗拆重 建频率/时间 映射(b)解码器PCM声音信号 MP
50、EG音频码流图2-12 MPEG音频编解码器基本框图 图中的时间时间/频率映射频率映射完成将输入的时间域音频信号转变为亚取样的频率分量，使用不同的滤波器组来实现，其输出的频率分量也叫做子带值或者频率线。心理声学模型心理声学模型利用利用滤波器组的输出和输入的数字声音信号计算出随输入信号而变化的掩蔽门限估值。量化和编码量化和编码按照量化噪声不超过掩蔽门限的原则对滤波器组输出的子带值（或频率线）进行量化、编码，目的是使量化的噪声不会被人耳感觉到。按帧打包按帧打包来完成最后的编码码流。编码码流中除了要包括量化和编码映射后的样值外，还包括如比特分配等信息。2.4音频信息压缩编码标准2.4.1 波形编码标
