1、第十章：统计学习与推理普通高等教育“十二五”规划教材生物信息学生物信息学Bioinformatics第一节 统计学习与推理基础一、fisher经典参数统计理论fisher把判别分析、回归分析和密度估计问题等表达为特定参数化模型的参数估计问题，并提出了估计所有模型未知参数的方法最大似然法。二、经典非线性法ANN（artificial neural network）三、小样本统计学习理论（一）VC维（二）推广性的界对各种类型的函数集，统计学习理论系统地研究了其经验风险与期望风险之间的关系，即推广性的界。（三）结构风险最小（四）小样本与转导推理四、基于概率的方法基于概率的方法主要包括贝叶斯(Baye
2、s)推理及隐马尔可夫模型(hidden Markov model,HMM)，其中贝叶斯推理需利用来源于经验和历史资料的先验信息。第二节 统计模型与参数推断一、参数估计量的评选标准（一）无偏性参数估计量的期望值与参数真值是相等的，这种性质称为无偏性。具有无偏性的估计量称为无偏估计量。（二）有效性（三）相合性（四）充分性与完备性二、最小二乘估计三、最大似然估计（一）似然函数对于离散型随机变量，似然函数是多个独立事件的概率函数的乘积，该乘积是概率函数值，它是关于总体参数的函数。例：一只大口袋里有红、白、黑3种球，采用复置抽50次，得到红、白、黑3种球的个数分别为12、24、14,根据多项式的理论建立
3、似然函。（二）最大似然估计所谓最大似然估计就是指使似然函数值为最大以获得总体参数估计的方法。例：求红、白、黑球实例中 的最大似然估计值。第三节 聚类分析、主成分分析与Fisher判别一、聚类分析（一）数据变换（二）亲疏程度测度（三）系统聚类方法：最短距离法、最长距离法、中间距离法、重心距离法、类平均法、可变类平均法、可变法、离差平方和法。二、主成分分析（一）基本原理主成分分析（PCA）是把多个指标化为少数几个综合指标的一种统计分析方法。（二）分析步骤1）原始数据的标准化2）样本矩阵的相关系数矩阵3）特征向量4）选择主成分三、Fisher判别基于Fisher准则，判别的结果应使两组间别最大，使每
4、组内的离散性最小。确定线性判别函数为待求判别函数的系数。其中，其中，第四节 贝叶斯推理一、贝叶斯定理二、朴素贝叶斯分类器三、贝叶斯应用示例第五节 隐马尔可夫模型一、马尔可夫及隐马尔可夫模型二、隐马尔可夫模型的数学描述三、隐马尔可夫模型的三个基本问题及解决方案1、评估问题及前向、后向算法2、解码问题及Viterbi算法3、学习问题及Baum-Welch算法四、基于HMM的基因识别程序及HMM的优缺点VEIL、HMMgene、GeneMark.hmm、Geneie、GENSCAN缺点：1）训练所用的样本数有限2）HMM是一个线性模型，不能描述蛋白质序列中的高阶相关性。3）只有当事件独立时，模型产生
5、一个序列的概率才是产生各个独立氨基酸的概率的乘积。第六节 动态神经网络一、基于MATLAB7.0的Elman神经网络实现（一）newelm功能：生成一个Elman神经网络（二）traingdx功能：采用自适应学习速率动量梯度下降反向传播算法对网络进行训练（三）learngdm功能：动量梯度下降权值和阈值学习函数（四）init功能：初始化神经网络函数（五）train功能：神经网络训练函数（六）sim功能：对网络进行仿真（七）tansig功能：正切sigmoid传递函数（八）logsig功能：对数sigmoid传递函数（九）purelin功能：纯线性传输函数二、Elman神经网络应用示例内含子与外
6、显子识别第七节 支持向量机一、SVM分类二、SVM回归三、SVM训练算法（一）块算法（二）固定工作样本集方法四、SVM的优缺点优点：非线性、适用小样本、泛化推广能力优异、避免局部极值、避免“维数灾难”缺点：可解释性差、对大训练样本计算复杂度高、核函数的选择缺乏先验的理论指导五、基于Python的LIBSVM简介第八节 MATLAB的应用实例一、数据获取NCBI EF221854二、序列分析（一）绘制密度图 ntdensity(seq)（二）计算核苷酸数目 basecount(seq)（三）显示核苷酸互补链 seqrcomplement(seq)（四）计算二聚体个数 dimercount(mitochondria,chart,bar)（五）计算密码子使用频率 codoncount(ntseq)（六）ORF分析 f=seqshoworfs(ntseq)（七）序列翻译 ND2AASeq=nt2aa(ND2Seq)（八）序列比对三、系统发生分析（一）首先建立MATLAB结构，将要分析的各物种的信息输入（二）准备序列（三）计算各序列之间的距离Distance=seqpdist(Seqs)（四）对序列比对的距离进行构树Tree=seqlinkage(Dist,Method,Names)（五）画出系统发育树h=plot(tree)四、芯片数据分析
