1、 向量间的距离向量间的距离长度长度 称为向量称为向量 和和 的距离,的距离,基本性质基本性质(i),dd (ii)并且仅当并且仅当 的等号才成立;的等号才成立;,0,d (iii)(三角形不等式三角形不等式),.ddd 定义定义 ,.d 记为记为2.向量到子空间的距离向量到子空间的距离(1)设设 为一固定向量为一固定向量,如果,如果 与子空间与子空间 中中 W 每个向量垂直,每个向量垂直,称称 垂直于子空间垂直于子空间 记作记作,W.W 如果如果 则则 12(,),kWL ,1,2,.iWik (2)向量到子空间中的各向量的距离以垂线为最短向量到子空间中的各向量的距离以垂线为最短.如图示意,对
2、给定如图示意,对给定 ,设,设 是是 中的满足中的满足 W 的向量,则的向量,则W对对 有有W .,因因 是子空间,是子空间,W,WW 则则,W由勾股定理由勾股定理222,证明:证明:.故故所以所以.问题提出问题提出:实系数线性方程组实系数线性方程组 12,n sijnAXb AaRbb bb (1)即任意即任意 都可能使都可能使 12,nx xx 211221niiinniia xa xa xb (2)不等于零不等于零可能无解,可能无解,设法找实数组设法找实数组 使使(2)最小最小,20001,nxxx这样的这样的 为方程组为方程组(1)的的最小二乘解最小二乘解,20001,nxxx此问题叫
3、此问题叫最小二乘法问题最小二乘法问题.最小二乘法的表示最小二乘法的表示:设设 12111,.nnnjjjjnjjjjjYa xa xa xAX(3)用距离的概念,(用距离的概念,(2)就是就是 2.YB 1122,ssYxxx 由由(3),设则设则12,sA 要找要找 使(使(2)最小,等价于找子空间)最小,等价于找子空间 X12(,)sL 中向量中向量 使使 到它的距离到它的距离 比到比到 YB()YB 12(,)sL 中其它向量的距离都短中其它向量的距离都短.设设,CBYBAX 这等价于这等价于 12(,)(,)(,)0,sCCC (4)即即 120,0,0,sCCC这样(这样(4)等价于
4、)等价于(5)12(,)sCL 为此必为此必 0A BAX A AXA B 或或这就是最小二乘解所满足的代数方程这就是最小二乘解所满足的代数方程.已知某种材料在生产过程中的废品率已知某种材料在生产过程中的废品率 与某种与某种y化学成份化学成份 有关下列表中记载了某工厂生产有关下列表中记载了某工厂生产x中中 与相应的与相应的 的几次数值:的几次数值:yx找出找出 对对 的一个近似公式的一个近似公式.yx(%)y(%)x1.000.90.9 0.81 0.60 0.56 0.35 3 3.6 6 3 3.7 7 3 3.8 8 3 3.9 9 4 4.0 0 4 4.1 1 4 4.2 2例题例题
5、把表中数值画出图来看,发现它的变化趋势把表中数值画出图来看,发现它的变化趋势近于一条直线因此我们决定选取近于一条直线因此我们决定选取 的一次式的一次式 xaxb 来表达当然最好能选到适当的来表达当然最好能选到适当的,a b使得下面的等式使得下面的等式3.61.000,ab 3.70.90ab 3.80.90,ab3.90.810,ab4.00.600,ab 4.10.560,ab 4.20.350ab 解:解:都成立都成立.实际上是不可能的任何实际上是不可能的任何 代入上面各式都发生代入上面各式都发生 ,a b些误差些误差.于是想找到于是想找到 使得上面各式的误差的平方使得上面各式的误差的平方
6、,a b和最小,即找和最小,即找 使使,a b222(3.61.00)(3.70.9)(3.80.9)ababab 222(3.90.81)(4.00.60)(4.10.56)ababab 2(4.20.35)ab 最小最小.易知易知 3.6 11.003.7 10.903.8 10.90,3.9 10.814.0 10.604.1 10.564.2 10.35AB 最小二乘解最小二乘解 所满足的方程就是所满足的方程就是,a b 0,aA AA Bb 解得解得(取三位有效数字)(取三位有效数字).1.05,4.81ab 即为即为 106.7527.319.6750ab 27.375.120ab