逼近拟合中的基本概念.pptx

引言引言插值问题中插值问题中控制误差的度量标准控制误差的度量标准几个概念几个概念常用范数常用范数其它概念其它概念内积的概念内积的概念有关定理有关定理(证明见证明见P66)P66)称为格拉姆称为格拉姆(Gram)(Gram)矩阵，则矩阵，则G G非奇异的充分必非奇异的充分必要条件是要条件是u u1 1,u,un n线性无关线性无关权函数的概念权函数的概念定义定义 设设 称称 为函数为函数 在区间在区间a,ba,b上的内积上的内积.其中其中 为区间为区间a,ba,b上的权函数上的权函数,且满足且满足下面两个条件下面两个条件:函数内积的定义函数内积的定义容易验证容易验证,上述定义的函数内积满足一般内积概念中四上述定义的函数内积满足一般内积概念中四条基本性质条基本性质.函数的欧几里得范数函数的欧几里得范数定义定义 设设 称称为函数为函数f(x)f(x)的欧几里得范数的欧几里得范数,或或2 2范数范数.数据拟合数据拟合函数逼近函数逼近最佳一致逼近最佳一致逼近最佳平方逼近最佳平方逼近超定方程组的最小二乘解超定方程组的最小二乘解仍然是已知仍然是已知 x1 xm;y1 ym,求一个简单易求一个简单易算的近似函数算的近似函数 P(x)f(x)。但是但是 m 很大；很大；yi 本身是测量值，不准确，即本身是测量值，不准确，即 yi f(xi)这时没必要取这时没必要取 P(xi)=yi,而要使而要使 P(xi)yi 总体上总体上尽可能小。尽可能小。常见做法：常见做法：使使 最小最小/minimax problem/太复杂太复杂 使使 最小最小不可导，求解困难不可导，求解困难 使使 最小最小 /Least-Squares method/多项式拟合多项式拟合最小二乘拟合最小二乘拟合多项式多项式 /L-S approximating polynomials/对应法方程（或正规方程组对应法方程（或正规方程组/normal equations/）为：为：回归系数回归系数/regression coefficients/定理定理5.证明：证明：记法方程组为记法方程组为 Ba=c.则有则有 其中其中对任意对任意 ，必有，必有 。若不然，则若不然，则存在一个存在一个 使得使得 即即是是 n 阶多项式阶多项式的根的根则则 B为为正定阵正定阵，则非奇异，所以法方程组，则非奇异，所以法方程组存在唯一存在唯一解。解。广义多项式拟合广义多项式拟合定义定义线线性性无无关关/linearly independent/函函数数族族 0(x),1(x),n(x),满足条件：其中任意函数的线性组合满足条件：其中任意函数的线性组合 a0 0(x)+a1 1(x)+an n(x)=0 对任意对任意 x a,b成立成立当且仅当当且仅当 a0=a1=an=0。定义定义考考虑虑一一般般的的线线性性无无关关函函数数族族=0(x),1(x),n(x),，其其有有限限项项的的线线性性组组合合 称称为为广广义义多多项项式式/generalized polynomial/.常见广义多项式：常见广义多项式：j(x)=x j 对应对应代数代数多项式多项式/algebraic polynomial/j(x)=cos jx、j(x)=sin jx j(x),j(x)对应对应三角三角多项式多项式/trigonometric polynomial/j(x)=,ki kj 对应对应指数指数多项式多项式/exponential polynomial/定义定义 广义广义 L-S 拟合：拟合：离散型离散型/*discrete type*/在点集在点集 x1 xm 上测得上测得 y1 ym，在一组权系数，在一组权系数 w1 wm 下求广义多项式下求广义多项式 P(x)使得使得误差函数误差函数 最小。最小。=niiiiyxPw12)(连续型连续型/*continuous type*/已知已知 y(x)Ca,b 以及权函数以及权函数 (x)，求广义多项式求广义多项式 P(x)使使得误差函数得误差函数 =最小最小。dxxyxPxba2)()()(内积内积与与范数范数离散型离散型连续型连续型则易证则易证(f,g)是是内积内积，而而 是是范数范数。(f,g)=0 表示表示 f 与与 g 带权正交带权正交。广义广义 L-S 问题可叙述为：求广义多项式问题可叙述为：求广义多项式P(x)使得使得 最小。最小。nkyaknjjjk,.,0,),(),(0=设设则完全类似地有：则完全类似地有：)(.)()()(1100 xaxaxaxPnn +=法方程组法方程组/*normal equations*/即：即：),(),(),(00yyaabnnjiij =c例：例：用用 来拟合来拟合 ，w 1解：解：0(x)=1，1(x)=x，2(x)=x2例：例：连续型拟合中，取连续型拟合中，取则则Hilbert阵！阵！改进：改进：若能取函数族若能取函数族=0(x),1(x),n(x),，使得任意一对使得任意一对 i(x)和和 j(x)两两两两（带权）正交（带权）正交，则，则 B 就化为就化为对角阵对角阵！这时直接可算出这时直接可算出ak=正交正交多项式多项式的构造：的构造：将正交函数族中的将正交函数族中的 k 取为取为k 阶阶多项式多项式，为简单起见，可取，为简单起见，可取 k 的的首项系数为首项系数为 1。有递推有递推关系式：关系式：其中其中例：例：用用 来拟合来拟合 ，w 1解：解：通过正交多项式通过正交多项式 0(x),1(x),2(x)求解求解设设)()()(221100 xaxaxay +=1)(0=x 229),(),(0000=ya25),(),(00001=a ax25)()()(011=xxxx a a 537),(),(1111=ya25),(),(11112=a ax45),(),(00111=b b55)(45)()25()(2012+=xxxxxx 21),(),(2222=ya与前例结果一致。与前例结果一致。注：注：手算时也可手算时也可用待定系数法确用待定系数法确定函数族。定函数族。