摘要：通用非线性高斯-赫尔默特模型是顾及因变量或全体变量误差的显式和隐式非线性函数平差模型的统一表达。针对在迭代初值与真值相差较大时，高斯-牛顿迭代解算法存在不收敛的问题，本文提出融合同伦方法与非线性最小二乘的通用非线性高斯-赫尔默特模型参数估计法。从引入同伦参数的

本文内容来源于《测绘学报》2024年第11期（审图号GS京(2024)2421号）

通用非线性高斯-赫尔默特模型参数估计的同伦方法

摘要：通用非线性高斯-赫尔默特模型是顾及因变量或全体变量误差的显式和隐式非线性函数平差模型的统一表达。针对在迭代初值与真值相差较大时，高斯-牛顿迭代解算法存在不收敛的问题，本文提出融合同伦方法与非线性最小二乘的通用非线性高斯-赫尔默特模型参数估计法。从引入同伦参数的非线性最小二乘平差准则出发，推导了求解通用模型参数的微分方程组和追踪同伦曲线的固定步长预测公式与牛顿校正公式，给出了隐式函数模型残差向量的近似计算公式。为避免计算立体矩阵，将克罗内克积和矩阵拉直运算引入推导过程，降低了计算微分方程组的复杂度。通过仅顾及自变量误差的距离定位、顾及卫星坐标误差和测距误差的伪距定位、顾及全体平面坐标误差的圆曲线拟合，以及顾及已知坐标误差的测边网平差4个试验，对本文方法的可行性进行了验证。试验结果表明：在设定的两组初值中，当高斯-牛顿法收敛时，本文方法也收敛；当高斯-牛顿法不收敛时，本文方法仍收敛；本文方法收敛的初值范围更大。

关键词：非线性高斯-赫尔默特同伦方法距离定位伪距定位圆曲线拟合测边网

第一作者简介：胡川（1983—），男，博士，副教授，研究方向为测量数据处理理论与方法。 E-mail：

本文引用格式胡川, 史宗浩, 任大钦.阅读全文

非线性高斯-赫尔默特模型（nonlinear Gauss-Helmert model, NGHM）是高斯-赫尔默特模型（Gauss-Helmert model, GHM）在非线性平差领域的拓展，可概括表达高斯-马尔可夫模型（Gauss-Markoff model, GMM）[1]和误差变量模型（errors-in-variables, EIV)[2]，已在三维坐标变换[3]、GNSS定位[4]和点云曲面拟合[5-6]等方面得到广泛应用。除显式函数外，NGHM模型函数还可能是隐式函数，如圆曲线拟合模型[7]。显式和隐式非线性函数平差模型的统一表达称为通用NGHM模型。

在测绘领域，已有大量研究人员围绕NGHM模型作了拓展及应用研究[8]。文献[9—10]分别通过将系数矩阵随机变量纳入随机模型的方式和变量投影方法将结构EIV转化为NGHM，实现了模型的概括统一。文献[11]基于NGHM建立了一种适用于大旋转角的三维坐标转换参数求解模型。该模型无须假设条件，可以获得任意旋转角的坐标转换参数。在粗差处理方面，文献[12]用敏感分析法改进了NGHM算法，提升了其粗差探测性能。考虑到方差分量估计的精度会影响抗差估计效果，文献[5]在NGHM模型下研究了融合最优不变二次无偏估计与期望最大化（expectation maximization, EM）算法的粗差探测法。文献[7]针对误差含学生分布的情况，讨论了采用约束最大似然估计和EM算法估计NGHM模型参数的方法。文献[13]讨论了基于EM算法的NGHM抗差估计方法。文献[14]提出了基于等价权原理的NGHM抗差估计算法。文献[6,15]研究了NGHM抗差估计在点云曲面拟合中的应用。文献[16—17]针对海下三维坐标估计问题讨论了NGHM抗差估计法。学者们还将其向序贯平差方面进行了扩展。文献[18]讨论了等式约束下的序贯NGHM模型。文献[19]针对多历元观测数据，提出一种基于广义整体最小二乘原理的NGHM序贯平差法，并以水位流量曲线拟合为例验证了该方法在计算效率方面的优势。此外，文献[20]还研究了病态NGHM的参数估计问题。

NGHM模型的解算通常采用泰勒级数将模型展开，省略掉二次及以上项，用最小二乘推导平差计算公式，根据需要选择迭代计算方法，如高斯-牛顿迭代。在进行迭代计算时，需要提供与真值相差较小的初始值，若相差较大，算法就可能出现不收敛状况。已有研究表明，与传统高斯-牛顿迭代法相比，同伦法收敛的初值范围更大，是大范围收敛方法[21]。

测绘领域的研究人员已成功将同伦方法引入非线性最小二乘平差。文献[22]提出了非线性最小二乘同伦方法，给出了GPS同伦非线性模型和算法，在初值精度较差的情况下，得到了比线性最小二乘求解精度更高的结果。文献[23]提出了一种同时适用于满秩和秩亏网非线性最小二乘平差的统一模型，在初始值精度较低情况下，同伦方法仍能高精度收敛到原方程的估值。文献[24]讨论了粗差影响下和等式约束下的同伦非线性最小二乘平差方法。文献[25]将同伦方法引入坐标转换，研究了基于同伦法的非线性坐标转换模型，扩大了近似值的选取范围。文献[26]将同伦方法用于求解任意旋转角度下三维坐标转换参数。文献[27—28]针对传统同伦法收敛速度慢的问题，讨论了改进切向量及步长的同伦方法，得到了收敛更快、更稳定的算法，并应用于测边网平差。文献[29]针对传统同伦方法局部收敛问题，提出了融合同伦函数与填充函数的非线性最小二乘平差法。文献[30]讨论了同伦方法在相位解缠中的应用，扩大了非线性最小二乘相位解缠的收敛范围。文献[31—32]针对不适定非线性最小二乘问题，讨论了正则同伦方法及算法。

上述研究表明，同伦方法已在以显函数为对象的数据处理中得到广泛应用。本文通过将同伦方法引入通用NGHM模型参数估计中，把研究对象从显式函数扩展至隐式函数，建立起适用于多种情形的统一算法，拓展同伦方法在非线性平差中的应用。

通用NGHM的误差方程可描述为

尽管式（1）可以描述线性平差情况，但考虑到仅非线性情况才需要线性化，因此本文主要针对非线性函数下的高斯-赫尔默特模型进行讨论。该模型的解算，通常先用泰勒级数将其线性化，然后采用最小二乘法估计模型参数。

记

是v的最佳近似值

是x的最佳估计值。l0和

分别是

和x的近似值，Δl和

为对应的改正量，则有

，

。将式（1）在l0和

附件展开，则有线性化后的误差方程

在最小二乘准则vTPllv=min的条件下，由经典平差结论可得估计参数和残差向量的公式

(5)

式中，NBB=BQllBT。验后单位权方差的估计式为

(6)

式中，权矩阵

来源：测绘学报