针对点目标提出了基于变形镜(DM)本征模式的无波前传感器自适应光学校正方法并进行了仿真和实验研究。由DM 的影响函数矩阵推导出一组符合导数正交关系的DM 本征模式代替传统的Lukosz模式。基于远场光斑的均方半径建立评价函数，利用DM 本征模式系数与评价函数之间的关系求解出各阶模式所需的校正量。通过仿真比较了上述两种模式的校正精度，分析了模式偏置系数对校正精度的影响，给出了算法对不同大小像差的闭环校正结果。基于37单元DM 搭建了实验系统，实验结果表明算法可以有效校正低阶像差，且采用DM 本征模式的校正精度优于Lukosz模式。

无波前传感器自适应光学的波前校正方法包括无模型优化算法和基于模式的优化算法。通过搭建实验光路验证了基于变形镜本征模式校正方法的有效性。实验结果表明，基于变形镜本征模式的校正方法和传统基于Lukosz 模式的校正方法相比，避免了模式拟合误差，具有更高的校正精度。对各阶变形镜模式系数的校正量的估计是相互独立的，根据初始像差空间频率组成的不同，可以选择合适的模式校正阶数以提高校正速度。与目前常用的随机并行梯度下降（SPGD）算法相比，模式法的校正精度与之相当，但校正速度可以提高一个数量级。

由于相位补偿不稳定性的存在，大气热晕效应的相位校正一直是研究人员十分关心的问题。对变形镜驱动器影响函数耦合矩阵进行正交化获得了按照空间频率划分的变形镜本征模式，建立了采用变形镜本征模式进行波前重构的数值模型，对基于该波前重构方法的自适应光学系统校正大气热晕进行了数值模拟。数值模拟结果表明，与直接斜率法相比，变形镜本征模式法可以通过本征模式的选择，改变校正相位的空间频率成分，消除空间高频成分对热晕校正的影响，从而抑制相位补偿不稳定性的发生，提高自适应光学系统闭环控制的稳定性和对大气热晕的校正效果。

提出采用基于变形镜(DM)本征模式的自适应光学波前误差校正方法校正高分辨率空间光学遥感器的在轨波前误差。该方法利用变形镜各致动器的影响函数得到一组符合导数正交关系的变形镜本征模式，以图像功率谱密度在低频区域的积分和为评价函数，根据本征模式系数与评价函数之间的关系直接求解出各阶模式所需的校正量。利用实测的37单元变形镜的影响函数得到变形镜本征模式，基于该模式对泽尼克像差进行了开环和闭环仿真校正，定量分析了相位偏置和图像频率范围对算法精度的影响。针对遥感器主镜镜面热变形误差给出了仿真校正结果，分析了图像噪声和不同遥感图像对算法校正精度的影响。仿真结果表明基于变形镜本征模式的自适应光学校正方法可以有效校正波前误差，算法收敛速度快，对图像噪声和内容不敏感，适合用于空间光学遥感器的波前误差校正。