利用大涡模拟方法对受周期性控制的超声速混合层进行数值模拟, 揭示出受控涡结构的特性; 使用光线追踪方法计算光束穿越受控混合层流场产生的气动光学波前畸变。通过对受控涡结构特性的分析, 提出了一种气动光学效应校正方法, 并以不同控制周期下的超声速混合层为例, 对设计的校正方法进行检验。结果表明: 对于受周期性控制的超声速混合层, 按照校正方法获取的波前补偿信号能够使气动光学波前畸变的幅值降低50%以上; 指出混合层流场中涡结构的规整程度是影响畸变波前校正效果的关键因素。

基于随机并行梯度下降(SPGD)算法的无波前传感自适应波前校正系统的收敛速度较慢,很难满足无线光相干通信系统对实时性的要求。介绍了SPGD算法的并行化处理,利用图形处理器(GPU)并行计算提高校正系统的收敛速度。选用CCD相机采集的实时光斑形心的周围400个像素平均灰度值作为系统性能指标;利用GPU多线程运算,对性能指标求解过程和变形镜控制电压向量更新过程进行加速处理。室内实验和外场相干光实验结果表明,斯特列尔比达到了0.8以上,时间加速比最大达到了8.6,GPU加速的波前校正系统在提升收敛速度的同时保证了校正效果。

为了提高基于普适模型的无波前探测自适应光学（AO）算法的收敛性能，建立了一套基于Zernike模式的127单元变形镜AO系统仿真模型。以峰值斯特列尔比（Sr）和提出的快速稳定收敛百分比为评价标准，研究不同湍流强度下扰动系数、Zernike模式数、斜率因子对校正效果和收敛速度的影响，验证了该仿真系统对静态畸变波前良好的校正能力。结果表明，扰动系数小于0.01时系统可以稳定收敛；增加Zernike模式数可以提高系统收敛时的Sr，但同时收敛速度会有所降低。提出的改进矢量化斜率因子，可以有效提升系统在一次迭代后的校正效果，特别是对大畸变波前具有较强的适应性。

液晶空间光调制器(Liquid crystal spatial light modulator, LC-SLM)作为新型波前校正器具有驱动单元数目多、驱动电压低、控制灵活、价格低廉等优点。通过对LC-SLM时间-空间特性的研究, 讨论其在天文观测自适应光学系统中应用的可能性和局限性。利用LC-SLM和哈特曼波前传感器构成自适应光学系统, 对低频为主的静态波前像差实现闭环校正。闭环校正后的RMS 值和PV 值由闭环前的0.628λ、2.872λ 减小为0.031λ 、0.337λ, Strehl 比从0.04提高到近似衍射极限的0.81。利用衍射原理, 对LC-SLM的衍射效率进行了数值计算和实验测量。研究表明, LC-SLM能对大气湍流引入的光波畸变实现高精度校正; 然而响应速度慢、光能利用率低限制了它目前在实际自适应系统中的使用, 不能满足实时校正的要求、以及对微弱目标的应用。