涡旋光束在大气中传输时的湍流效应导致其轨道角动量发生串扰,传输质量下降。为了有效减小光波在大气传输中的湍流影响,探索减缓湍流效应的措施,利用螺旋谱分析理论,研究了各向异性非Kolmogorov大气湍流及光束参数对聚焦贝塞尔光束的螺旋谱展宽和接收功率的影响。结果表明,光束的波长、拓扑荷数、束腰半径、宽度参数以及湍流的强度、各向异性程度、内外尺度均会对接收功率产生影响。通过多层相位屏模拟法对比研究了聚焦与准直贝塞尔光束的螺旋谱分布情况,分析得出聚焦贝塞尔光束的接收功率更高、串扰功率更低。

对地面层自适应光学系统而言，多采用呈正多边形排列的多颗激光导引星星座作为参考来测量大气湍流对系统的影响。针对多颗激光导引星应当如何排布的问题，本文采用简化的地面层自适应光学几何模型作为系统性能评价函数，通过遗传算法优化获得不同湍流廓线下导引星的最优分布。同时，采用多进程、 Numba库和多线程提高海量大气湍流廓线下对整个系统性能的估计速度。利用上述方法，以一个视场为 14′的地面层自适应光学系统为例，用实测的大气湍流廓线数据分析了不同天文观测台址下湍流廓线与最优位置分布的关系。研究结果表明，同一台址下不同数目导引星的最优位置分布差异不大，其统计最优位置均呈中心一颗或角半径接近视场边缘的正多边形分布；不同台址下的导引星最优位置分布差异明显；大气湍流廓线测量的空间分辨率直接影响系统性能评价结果：其测量结果中的等效层数越多，导引星位置分布越接近规则的多边形。

针对复合涡旋光束拓扑荷信息测量的问题, 提出了一种利用其光强分布特征及经遮挡部分方位角的椭圆形光阑的衍射图样检测各子光束携带拓扑荷信息的方法。仿真结果表明：复合光束光强分布图中亮条纹数目和拖尾方向分别表征子光束拓扑荷差的绝对值和较高阶拓扑荷的符号; 衍射图样中暗条纹数目和条纹分布特点分别反映低阶拓扑荷的大小和符号。该方法可用于复合涡旋光束拓扑荷信息的检测。

压缩感知技术用于大气湍流波前斜率测量能在很大程度上提高波前信号的测量速度，同时降低波前测量系统的硬件压力。与现有波前斜率测量方法不同，压缩感知波前测量方法增加了从波前斜率的稀疏测量值到波前斜率信号的重建过程，因此将压缩感知技术用于波前测量，需要快速、高精度的波前斜率重建算法。Smoothed L0 Norm (SL0)算法是一种近似L0 范数估计的优化迭代重建算法，与其它算法相比，不需要事先知道信号的稀疏度，计算量低且估计精度高。本文以SL0算法为基础，对波前斜率信号分区域测量，再结合并行运算，通过理论分析和仿真实验实现了一种能够快速、高精度重建信号的分区域并行算法—Block-Smoothed L0 Norm (B-SL0)。实验结果表明，B-SL0在计算时间和精度都明显优于现有的其它重建算法，对压缩感知技术用于大气湍流波前测量的可行性进行了初步探索。

利用压缩感知技术对大气湍流波前探测数据进行压缩，可使测量数据量大幅度减少，能有效降低数据的传输与存储压力，有利于湍流波前的实时测量；但压缩条件要求波前信号是稀疏的或在某个变换域内能够稀疏表示。本文对大气湍流波前斜率信号的稀疏性进行了初步研究，基于大气湍流的统计特性，在频域内对湍流功率谱作黄金分割采样(GS)，建立符合大气湍流斜率物理特征的稀疏基，明确了湍流波前斜率的稀疏性。利用该GS 稀疏基对波前斜率进行稀疏分解，并通过仿真实验对比了不同稀疏基对波前斜率的稀疏分解效果。在此基础上，以GS 基作为训练基的初始化字典，进行K 奇异值分解字典训练(KSVD)，得到训练基(KSVD-GS)，分析了该训练基对波前斜率信号的稀疏表示性能。本文验证了波前斜率能够稀疏分解，建立了一个较好的稀疏基，为压缩感知的应用提供了前提基础。

分析了基于非均匀采样功率谱反演大气湍流相位屏的算法, 该算法可进行并行处理, 并引入图形处理单元(GPU), 在不影响模拟精度的前提下有效提高了相位屏的模拟速度。利用Kolmogorov功率谱, 基于GPU技术生成大气湍流相位屏; 对相位屏的模拟精度、模拟速度和误差进行统计分析, 并与理论值进行比较。结果表明利用GPU技术模拟的大气湍流相位屏与理论值非常吻合, 具有很高的模拟速度和精度, 大幅提高了大气湍流相位屏的生成速度。

提出了一种改善整形输出光束均匀度的优化generalized adaptive additive(GAA)方法，通过分析普通GAA 算法的x 因子不同取值造成输出光强波动差异问题，提出采用自适应优化x 的策略，优选出合适的x 因子值，使得整形输出光束均匀度最优。以把高斯光束整形成超高斯光束为例，分别从相位、均方差误差、衍射效率3 个方面探讨了x因子取不同值的GAA 算法的光束整形性能，最终验证了优化GAA 算法的有效性和可行性。

为了研究随高度变化的大气湍流外尺度对斜程路径点目标回波闪烁指数的影响，基于修正Rytov方法，将斜程路径下双基系统及单基系统点目标回波的闪烁指数模型拓展至中度及强起伏湍流区域。该模型不仅包含内尺度因素，而且考虑了随高度变化的外尺度因素。数值模拟结果表明：当湍流起伏较弱时，外尺度对于闪烁指数的影响远小于内尺度；但当系统处于中度及强起伏湍流时，随高度变化的外尺度因素的影响作用明显，不可忽略。在激光通信、激光探测等系统中，可利用该研究结果对系统所处湍流区域引起的闪烁效应进行预测，以调整系统至最佳配置。

卫星上的角反射器在空间探测、跟踪目标时不可避免要受到大气湍流的影响，湍流效应会使光强产生明显的起伏，即光强闪烁，严重影响探测信号的质量。为了探索大气湍流的内外尺度对闪烁效应的影响，基于随高度变化的ITU-R大气折射率结构常数模型，应用受内、外尺度影响的湍流折射率起伏功率谱，对激光从发射机到角反射器和从角反射器到接收机双斜程路径回波的闪烁指数进行了研究，推导了反射器回波闪烁指数与菲涅耳率的变化关系。数值计算结果表明：在弱湍流区，湍流内尺度对回波闪烁指数的影响大于外尺度；在强湍流区时，随着外尺度的增大，回波的闪烁指数也在增加，且大于内尺度对闪烁指数的影响。

微透镜阵列是夏克哈特曼波前传感器的核心部件。根据液晶空间光调制器(LC-SLM) 的相位调制原理，控制LC-SLM生成焦距、子孔径尺寸和排布方式可调的微透镜阵列，应用于哈特曼波前传感器，对入射光波进行分割，测量子孔径内波面的平均斜率，复原出入射波面的相位分布，以此为校正信号，对畸变波面进行单步校正，校正前后光波的斯特列尔比值从0.12变为0.59。 针对LC-SLM产生的微透镜阵列，讨论了透镜焦距、相邻间距、阵列数目及微透镜性能各影响因素。理论和实验结果表明，基于LC-SLM的动态哈特曼传感器具有子孔径大小、数目和排布方式根据外界条件变化控制灵活，可动态变化的优点。