针对本振光为高斯分布, 接收信号光经望远镜聚焦后为艾里分布的情况, 首先对高斯和艾里函数用数值计算的方式得到两种光斑最大外差效率: 当艾里斑直径和高斯光束束腰直径之比为1.719时, 最大外差效率为81.45%; 然后介绍了光的标量衍射和Zernike像差理论, 分析了夫琅禾费衍射适用于相干聚焦光场的条件, 计算了平面、高斯、艾里光场和Zernike像差的采样要求, 对存在各种像差的光学系统的外差效率进行了仿真, 分析了倾斜、离焦、像散、慧差、球差等基本像差及组合像差对外差效率的影响, 结果表明: 各种像差对外差效率的影响从低到高分别为像散、倾斜、离焦、慧差和球差; 3dB外差效率损失对应相干系统的指标为跟踪误差优于1μrad(RMS), 组合波像差优于0.1λ。研究结果对相干激光通信系统的链路损耗分配和光机系统的工程设计具有指导意义。

光外差探测效率不仅与大气湍流有关，还与信号光及本振光在探测器光敏面上的分布特性有。对不同光场分布下大气湍流对外差效率的影响进行了分析对比，讨论了湍流影响下外差效率随探测器半径的变化关系。结果表明: 当信号光和本振光为Airy+Gauss 模型时，大气湍流对外差效率的影响最小，且外差效率达到最大值后不随探测器半径的增大而变化；Airy+平面波模型受湍流的影响最大，即使在弱湍流下外差效率下降也十分迅速，最大可下降95.13%。

临近空间相干激光通信链路是天地一体化高速通信网络节点间连接的重要链路。围绕外差效率这一表征大气湍流扰动后信号光和本振光相干合成的指标,推导了非均匀湍流路径上的外差效率理论表达式,并结合大气折射率结构常数廓线,开展了临近空间-地面、临近空间-临近空间和临近空间-低轨卫星三类临近空间相干激光通信链路的外差效率仿真。仿真结果表明: 临近空间-低轨卫星链路可以忽略大气对外差效率的影响; 如果临近空间-临近空间链路距离大于500 km或是临近空间-地面链路天顶角大于60°,外差效率将小于50%,有必要采用自适应光学技术进行补偿。

星间相干光通信系统中，信号光与本振光的不同分布将影响外差混频效率。在假设信号光与本振光偏振一致、相位匹配、几何中心重合的前提下，详细推导了信号光振幅为平面波(Uniform)、高斯(Gauss)分布，本振光为艾里斑(Airy)、Uniform及Gauss分布时的6种外差混频效率关系式，其中4种得到了精确的解析式。在此基础上，通过数值仿真，全面对比分析了各种组合的外差混频性能，结果发现，Airy+Airy和Gauss+Gauss具有最佳外差混频性能，理论上可以达到100%外差混频效率；Uniform+Uniform的最大外差混频效率为72%，Guass+Uniform最大外差混频效率是82%，它们具有相似性；而Airy+Gauss组合是系统中常用的分布模型，其外差混频效率同时受探测器半径及Gauss束腰的制约。这将为设计星间相干通信系统提供必要的理论依据。

空间相干光通信中接收天线像差会使光外差效率下降。对本振光为高斯分布,信号光为爱里斑分布的光外差效率进行了研究,给出了无像差时外差效率的解析表达式。当焦平面上爱里斑半径与本振高斯光束光腰半径之比为1.71 时,有最大外差效率81.45%。然后以本振光为理想的高斯光束,信号光受像差的影响,研究了倾斜、离焦、球差、彗差、像散等像差引起的光外差效率损失,给出了存在像差时外差效率的一维积分表达式。研究表明即使在采用离焦校正后,一个波长的球差引起的附加外差效率损失仍可达0.9 dB。因此对于爱里斑位于光轴上的接收天线,在设计时需仔细处理球差的影响。

鉴于马卡望远镜离轴能够减小因副镜遮挡引起的光能量损失，分析了马卡望远镜离轴使用时，合作目标和非合作目标发射和接收光路的区别。讨论了马卡望远镜在外差探测系统离轴使用时，发射能量提高，但外差效率下降的原因；在合作目标外差探测系统离轴使用时发射能量提高30%以上，外差效率也有很大提高；通过对散射体目标物和平面镜的测量，分别得到了17%和85%的外差效率，验证了马卡望远镜在合作目标外差探测系统中可以离轴使用。

对于光学外差探测系统而言,为了有效利用回波信号,需要对信噪比这一表征系统性能的重要指标进行研究。从理论分析了信噪比,给出了计算信噪比的一般公式。理论分析表明,当探测器光敏面上本振光与信号光的振幅、相位、偏振都满足严格的匹配时,外差效率最大。对场分布为艾里函数的光外差信噪比进行研究和数值模拟。结果表明,当艾里斑尺寸的比例系数控制在0.8～1.2内,并使信号光斑主轴偏移量x0控制在0.5以下,探测器的尺寸在(0.6～0.8)λf/d内时,可获得大于0.7ηPs/hνB的信噪比。

对光外差超声无损探伤实验系统的结构、原理进行了说明.分析了系统参数设计中信号光与本振光的光程差、探测器的相对位置和聚焦透镜的焦距这三个要素对外差效率的重要影响,根据理论计算所设计的光外差超声无损探伤系统,外差效率可达0.965.该系统用于由脉冲激励超声工件的内部探伤,观察到距离1 555 mm处钢管微小裂缝的超声反射信号.对零差信号利用三角函数拟合和最小二乘法进行数学处理,可测得裂缝处相对探测点的距离,相对误差为0.19%,可以达到对金属管道远程无损探伤的要求.

在相干激光雷达中,本振光和信号光的物理模型一般为均匀光束-艾里斑或高斯光束-艾里斑.在均匀光束-艾里斑模型下,如果光学天线的有效孔径和有效焦距已知,则探测器光敏面半径应该按光学系统衍射极限光斑半径的0.79倍设计,这时系统外差效率的最佳理论值约为71%.在高斯光束-艾里斑模型下,探测器光敏面半径应按光学系统衍射极限光斑半径的0.63倍设计,这时系统外差效率的最佳理论值保持在81%左右.

假定激光外差探测系统的光信号体制是高斯本振光和爱里斑信号光。在该物理模型下,详细分析了外差探测特有的附加损耗因子——外差效率。建立它们的数学模型,数值仿真非准直效应、光场振幅分布、空间角失配、本振光等相面弯曲等因素对外差效率的影响程度,并且指出非准直效应和空间角失配是造成外差效率下降的主要因素。为此,提出控制高斯本振光的光束参数,降低激光外差光学系统准直的难度。在理想状态下,高斯本振和爱里斑信号外差效率的理论上限为0.82。