为了进一步提高零差相干光通信系统的接收灵敏度, 对空间光混频器的信号光分光比进行了优化。根据零差相干通信系统数学模型, 推导了信号光分光比和环路相位误差、通信误码率的数学表达式, 经过计算分析可知当光混频器Q支路的信号光满足锁相环要求时, 可通过提高I支路信号光分光比来降低误码率和提高接收灵敏度。在分光比优化后光混频效率提高了53.5%, 通信探测灵敏度提高了3 dB。利用VPI软件进行建模仿真, 得到不同分光比下系统的眼图和相位噪声功率。仿真结果显示, 探测灵敏度提高了2.83 dB。最后, 搭建了零差相干光通信桌面实验系统, 研究了空间光混频器分光比和系统误码率、锁相环工作的影响规律, 当分光比由0.5减小至0.2时, 系统误码率由3.53×10-9下降至4.25×10-10, 当分光比为0.1时, 锁相环失锁, 误码率为1。实验结果基本符合理论和仿真结果, 所得分光比的影响规律和优化结果将为空间零差相干通信系统的研制提供技术参考。

研究了光学元件装调加工误差引起的光斑尺寸和光轴偏转对空间光混频器混频效率的影响。推导了高斯模型下的光混频效率表达式, 得到当光斑尺寸与靶面尺寸的比例为0.64时, 混频效率最高。在此基础上推导了光斑尺寸偏差、光轴偏转与光混频效率的表达式。并进行仿真分析, 得到光斑尺寸偏差、光轴偏转与光混频效率变化曲线。当混频效率大于10%时, 光斑尺寸偏差范围为-42~250 μm, 光轴偏转范围为203 μrad。通过计算光斑尺寸偏差和光轴偏转综合误差发现, 调整光斑尺寸偏差可以改善光轴偏转带来的混频效率恶化。进一步搭建空间光混频器影响因素实验平台, 进行了三种光斑尺寸偏差下光混频效率随光轴偏转变化的实验。实验所测曲线与仿真结果趋势一致, 受实验器件插入损耗的影响, 实验值略低于仿真值。所得影响规律为空间光混频器设计、装调和加工提供了一定参考。

针对本振光为高斯分布, 接收信号光经望远镜聚焦后为艾里分布的情况, 首先对高斯和艾里函数用数值计算的方式得到两种光斑最大外差效率: 当艾里斑直径和高斯光束束腰直径之比为1.719时, 最大外差效率为81.45%; 然后介绍了光的标量衍射和Zernike像差理论, 分析了夫琅禾费衍射适用于相干聚焦光场的条件, 计算了平面、高斯、艾里光场和Zernike像差的采样要求, 对存在各种像差的光学系统的外差效率进行了仿真, 分析了倾斜、离焦、像散、慧差、球差等基本像差及组合像差对外差效率的影响, 结果表明: 各种像差对外差效率的影响从低到高分别为像散、倾斜、离焦、慧差和球差; 3dB外差效率损失对应相干系统的指标为跟踪误差优于1μrad(RMS), 组合波像差优于0.1λ。研究结果对相干激光通信系统的链路损耗分配和光机系统的工程设计具有指导意义。

光外差探测效率不仅与大气湍流有关，还与信号光及本振光在探测器光敏面上的分布特性有。对不同光场分布下大气湍流对外差效率的影响进行了分析对比，讨论了湍流影响下外差效率随探测器半径的变化关系。结果表明: 当信号光和本振光为Airy+Gauss 模型时，大气湍流对外差效率的影响最小，且外差效率达到最大值后不随探测器半径的增大而变化；Airy+平面波模型受湍流的影响最大，即使在弱湍流下外差效率下降也十分迅速，最大可下降95.13%。

临近空间相干激光通信链路是天地一体化高速通信网络节点间连接的重要链路。围绕外差效率这一表征大气湍流扰动后信号光和本振光相干合成的指标,推导了非均匀湍流路径上的外差效率理论表达式,并结合大气折射率结构常数廓线,开展了临近空间-地面、临近空间-临近空间和临近空间-低轨卫星三类临近空间相干激光通信链路的外差效率仿真。仿真结果表明: 临近空间-低轨卫星链路可以忽略大气对外差效率的影响; 如果临近空间-临近空间链路距离大于500 km或是临近空间-地面链路天顶角大于60°,外差效率将小于50%,有必要采用自适应光学技术进行补偿。

星间相干光通信系统中，信号光与本振光的不同分布将影响外差混频效率。在假设信号光与本振光偏振一致、相位匹配、几何中心重合的前提下，详细推导了信号光振幅为平面波(Uniform)、高斯(Gauss)分布，本振光为艾里斑(Airy)、Uniform及Gauss分布时的6种外差混频效率关系式，其中4种得到了精确的解析式。在此基础上，通过数值仿真，全面对比分析了各种组合的外差混频性能，结果发现，Airy+Airy和Gauss+Gauss具有最佳外差混频性能，理论上可以达到100%外差混频效率；Uniform+Uniform的最大外差混频效率为72%，Guass+Uniform最大外差混频效率是82%，它们具有相似性；而Airy+Gauss组合是系统中常用的分布模型，其外差混频效率同时受探测器半径及Gauss束腰的制约。这将为设计星间相干通信系统提供必要的理论依据。

空间相干光通信中接收天线像差会使光外差效率下降。对本振光为高斯分布,信号光为爱里斑分布的光外差效率进行了研究,给出了无像差时外差效率的解析表达式。当焦平面上爱里斑半径与本振高斯光束光腰半径之比为1.71 时,有最大外差效率81.45%。然后以本振光为理想的高斯光束,信号光受像差的影响,研究了倾斜、离焦、球差、彗差、像散等像差引起的光外差效率损失,给出了存在像差时外差效率的一维积分表达式。研究表明即使在采用离焦校正后,一个波长的球差引起的附加外差效率损失仍可达0.9 dB。因此对于爱里斑位于光轴上的接收天线,在设计时需仔细处理球差的影响。

对于光学外差探测系统而言,为了有效利用回波信号,需要对信噪比这一表征系统性能的重要指标进行研究。从理论分析了信噪比,给出了计算信噪比的一般公式。理论分析表明,当探测器光敏面上本振光与信号光的振幅、相位、偏振都满足严格的匹配时,外差效率最大。对场分布为艾里函数的光外差信噪比进行研究和数值模拟。结果表明,当艾里斑尺寸的比例系数控制在0.8～1.2内,并使信号光斑主轴偏移量x0控制在0.5以下,探测器的尺寸在(0.6～0.8)λf/d内时,可获得大于0.7ηPs/hνB的信噪比。

在相干激光雷达中,本振光和信号光的物理模型一般为均匀光束-艾里斑或高斯光束-艾里斑.在均匀光束-艾里斑模型下,如果光学天线的有效孔径和有效焦距已知,则探测器光敏面半径应该按光学系统衍射极限光斑半径的0.79倍设计,这时系统外差效率的最佳理论值约为71%.在高斯光束-艾里斑模型下,探测器光敏面半径应按光学系统衍射极限光斑半径的0.63倍设计,这时系统外差效率的最佳理论值保持在81%左右.

假定激光外差探测系统的光信号体制是高斯本振光和爱里斑信号光。在该物理模型下,详细分析了外差探测特有的附加损耗因子——外差效率。建立它们的数学模型,数值仿真非准直效应、光场振幅分布、空间角失配、本振光等相面弯曲等因素对外差效率的影响程度,并且指出非准直效应和空间角失配是造成外差效率下降的主要因素。为此,提出控制高斯本振光的光束参数,降低激光外差光学系统准直的难度。在理想状态下,高斯本振和爱里斑信号外差效率的理论上限为0.82。