针对大气激光通信中多径散射效应产生的通信链路码间串扰问题，提出了一种基于退偏振比探测的大气激光通信传输方案。利用光子追迹和Stokes矢量变换进行了Monte Carlo仿真；通过设置不同的云层物理厚度和消光系数，得到接收光退偏振比与云层光学厚度的一一对应关系；基于Stotts公式，得到接收光退偏振比与平均脉冲时间展宽的对应关系。提出了在多径效应影响下的最佳通信传输速率方案，该方案在激光通信系统接收端直接进行退偏振比探测，可有效评估大气信道环境的多径强度，进而在保证激光通信传输质量的同时实现最大的通信传输速率。该研究在星地激光通信以及自适应激光通信的通信链路优化领域具有理论指导意义和应用价值。

理论上提出了窄带损伤条件下的误差向量幅度的新算法，该修正算法可有效去除滤波引起的码间干扰因素，从而能利用计算的误差向量幅度更准确地估计系统光信噪比与误码率。通过数值仿真发现，新的算法能够有效地估计接收光信噪比，在加入码间串扰修正后的误差向量幅度对误码率的估计也有提高。同时，论文讨论了干扰码元个数的优化问题，以获得在计算复杂度与性能之间的最佳平衡，还分析在不同系统参数包括信噪比与滤波带宽下的估计性能表现。

为了在正交频分复用系统中解决符号间干扰以及子信道干扰导致系统性能下降的问题，采用了一种新的基于变换域插值信道估计的残余消除算法的方法，进行了理论分析和实验验证，取得了科学准确的数据。利用MATLAB模拟仿真的结果表明，在宽带无线局域网中，当循环保护前缀长度不足时,采用该算法经过有限次迭代后，正交频分复用系统性能得到明显的改善，同时降低了计算的难度。这一结果对光通信技术的研究是有帮助的。

给出了时域相位光码分多址系统(OCDMA)的噪声模型,提出了由码间串扰(ISI)所引起的自差拍噪声(SB)概念。利用鞍点近似法分析了多址干扰(MAI)、码间串扰、自差拍等噪声对系统性能的影响,给出了系统误码率公式。对最佳门限接收系统以及采用光硬件限幅器的系统性能进行了仿真研究,表明“1”码的误判概率是影响系统的决定性因素,也是开关键控(OOK)系统难以克服的主要问题。最后给出一种采用双编/解码器平衡检测系统的原理框图,分析其性能,并与传统OOK系统比较,结果表明其性能有较大的提高。