针对密集波分复用（dense wavelength division multiplexing，DWDM）系统中四波混频（four-wave mixing，FWM）效应会导致系统性能降低，提出一种抑制DWDM系统中FWM效应的方法。该方法首先在不同数据速率的光网络中比较分析3种色散补偿方式，确定分离色散的色散补偿方式，在8信道和16信道的通信系统中分别对此种色散补偿方式和增益进行分离确定FWM效应的影响，并在多次分离优化后利用预啁啾进一步抑制FWM，对信道误码率（bit error rate，BER）进行数值计算，分析系统性能。结果表明，在8信道和16信道系统中，随着色散与增益分离次数的增加，光纤中的FWM效应得到了有效的抑制，且在预啁啾情况下FWM效应降至更低，信道中的最小BER分别为5.08×10^-19和8.77×10^-17，可为下一代高容量光纤通信系统的发展提供重要的参考和指导。

为了降低大气湍流引起的光强起伏等扰动效应，提出了一种非均匀关联倒置针状光束（NUCIPB）。基于相干模式分解和随机相位屏法，建立了所提光束在大气湍流中传输的数值仿真模型，仿真分析了该光束经自由空间和湍流大气传输过程中的光强演化特性。采用孔径平均闪烁指数、光束漂移、波束展宽等作为大气湍流影响光束质量的评价参数，并在此基础上仿真计算了用作空间光通信链路时的平均误码率，对比了NUCIPB、倒置针状光束（IPB）、针状光束（PB）、贝塞尔光束（BB）、高斯光束（GB）在相同条件下的传输及通信性能。计算结果显示，强湍流下传输10 km后，IPB和NUCIPB的闪烁指数分别较GB降低了67.2%、78.0%，相应的误码率分别降低约63.4%、78.5%，波束扩展程度上NUCIPB相比于GB、IPB分别降低了38.4%、5.1%，并且该光束在保持IPB传输特性的基础上还展现出自聚焦特性。仿真结果表明，相较于完全相干的IPB，NUCIPB能够更加有效地抑制湍流带来的负面效应并在一定程度上提高激光远距离通信性能。

正交频分复用（OFDM）系统应用于可见光通信（VLC）中时，存在易受多径干扰、噪声频偏和较高的峰均比(PAPR)等因素影响的问题。提出一种基于滤波器组多载波（FBMC）的VLC系统。首先，运用偏移正交幅度调制（OQAM）和由逆快速傅里叶变换（IFFT）和多相网络（PPN）组成的综合滤波器，有效提升系统误码率性能，并减少带外泄露。然后，通过蒙特卡罗方法对其进行仿真验证。仿真与实验结果表明：在子载波数量为128、调制方式为16QAM且系统误码率为10^-3的情况下，所提出的系统相较于OFDM系统所需的信噪比（SNR）改善了大约5 dB；同时，在归一化频率为0.1时，所提系统的带外泄漏功率相对于OFDM系统减少了40 dB，而系统的调制误差率（MER）达到了19.6 dB。

针对室内多输入多输出可见光通信系统中收发端密集化布局可能引发的信道间强相关性问题，进而产生信道间干扰，严重影响通信质量。为了应对这一挑战，提出将格基约减技术应用于室内可见光通信系统中。通过实施对可见光信道的约减操作，以降低信道间的相关性，并应用该约减后的信道矩阵，结合迫零准则和最小均方误差准则，在发射端进行预编码设计。仿真实验结果表明：应用格基约减技术可以有效改善室内可见光信道正交性，且收发机数目越多，信道相关性改善效果越明显；而应用迫零准则和最小均方误差准则，可以有效提升系统误码率性能。

针对大气信道下远距离通信，高斯光束受大气湍流信道影响，导致接收耦合能量低的问题，提出了一种适用于大气湍流信道的高斯光斑空间传输的高效耦合方法。该方法从高斯光斑光强、闪烁指数(scintillation index,SI)分布特性的角度出发，通过监测光强与闪烁指数的统计数值作为反馈，控制发射端抑制湍流引起的光强闪烁，实现了光束的高效耦合，提升通信系统性能。并通过搭建1 km激光通信实验进行验证，结果表明：根据信道闪烁监测调整终端后，平均光强从19.63 μW增加至24.91 μW，闪烁指数从0.140降低至0.088，通信误码率(bit error rate,BER)从1.27×10-6降低到1.07×10-10，通信BER在弱湍流条件下改善了4个数量级。该方法能够有效提升大气激光通信系统的性能，为大气激光通信系统的推广与应用奠定基础。

为了研究由太阳活动引起的X射线耀斑对星地量子链路通信性能的影响，本文基于Chapman理论构建了电离层电子密度增量模型，并基于此模型得到了关于X射线耀斑辐射通量及太阳天顶角的电离层额外衰减因子。通过仿真分析了基于均值的加权信道容量、基于区间的加权信道生存函数、量子信道建立速率及量子密钥分发(quantum key distribution,QKD)系统误码率(bit error rate,BER)随X射线耀斑辐射等级的变化情况。结果表明，在X射线耀斑干扰下，电离层电子密度最大增量可达2.78×106 cm-3；当光量子信号穿过厚度为1 km的电离层，X射线耀斑辐射通量由10-5 W/m2增至10-4 W/m2时，均值加权信道容量衰减幅度为0.142 bit/s；当X射线耀斑辐射通量由10-5.5 W/m2增至10-4.25 W/m2，区间加权信道生存函数由0.986衰减至 0.799，信道维持高效服务状态的能力大幅降低；当加权信道保真度F′=0.92时，随着X射线耀斑辐射通量由10-5.2 W/m2增至10-4.4 W/m2,当信号传输距离为6 km时信道建立速率由18对/s衰减至7对/s；当传输距离为15 km,X射线耀斑辐射等级为重级(heavy)时，密钥分发系统BER高达0.021，且该BER会随着电子密度的增加而增加。因此，X射线耀斑对星地量子通信链路的影响不容忽视，可根据X射线耀斑辐射等级适当调整量子卫星的各项参数指标以保证通信的可靠性与有效性。

在远距离水下激光通信中，光衰减的影响会使得链路传输效率受限和捕获范围过大，从而导致通信接收端光功率下降、系统性能降低。为实现快速建链和稳定通信，提出通信光兼顾信标光可变束散角发射技术的新方法。束散角调控系统由齿轮转动调焦结构配合变焦电机控制镜片水平移动，通过改变光学镜片的间距进而改变光束焦距，来实现束散角的精准调控。从通信误码率和捕获时间两个角度，分析变束散角对水下激光通信链路的优化效果。在泳池内开展水下激光通信实验，在水质衰减系数为0.19 m^-1的条件下，通信距离为40 m；测量捕获时间和通信误码率，实际的捕获时间为41.5 s，通信误码率为3.62×10^－6。仿真和实验结果均表明：束散角调控系统相比于传统系统，可以将捕获时间缩短至60 s以内，同时误码率降低2个数量级。

在无线通信技术的迅速发展中，正交幅度调制（QAM）已成为卫星通信和移动通信领域的关键调制技术。误码率（BER）作为评估无线通信系统可靠性的核心指标，研究降低BER的方法显得尤为重要。为优化QAM技术并降低BER，介绍了一种QAM改进方法。该方法的核心在于将传统的QAM技术中的2个正交载波信号，转换为3个在相同频带内相互伪正交的载波信号，这3个载波信号在调制后，会与1个数字信号进行叠加。通过这种设计，减少了每个信号所承载的数据量，从而在三维空间星座图中，任意2个点之间的最小距离得以最大化。这一改变不仅提升了噪声容限，还有效降低了系统的BER。为验证这一改进方法的有效性，将其与相移键控（PSK）和传统QAM进行仿真比较。仿真结果显示，提出的三通道QAM方法与理论预期的性能一致，验证了其在实际应用中的可行性和优势。

传统基于范数天线选择的可见光广义空间调制-多输入多输出（OGSM-MIMO）系统不能最大化系统信道容量，且发射端等功率分配未均衡信道质量，使系统信道容量和可靠性受到制约。针对信道范数和相似系数对信道容量的影响，推导了范数联合相似系数对信道容量影响的数学模型，设计了范数联合相似系数的天线组合算法来最大化系统信道容量，利用粒子群优化算法设计了基于信道容量的适应度函数，对选定的天线进行最优功率配置，提升系统传输质量，并采用分段式界理论与蒙特卡罗方法对系统性能进行理论推导与实验验证。结果表明：当误码率为10^-3，采用BPSK调制方式，发射天线数量为6时，范数联合相似系数的天线选择算法的误码性能相较于随机选择算法、RSS选择算法和范数选择算法分别提升了7.4 dB、5.8 dB和3.2 dB，且采用粒子群优化功率分配算法后的OGSM-MIMO系统所需信噪比改善了4.5 dB。