为解决模分复用无源光网络（MDM‐PON）模式间串扰的问题，本文提出了一种基于多输入多输出（MIMO）预均衡的串扰消除方法。利用帧头插入的时分训练序列，在接收端相干检测后估计信道的冲激响应，并将其用于发送端MIMO均衡器抽头系数的计算。采用线偏振（LP）模式的模分复用（MDM）传输仿真系统对所提方法进行验证，并将所提方法与基于迫零（ZF）预编码的串扰消除方法进行了对比。结果表明：连接5 km少模光纤（FMF）时，与迫零预编码相比，MIMO预均衡使各模式（LP₀₁、LP₁₁、LP₂₁、LP₃₁）信号的误码率在满足7%硬判决‐前向纠错（HD‐FEC）门限时的发送光功率分别降低了3.0 dB、4.1 dB、1.2 dB和9.2 dB。另外，考虑到光纤色度色散的影响，本文进一步提出了带色散预补偿的MIMO预均衡器结构，该结构可以实现对色散的补偿。

对于少模光纤的理论模型分析尚未完善,采用光纤段的位移和旋转理论建立了少模光纤信道模型,该模型综合考虑了模式串扰和差分模时延等因素。为了提高系统性能,研究了采用概率成形和交织编码对信号传输性能的影响。仿真结果表明,16阶QAM(Quadrature Amplitude Modul)信号经过长为50 km的少模光纤传输后,在前向纠错极限为3.8×10 ^-3的情况下,光信噪比需求降低了3 dB,而且有效提升了传输距离。

为降低点到多点短距离模分复用传输中的模式串扰,提出了一种基于系数回传的预编码方法。设计了联合控制任意波形发生器（AWG）和示波器（DSO）的控制台，以及连接500 m少模光纤（FMF）的光子灯笼强度调制直接检测（IM-DD）模分复用传输系统，并选用LP01-LP01模式信道和LP11a-LP11b模式信道进行对比实验。实验结果表明：使用该方案之后的信号误码率在1.3E-2前向纠错（FEC）（G.975.1-25%OH）门限时，LP01-LP01、LP11a-LP11b进入光子灯笼的信号发送功率分别降低了约5 dBm、2 dBm。

提出了使用数字正交滤波降低LP_11a和LP_11b空间模式信号串扰的方法。基于模式选择性光子灯笼的强度调制直接检测(IM-DD)模分复用传输实验表明,PAM8信号在背靠背及经过500 m少模光纤的模分复用传输中,使用数字正交滤波方法结合传统的干扰抵消算法,可使信号的误码率(BER)降低至少2个数量级。该方法从信号处理的角度出发,为低成本、短距离模分复用数据传输中的模式串扰问题提供了一种解决方案。

作为亚波长的表面等离子体光波导,在传导电磁场模式的过程中,模式间的串扰是影响模式传输距离及其它物理特性的一个重要因素,因此本文首先系统地研究了两个平行放置的由介质-金属-介质纳米线阵列构成的混合表面等离子体光波导的模式耦合和串扰特性;其次作为对比,把波导结构变为金属-介质-金属纳米线阵列,同样平行放置两个来研究其模式耦合与串扰特性．研究结果表明,这两种混合表面等离子体光波导所支持的电磁场基模的耦合长度远大于其有效传输距离。因此在进行高密度集成时,模式间发生串扰的概率将会非常小。基于这种特性,这两种结构的混合表面等离子体光波导可以应用于高密度光子器件集成、纳米光子学和生物传感器等领域。