对于偏分复用的正交相移键控(PM-QPSK)相干接收系统，提出了一种修正的基于高阶统计矩的光信噪比（OSNR）监测方案，讨论了不同占空比调制格式的修正结果以及该修正结果对剩余色散（CD）和偏振模色散（PMD）的容忍度。搭建了112 Gb/s PM-QPSK系统仿真平台，对8 dB～26 dB范围内的光信噪比进行了测量，结果表明提出的修正方案对不同码型的监测误差均小于0.5 dB。并且当OSNR为14 dB时，在0.5 dB的监测误差范围内，对CD的容忍度约为2800 ps/nm，对一阶PMD的容忍度约为65 ps。因此，这种修正方案可用于PM-QPSK相干接收系统中带内实时OSNR监测，且计算复杂度小、不需要额外的监测设备。

将π旋转型低密度奇偶校验(LDPC)码应用于100 Gb/s偏振复用差分正交相移键控(PDM-DQPSK)光通信系统中，进行了相应的数值仿真和性能分析比较，其中采用打孔技术得到了高码率的改进码型，并在纠错性能方面与原始码型进行了对比。在译码方面，推导了PDM-DQPSK系统的卡方统计模型，并与高斯统计模型进行了对比。结果表明，码率为0.5的π旋转型LDPC码在采用卡方统计信道概率模型时性能最佳，可使系统光信噪比(OSNR)在14.2 dB时保证误码率(BER)在10-9以下；在2 dB的OSNR代价情况下，系统可容忍102 ps/nm的色度色散(CD)、18 ps的一阶偏振模色散(PMD)，以及4.88×10-2 rad的非线性引起的最大相位偏移，由此可知π旋转型LDPC码可以极大地提高高速光通信系统的传输可靠性。

通过理论分析和数值仿真，建立了100 Gbit/s的光POLMUX（偏振复用）-CSRZ（载波抑制归零）-DQPSK（差分正交相移键控）系统，并研究了基于FDPC（频域相位共轭）的100 Gbit/s的高速光POLMUX-CSRZ-DQPSK传输系统。研究表明，FDPC不仅能够补偿系统的各阶色散，还能补偿系统的非线性效应，比传统的采用DCF(色散补偿光纤)的技术更有优势。