光混沌信号受限于光纤中的色散和非线性效应，难以实现远距离同步。同时，由于光注入混沌同步采用纯光域信号处理，无法与现有通信系统中的电域非线性补偿融合。因此，从非线性薛定谔方程出发，提出色散管理与基于光域的非线性管理相融合的技术方案，实现激光混沌远距离同步。然后，详细研究了不同传输距离、不同注入强度下的同步和传输特性。结果表明，在传输距离为1000 km、注入强度为0.5 mW情况下，系统能够实现信息速率为1 Gb/s的保密通信，同步载波相关系数能够达到0.97以上。

基于中距相位共轭（OPC）结合色散管理的光纤非线性补偿方案，可满足OPC的传输对称性，改善非线性补偿效果，但是该方案用到了大量的反向色散光纤（IDF），不仅不便于对现有线路的升级改造，而且IDF尚未形成量产。采用色散补偿光纤（DCF）代替上述方案中的IDF，对两种方案（分别称为IDF方案和DCF方案）的非线性补偿性能进行了比较，详细考察了两种方案对信道内四波混频（IFWM）的补偿。通过数值计算发现，如果在DCF方案中采取非对称功率传输，则可获得接近于IDF方案的理想补偿效果。

介绍了多晶硅电阻非线性度对信号链整体电路性能的影响, 分析了多晶硅电阻非线性产生的原因。提出了衬底电位补偿和组合多晶补偿两种非线性补偿设计方法。采用仿真和测试, 对比了未经补偿、新补偿方法的12位D/A转换器的性能。结果表明, 经过多晶硅电阻补偿和非线性补偿后的D/A转换器达到了更优的线性度。

作为一种针对调制格式的优化技术，星座整形技术极大提高了传统编码调制方案的灵活性、非线性补偿和误码性能，具有能够在不增加系统发送功率、复杂性的前提下，获得高频谱效率和实现接近香农极限的信号传输等特性，在多个领域得到广泛的应用。本文介绍了国内外星座整形技术方案的研究现状和最新进展，特别是基于概率整形技术实现类型、方法、架构等层面，从多个角度着重分析了算术编码概率整形的基本原理、性能对比和相关应用，在不同的系统和场景下对比评估概率整形技术带来的增益，并总结了光通信中概率整形技术目前面临的问题及未来的发展趋势。

光纤法布里-珀罗可调滤波器（FFP-TF）是组成光纤布拉格光栅传感器解调系统的核心器件之一，其稳定性对解调精度至关重要，而温度漂移是影响其稳定性的关键因素之一。最小二乘支持向量机（LSSVM）的非线性映射能力可以对漂移进行有效补偿，针对传统LSSVM模型参数选取易陷入局部最优的问题，基于改进的天牛须搜索粒子群优化算法在全局范围内寻找LSSVM模型的最优惩罚因子和核参数。实验结果表明，用优化的LSSVM对FFP-TF进行温度漂移补偿，可将最大温度漂移误差从1025.21 pm减小到±3.03 pm，提高了变温环境下FFP-TF解调的温度稳定性。

为解决现有测量接触网隔离开关角度的电子式传感器取电难、易受电磁干扰等问题, 采用光纤传感器设计了一款用于测量隔离开关角度的传感器, 利用以直代曲的思想, 将接触网隔离开关的旋转角度转换为光纤测距的方式进行测量, 采用曲线拟合算法对所设计的光纤角度传感器存在的非线性进行补偿, 并将补偿后的光纤角度传感器同高精度霍尔角度传感器一起安装在SBE27.5kV/2 000A隔离开关上进行试验测试。试验结果表明：相比于常用的BP神经网络, 经曲线拟合算法校正后的光纤角度传感器拟合度由92.47%提高到了99.94%, 线性度由9.66%提高到了0.84%, 光纤角度传感器的精确度达到了0.677。表明该方案具有较高的精确度和较强的可行性, 适用于对接触网隔离开关分合闸的检测。

为应对相干光通信系统中光纤非线性损伤,结合由非线性薛定谔方程的一阶摄动解推导出的三元组,提出一种基于深度神经网络(DNN)和改进型主成分分析(IPCA)的光纤非线性补偿(NLC)算法。为了验证提出的NLC方案的可行性,构建了单通道32 GBaud偏振复用16阶正交幅度调制(PDM-16QAM)的光传输系统。综合数值仿真结果表明,相较于DNN-NLC方案,IPCA-DNN-NLC方案以Q值降低0.06 dB为代价,使计算复杂度降低了90.7%,由此证明IPCA-DNN-NLC方案能以很低的复杂度实现相近的NLC性能;相较于数字反向传播(DBP)方案,IPCA-DNN-NLC方案在800 km的传输距离下Q值提升了0.91 dB,并可在不预知链路参数的情况下工作,具有普适性和鲁棒性。

针对偏振复用—正交相移键控(PDM-QPSK)无中继光纤传输系统中的非线性损伤问题，文章重点研究了一种基于K最邻近(KNN)聚类算法的非线性补偿技术。通过计算测试数据到所有训练数据点的距离对测试数据进行分类实现了对光纤非线性补偿。研究结果表明，在112 Gbit/s PDM-QPSK 350 km色散管理无中继光纤传输系统中，基于KNN算法的非线性补偿技术能够有效地补偿传输光纤非线性引起的损伤。特别地，在系统误码率为10-3时，经KNN算法非线性补偿后输入端信号的光功率可提升约1 dBm。

在相干光纤通信系统中，为了提高接收端的相位追踪算法性能，提出了一种相位追踪算法——基于改进的判决导向递归最小二乘(DD-RLS)算法，将改进的DD-RLS算法和非线性前补算法结合应用于WDM相干光纤系统中抑制交叉相位调制(XPM)。传输仿真结果表明：该算法能够有效抑制系统中的XPM效应，在1000 km的11个信道的波分复用(WDM)系统传输中，相比传统DD-RLS算法，该算法能够更好地追踪相干WDM系统中的非线性相位噪声,信号Q2值提高了0.8 dB。