基于包含五次复系数的高阶Ginzburg-Landau方程为模型，采用分步傅里叶方法数值研究了啁啾类超短脉冲间的相互作用。结果表明：相邻孤子之间的相互作用对五阶非线性效应非常敏感，即使参数改变很小的值，也会改变其传输特性。适当地选择五阶非线性参数值，能够很好地抑制孤子间的相互作用，提高光纤传输的比特率。当相邻孤子的初始间距为6.8，五阶非线性参数值取-0.001时，可以实现2个孤子长距离的保型传输。最后讨论了五阶非线性作用下多孤子之间的相互作用及抑制。

从非线性薛定谔方程出发,用变分法得出了描述锐度因子为不同自然数的超高斯脉冲在光 纤色散(二阶和高阶)和非线性(三阶和五阶)作用下传输的微分方程组,用龙格-库塔算法对微分 方程组进行数值求解。结果表明对于给定的较小的光纤色散和非线性系数,都存在特定的三阶和 五阶非线性系数使非线性有效地对高阶和二阶色散给脉冲传输造成的展宽影响加以补偿,此时 超高斯脉冲在光纤以近似保形的状态稳定传输。当色散系数与非线性系数之比太大时脉冲将被无限展宽。

推导了同向传播但波长不同的两光波，在三、五阶非线性效应同时作用下、基于超常介质Drude色散模型的耦合非线性薛定谔方程组和交叉相位调制引起的调制不稳定性（XMI）的增益公式，分析了五阶非线性效应对交叉相位调制引起的不稳定增益谱的影响。结果表明，五阶非线性效应加强了调制不稳定性，使增益谱变宽，峰值变大，并且反常群速度色散（GVD）区域调制不稳定性的增益明显大于正常GVD区域。比较了考虑群速度矢配(GVM)与忽略GVM的两种情况，发现GVM对XMI起了重要的作用。当两列光脉冲同时在正折射率区域或在不同的折射率区域传播时XMI最严重。

应用多光子非线性Compton散射模型和非线性薛定谔方程, 研究了Compton散射对五阶非线性零色散附近调制不稳定性的影响。将入射光和Compton散射光作为产生调制不稳定性的机制, 分析了光纤损耗、四阶色散和五阶非线性对增益谱的影响。结果表明: 散射下的正或负五阶非线性分别使零色散附近的增益谱宽和峰值比散射前增大得更大或减小得更小；四阶色散使增益谱宽比散射前宽, 对负色散区增益谱的影响强于对正色散区的影响；但对两个区域的影响均不能忽略, 这主要是由于散射使色散和非线性明显增大的缘故。

根据包含五阶非线性的扩展非线性薛定谔方程，数值研究了高斯型连续谱相位扰动而不是传统单色扰动下基于调制不稳定性的高重复率脉冲串产生.结果表明：脉冲串也能像传统情形那样形成，但却呈现出不同的特性.如脉冲数目有限，且各脉冲的高度、强度及间距不等.脉冲数目随传输距离增加而增加.而五阶非线性能使脉冲宽度和间距变小因而有利于高重复率脉冲串产生，负五阶非线性则相反.对脉冲串形成过程中演变啁啾的数值计算表明，啁啾及其随距离的变化都是高度非单调的，五阶非线性将改变啁啾的范围和量值.

对五阶非线性效应下三阶孤子间的相互作用进行了数值研究,结果表明:正五阶非线性作用将会导致 三阶孤子对波形进一步恶化。在负五阶非线性作用下,原来的三阶孤子很快发生裂变,三阶孤子对同相位时, 裂变后峰值小的两孤脉冲位于内侧,两个三阶孤子表现出先吸引、碰撞,然后聚合成一个孤脉冲。 三阶孤子对反相位时,裂变后峰值强度小的孤脉冲位于外侧,并且一直保持排斥状态,每个三阶孤子 裂变数目随负五阶非线性参数绝对值的增大而增多。适当选取负五阶非线性参数值,可以有效地抑制三阶孤子间的相互作用。

为了探讨光纤中高阶效应下与扰动频率相关的交叉相位调制不稳定性条件和增益谱特点,从包含5阶非线性和4阶色散的耦合非线性薛定谔方程出发,采用线性稳定性分析,计算分析了两光波扰动频率不等时的不稳定性条件和增益谱。结果表明,当2阶、4阶色散同号时,增益谱有两种可能的形式,其中一种的谱范围包含了另一种的。被包含谱的不稳定条件与通常情况不同,且谱特性受色散和5阶非线性的影响小。随着某一扰动频率增大,增益谱的谱区数及变化规律将随两光波所处的光纤色散区的不同而不同。而正(负)5阶非线性可使谱峰增加(减小)、谱宽变宽(窄)。该研究对高重复率脉冲串产生具有一定意义。

为了研究5阶非线性效应对光脉冲在光纤中传输的影响,采用分步傅里叶算法数值求解了含5阶非线性项的扩展非线性薛定谔方程,并进行了理论分析和数值模拟。计算结果显示,负的5阶非线性效应使光脉冲峰值减小,脉冲展宽,正的5阶非线性效应使峰值增大,脉冲被压缩。较小的5阶非线性效应产生较小的调制不稳定性,因而光脉冲能保持基本的形状,忽略光纤的损耗时,光脉冲保持绝热传输。对正的5阶非线性效应,适当小的损耗可以减缓调制是不稳定性。结果表明,在5阶非线性系数固定的情况下,初始入射脉冲的峰值会显著地增加5阶非线性项的贡献。

在同时考虑四阶色散和五阶非线性的情况下，以扩展的非线性薛定谔方程为基础，研究了有损光纤中双光束交叉相位调制(XPM)不稳定性。结果表明：由于四阶色散的影响，在光纤的正、反常色散区，XPM所致的调制不稳定性可发生在两个频谱区；正、负五阶非线性的存在分别对XPM不稳定性起加强和减弱作用。

为了探讨光纤中五阶非线性下不同形状光脉冲对的交叉相位调制特性，从包含五阶非线性效应的扩展耦合非线性薛定谔方程组出发，导出了不同形状光脉冲对的非线性相移和频率啁啾公式。计算并比较了它们的相移、啁啾和功率频谱。结果表明，较强的负五阶非线性对相移、啁啾和频谱曲线中心附近的形状有较大的影响，而正五阶(较弱的负五阶)非线性则只使相移和啁啾量增大(减小)，使频谱变宽(变窄)、谱峰变多(变少)。孤子对和高斯对的谱形相似，随五阶非线性系数的不同，能量最强的谱峰可能在中央附近也可能在最边缘处。各阶超高斯对的谱形也相似，但能量大部分集中在中央峰处。研究对光脉冲压缩、光开关器件和光纤通信系统性能的提高等有一定的意义。