针对基于传统马赫-曾德尔干涉仪的差分相移键控（DPSK）解调系统对光源相干性的要求高、臂长差和码速失配容忍度低、容易受到振动和温度的影响等问题，提出了一种基于新型马赫-曾德尔干涉结构的DPSK解调系统，采用光信号两次经过马赫-曾德尔干涉结构、参考臂和干涉臂之间相对延时1 bit干涉的方式实现了DPSK信号的解调。通过仿真和实验相结合的方法验证了新型解调系统的原理正确性及其性能。在系统Q值大于7的情况下，新型解调系统臂长差和调制码速率之间的失配因子容忍区间达到了0.25~1.73，其中Q值下降小于3 dB 的区间达到了0.79~1.09。最后通过DPSK调制与解调实验以及温度稳定性验证实验证明了：在采用宽带光源（臂长差大于光源相干长度）的条件下，新型解调系统能够实现DPSK信号解调，降低了对光源相干性的要求，并且在0~70 ℃的环境中系统Q值在10以上，证明了系统具有较好的温度稳定性。

提出了采用基于非线性光纤环形镜(NOLM)的全光2R(再放大、再整形)再生器对星间差分相移键控(DPSK)信号进行放大、整形的方案。理论推导了再生器的工作原理，给出了对信号进行放大、整形的约束条件；仿真研究了再生器的输入输出功率特性和相位特性，分析了耦合器耦合系数对功率特性的影响。结果表明，全光2R再生器对基于自差探测的DPSK系统性能具有显著的改善作用，系统误码率较未使用再生器时降低接近两个量级。