分析了GammaGamma大气信道模型下无线光载射频(ROFSO)通信系统传输BPSK信号的误码率性能, 推导出了该系统的误码率公式, 并且利用Matlab软件计算出理论值与仿真结果。研究发现, ROFSO系统与使用OOK调制的常规FSO系统相比具有良好的误码率性能, 不需要门限判决, 不存在性能限。同时, 通过分析传输距离、接收天线孔径和大气折射率结构常数等参数对系统的影响, 得到了不同参数对系统影响的规律。

提出了一种基于双平行马赫-增德尔调制器的全双工矢量信号传输系统。传统的光学倍频技术只适用于NRZ (not return to zero) 等强度调制格式，而不适用于无线通信中常用的MPSK、MQAM等矢量信号调制技术，用传统的倍频技术生成光毫米波后，用滤波器将其2个边带分开，在其中一个边带上调制矢量信号，这样幅度和相位信息被正确保留，且使用了8倍频模块，降低了传输过程中对光电器件的带宽要求。理论分析和仿真结果表明：通过此方法产生的携带在60 GHz载波上的625-Msymbol/s的4QPSK信号，经过20 km单模光纤传输后，误差向量幅度损耗可以忽略不计。

提出一种基于双并联马赫曾德尔调制器（MZM）的新型四倍频光生毫米波技术，并用于矢量信号调制。传统的四倍频调制技术，由于数据信号同时调制到+2，-2阶边带上，拍频检测后两个边带上数据信号会产生相位叠加，只适用于不归零码(NRZ)等强度调制格式。提出的矢量信号调制技术将数据信号调制在一个-1阶边带上，另一个+3阶边带不携带数据，在拍频检测后幅度和相位信息被正确保留。同时，四倍频模块降低了传输过程中对电和光器件的带宽需求。理论分析和仿真结果表明，通过此方法产生的携带在60 GHz载波上的6.25×108 symbol/s的四相相移键控(QPSK)信号，经过20 km单模光纤传输后，误差向量幅度（EVM）损耗可以忽略。

利用非线性薛定谔方程，推导计算了基于光学单边带调制的光载射频链路中交叉相位调制引起的非线性串扰，建立了新的分析模型，并和抽运探测法进行了比较.该模型可以用来分析不同的ROF链路，特别是波分复用光电上转换链路.得到了单链路和波分复用链路的传输眼图.信道中由交叉相位调制引起的非线性串扰和调制频率，泵浦和探测能量，光纤长度以及信道间隔等有关，通过仿真验证了理论分析.