离轴反射系统具有不产生色差、无中心遮拦、结构紧凑等特点，但受其非对称结构影响，其视场常常为线视场。基于Zemax设计了一种大对称视场的离轴三反系统，视场为13°×13°，相对孔径为1/5，焦距为800 mm，波长为400 mm~1 000 mm，主镜和三镜为自由曲面，次镜为二次曲面。设计结果表明:对称视场离轴三反系统的点列图直径均方根小于5 μm，80%能量在一个像元内，光学传递函数接近衍射极限，各项指标满足应用要求。

针对长焦镜头小型化、轻量化的设计需求，基于离轴三反结构探索紧凑型长焦光学系统设计方案。利用圆锥曲面焦点共轭的光学特性，通过相邻反射面焦点重合的方式构造可对轴上点完善成像的初始结构，并在此基础上，通过追迹特征光线建立针对离轴三反结构的光线无遮拦判定条件，从小视场出发制定视场扩展与自由曲面面形的优化设计策略。以长焦手机镜头为例，设计了一款F数为5、等效焦距达196 mm、视场范围±3.8°的离轴三反式紧凑型长焦镜头。其尺寸为26 mm×24 mm×10 mm，仅由3个反射面构成，MTF优于0.2@114 lp/mm，畸变低于0.5%，相对照度高于95%，像面无暗角。该系统无遮拦，无色差，且相较于常规潜望式长焦镜头，在小型化、轻量化方面具备明显优势，为紧凑型长焦镜头设计提供了新的解决思路。

针对超大面阵红外遥感探测的需求，设计了一个基于自由曲面的超大矩形视场制冷型离三反光学系统。系统采用一个偶次非球面反射镜和两个自由曲面反射镜组成二次成像的结构，具有实出瞳并与冷光阑匹配，能够实现100%的冷光阑效率。与其他离轴三反系统相比，该系统最大特点在于其适配了4 k分辨率的大面阵红外探测器，具有视场大、无遮拦、成像质量好等技术特点。系统焦距为150 mm，工作波段为1.5~5 μm，工作F数为5，视场为30°×25°。结构上，主镜采用偶次非球面，次镜和三镜采用XY多项式自由曲面，以校正大视场下的各种像差，系统在各个视场下调制传递函数在25 lp/mm处均大于0.4，满足大面阵红外探测器的成像质量要求。

离轴三反光学系统基于无孔径遮拦、可实现大视场等优势，结合自由度高、像差校正能力强的光学自由曲面，可以实现优异的光学性能。光学系统成像指标的不断提高促使反射式光学系统的口径和焦距不断增大，光学系统误差敏感度剧增，加工难度和装调敏感度也随之提高，耗费的时间和经济成本巨大。误差敏感度可以表征光学系统在失调后的敏感程度，误差敏感度低的光学系统公差精度要求宽松，在优化过程中控制误差敏感度可以实现像质与成本之间的最佳平衡。因此，降敏优化是光学系统设计过程中不可或缺的一环。文中提出的角度优化降敏设计方法和局部曲率控制降敏设计方法对一个焦距30 000 mm、F数为15、视场角1°×1°的大型自由曲面离轴三反光学系统进行了降敏设计并进行对比，结果表明，在光学系统构型无显著差异的情况下，使用两种降敏设计方法降敏后的光学系统像差校正理论结果均表现优异，调制传递函数（MTF）均接近衍射极限，两种降敏设计方法均可以有效降低光学系统误差敏感度。对比发现，局部曲率控制降敏设计方法降敏效果更好。

为保证大口径离轴三反消像散（Three-Mirror Anastigmat，TMA）光学系统在轨成像质量，探明离轴TMA系统中次镜位姿与主镜及三镜面形误差补偿机理，以矢量像差理论为基础，用Zernike多项式表述离轴TMA系统镜面面形误差，并对系统镜面面形误差进行解析。通过分析发现，位于非光阑位置三阶彗差经光瞳坐标变换衍生出与视场线性相关像散；提出结合失调离轴系统矢量像差校正解析式，以系统出瞳波像差RMS值为评价标准，构建离轴TMA系统像差补偿模型，利用次镜位姿对主镜及三镜存在面形误差的离轴TMA系统进行补偿。仿真实验表明：系统主镜存在0.5λ像散与彗差时，所构建像差补偿模型可将系统出瞳波像差由0.18λ补偿至0.08λ；系统三镜存在0.05λ像散与彗差时，可将出瞳波像差由0.3λ补偿至0.1λ，且当三镜面形误差在（−0.03λ，0.03λ）范围内时，可将系统各视场RMS值补偿至系统设计值，使系统成像质量满足要求，为大口径反射式空间望远镜在轨主动装调提供进一步理论指导。