直线度现场标定是保证其在线测量精度的重要方法。在收发一体式激光五自由度测量结构的基础上，针对直线度现场标定中标定平台引入的阿贝误差和角锥棱镜成像误差，建立了直线度现场标定模型。根据该标定模型并结合五自由度测量装置的角度测量结果，提出一种直线度现场标定误差补偿方法。实验表明，该标定方法使标定系数误差减小到 0.2%以内，有效提高了直线度现场标定精度。

直线度测量中往往存在有限的测量范围、精度低和阿贝误差等问题。本文提出了一种高精密直线度外差干涉测量装置, 该装置由Koester棱镜、角锥棱镜、1/4波片、楔面棱镜和楔面反射镜构成。楔面棱镜为直线度传感元件, 角隅棱镜和楔面反射镜是测量信号的回光元件。双频激光信号进入直线度干涉仪后组成几何空间对称四光路测量信号。四路测量光走过几乎完全相同的路径有效地提高了干涉仪的稳定性, 并且使空程误差最小化。使用楔角为1°的楔角棱镜和2π/512细分的相位计, 直线度测量分辨力为17.71 nm。该方法不需要与行程同长的大反射参考镜, 但同样能实现高分辨率, 理论和实验证明空间对称测量结构避免了由俯仰, 偏转和滚转角引起的阿贝误差的串扰, 而且光学元件少, 结构简单, 方便易用, 结果可以直接溯源到米的定义。

衍射波前质量是衡量刻划光栅性能的重要指标之一, 光栅刻划机若存在阿贝误差, 将直接影响刻线位置精度, 从而影响光栅的波前质量。建立了刻划机阿贝误差与光栅衍射波前质量的物理模型, 并分析了该误差对波前质量的影响。针对该误差设计了一种基于双频激光干涉测量的阿贝误差测量光路, 测量了刻划机的阿贝误差, 根据物理模型对其导致的光栅衍射波前误差作了仿真分析, 并提出了基于双层工作台结构的误差控制校正方法。对两块尺寸为80 mm×100 mm、刻线密度为79 groove/mm的中阶梯光栅进行了阿贝误差校正前后的对比刻划实验。结果表明, 通过对阿贝误差的测量和校正, 光栅闪耀级次为-36级的衍射波前误差由0.529λ降低至0.159λ(λ=632.8 nm), 有效地降低了阿贝误差对光栅衍射波前质量的影响。

为避免常规三坐标测量机(CMM)中的阿贝误差, 同时降低导轨运动误差对测量机测量不确定度的影响, 研制了一种在三维测量方向上同时符合阿贝原则的纳米CMM工作台。该工作台做三维运动, x导轨和y导轨采用共平面结构; 工作台三维测量系统的测量线正交于一点且正交点与测头中心点重合, x向和y向测量系统的测量线与xy导轨面共面。针对本工作台的特点, 在参考常规三坐标测量机误差分析的基础上, 详细分析了该工作台中各项误差的影响, 给出了影响测量机不确定度的主要误差源, 并对这些误差提出了修正方法。在研制的工作台上对一等量块进行了实验测试。结果显示, 一等量块工作面的平面度测量标准差为11 nm, 台阶高度标准差为21 nm, 其中台阶高度测量平均值与检定值相差1 nm。理论分析和实验结果表明, 所研制的工作台从结构上避免了CMM中多项误差源的影响, 尤其是避免了阿贝误差的影响, 可用于高精度的三维测量。

提出一种利用双频激光干涉仪检测光栅刻划机分度丝杠的新型光路结构，推导出用于阿贝误差补偿的快速修正计算式，实现了丝杠测试过程中阿贝误差的实时修正，通过修正使不满足阿贝原则的测量系统获得了较高的测量精度。另外该方法还通过调整参考镜角锥棱镜消除了测量过程中丝杠轴向窜动引起的测量误差。实验结果表明，采用提出的方法在300mm的丝杠行程内修正的最大阿贝误差为1.39um，补偿后最大残差仅为0.48um，有效地提高了丝杠测量精度。