光学学报, 2019, 39 (9): 0911001, 网络出版: 2019-09-09   

针对广域像移变化的数字时间延迟积分方法 下载: 995次

Digital Time Delay and Integration Method for Wide-Range Image Motion Variation
作者单位
1 中国科学院长春光学精密机械与物理研究所, 吉林 长春 130033
2 中国科学院大学, 北京 100049
摘要
为解决现有电子式像移补偿在扫描方向上补偿范围有限的问题,提出一种适用于沿扫描方向广域像移大小变化的数字时间延迟积分(TDI)方法。首先基于像移计算结果判断像移大小是否在电子行频可补偿的范围内,当在不可补偿范围时,基于利用图像插值和配准像素对位累加来调整像移失配量的思想,构建任意像移大小的数字TDI算法模型,并对所提算法进行实验验证。实验结果表明:当96级积分的总像移量远小于像元尺寸时,所提算法与逐行累加的传统TDI方法成像结果相当;当96级积分的总像移量大于像元尺寸时,总像移量超出电子式像移可补偿范围,传统TDI方法扫描图像发生严重混叠,成像质量急剧下降,而所提算法获取图像的像移传递函数和互相关性测度均提高0.11,可有效保持成像质量。
Abstract
The compensable range of the existing electronic image motion compensation method is limited in scanning direction. To solve this problem, a digital time delay and integration (TDI) method suitable for wide-range image motion variation in scanning direction is proposed. First, based on the image motion calculation results, whether the image motion is within the range of electron frequency compensability is judged. Then, the image motion mismatch in scanning direction will be adjusted by image interpolation and matched pixel accumulation when it is not within the compensable range. A digital TDI algorithm model suitable for arbitrary image motion is constructed. Finally, the proposed algorithm is verified by experiments. The experimental results show that when the total image motion of 96-stage integration is much smaller than one pixel size, the image quality of the proposed algorithm is similar to that of the traditional TDI method, but when the total image motion of 96-stage integration is larger than one pixel size, which exceeds the compensable range of the electronic method, the image quality of the proposed algorithm is much better than that of the traditional TDI method. The traditional TDI method causes serious aliasing and the image quality drops sharply; however, the proposed algorithm can maintain the image quality effectively. Both the image motion transfer function and the similarity correlation measure can be improved by 0.11 using the proposed algorithm.

1 引言

时间延迟积分(TDI)技术通过对同一目标多次曝光,在与推扫速度严格匹配时可大幅提高成像系统的灵敏度和信噪比[1],因此被广泛应用于高分辨率航天遥感、机器视觉、微光成像等领域。无论是电荷域、模拟域还是数字域TDI,TDI成像模式都存在像移失配,出现这种现象的原因是卫星在轨的姿态、轨道参数在实时变化,星下点的经纬度也不断改变,导致像平面的像移速度矢不固定;且在敏捷成像模式下像移变化现象更为显著[2-4]。因此,在航天相机推摆扫成像过程中必须有精密的像移补偿机制,尤其在敏捷成像时还要求有很高的卫星姿态稳定度,否则像移失配现象将引起系统传递函数下降,甚至使图像发生畸变和模糊[5]

目前国内在相移补偿方面普遍采用机械式调偏流和电子式调像移速度大小相结合的方法,即根据像移速度矢的计算结果调整调偏流机构的运动来补偿像移速度矢的角度偏差,通过调整TDI行转移频率来补偿像移速度矢的大小偏差[5-6]

对地遥感卫星为了获取高分辨率图像,通常运行于太阳同步轨道。受稀薄大气阻力的影响,卫星轨道会逐渐衰变。为了使卫星维持在标称轨道,每隔一段时间就需要燃料推进。然而,当携带燃料耗尽时,卫星轨道只能逐渐衰退并最终坠入大气层烧毁,这个过程称为卫星轨道末期。由于太空中的空气甚为稀薄,卫星轨道末期比较漫长,短则几个月,长则几年[7-8]

在卫星轨道末期,成像系统通常会受自身参数限制而不能进行正常成像。尤其对于目前普遍采用的TDI航天遥感相机而言,轨道末期像移速度要求的行转移时间已超出CCD或CMOS(complementary metal oxide semiconductor)器件允许的工作范围,因此只能得到区域性混叠的欠采样图像。然而,轨道衰变是一个漫长的时期,此时若能进行一些非常规模式的成像,则对于提高卫星利用率意义重大。目前,研究较多的方法大多是图像复原算法。如文献[ 8]阐述了一种通过建立轨道末期成像模型进行图像复原的方法,但该算法的计算量大。文献[ 9]提出一种TDI行点扩展函数计算和相邻行合并复原的方法,并采用该方法对TDI模糊图像进行复原,虽然提升了计算速度,但却牺牲了图像的复原质量。上述图像复原算法均是基于欠采样混叠图像的后处理,图像信息已经丢失。

本课题组在前期工作中开展了大量逐行累加的数字域TDI通用算法的研究[10-12]。为了解决上述问题,本文利用数字域TDI操作灵活的优势,在前期数字域TDI通用算法研究的基础上进行进一步改进,提出一种适用于沿扫描方向任意像移大小的数字TDI算法。该算法结合传感器的工作特点,利用图像插值和配准像素对位累加思想,构建电子补偿和图像补偿相结合的数字积分模型,在标称轨道和轨道末期均可直接获取无区域性混叠图像。相对于现有TDI相机在轨道末期有限的像移可补偿范围,本文算法可适用于标称轨道及轨道末期沿扫描方向广域像移变化的情况。

2 数字域TDI通用算法工作原理

数字域TDI通用算法工作原理如图1所示。在推扫成像过程中,目标像素将自上而下依次扫过各级TDI像元,而每级像元对目标的凝视时间为一个行周期T。在第一个行周期,利用第一级像元对目标进行曝光。在第二个行周期,目标恰好移动到第二级像元的成像区域,利用第二级像元对同一目标进行曝光,并在前级转入信号的基础上继续收集该次曝光信号,当积分结束时,累加信号再转入第三级像元。依次类推,直到第M个行周期,第M级像元信号与前面共M-1级像元对同一目标的信号累加后,读出积分信号。显然,M级积分信号是单级信号的M倍,若响应率为Re,则其输出信号为

S=EAReTM,(1)

式中:E为输入光照度;A为传感器的光敏元面积;T为积分时间。

根据上述描述,数字域TDI通用算法除了将信号累加操作置于数字域外,其基本原理与TDI CCD、模拟域TDI并无区别,均采用同列像素逐行累加策略[13-16]。即在推扫成像过程中,要求每个行周期目标恰好移动一个像元尺寸的距离,否则在固定的逐行累加操作下,将会引起图像畸变和模糊。

3 广域像移变化的数字TDI算法

根据光学系统设计,遥感相机分辨率随着轨道高度的降低而提高。地面像元分辨率DGS求解公式为

DGS=Ha/f,(2)

式中:a为CMOS像元尺寸;f为光学系统焦距;H为轨道高度。在保证逐行叠加的数字TDI算法能清晰成像的前提下,随着地面分辨率的提高,要求的行转移时间Tneed会显著缩短,Tneed满足

vgTneed=DGS,(3)

图 1. 数字域TDI通用算法工作原理

Fig. 1. Working principle of digital TDI general algorithm

下载图片 查看所有图片

式中:vg为卫星地速,与卫星轨道速度具有相同的角速率。根据万有引力提供向心力理论,可得vgH的关系为

vg=[R/(R+H)]μ/(R+H),(4)

式中:R为地球半径;μ为地球引力常数。

将(4)式代入(3)式,得到Tneed的计算式为

Tneed=(Ha/f)/{[R/(R+H)]μ/(R+H)}(5)

由(5)式可知,TneedH5/2,因此要求的Tneed会随着H降低而急剧下降。然而,任何传感器的读出频率都有一个上限值,当达到其上限读出频率时,行周期将不再继续降低,因此在轨道末期受传感器读出频率的限制,像移速度失配将会越来越严重。

为解决上述问题,本文提出一种适用于广域像移变化条件下的数字TDI算法。算法流程如图2所示。

首先,对拍照时刻地物点在像面上的像移速度进行时间积分,得到第i+1帧图像的像移量计算式为

SP(i)=0iTfrmvpdt,(6)

式中:Tfrm为帧周期。为使数字域像素可以配准叠加,像移量对应的像素个数应为

Δn(i)=SP(i)/a(7)

图 2. 广域像移变化的数字TDI算法流程图

Fig. 2. Flowchart of digital TDI algorithm for wide-range image motion variation

下载图片 查看所有图片

将第i帧像素矩阵用Pi表示,其第m行第n列像素表示为Pi(m,n)。为了实现对应地物的亚像素级累加,首先需要对像移个数为非整数的图像进行插值:

P'i+1(m,n)=α(i)P'i[m+Δβ(i),n]+[1-α(i)]Pi+1(m,n),mR[1,nlines-Δβ(i)]α(i)Pi+1(m-1,n)+[1-α(i)]Pi+1(m,n),mR[nlines-Δβ(i)+1,nlines],(8)

其中

α(i)=rem[Δn(i)],(9)β(i)=int[Δn(i)],(10)Δβ(i)=β(i)-β(i-1),(11)

式中:rem(·)为取余函数;int(·)为取整函数;nlines为图像行数。将插值后的结果与原有像素矩阵叠加,得到TDI后第i帧像素矩阵Pi+1的第m行第n列像素为

Pi+1(m,n)=Pi[m+Δβ(i),n]+P'i+1(m,n),mR[1,nlines-Δβ(i)]P'i+1(m,n),mR[nlines-Δβ(i)+1,nlines](12)

结合(8)式与(12)式得到插值和叠加操作的简化公式为

Pi+1(m,n)=[1+α(i)]Pi[m+Δβ(i),n]+[1-α(i)]Pi+1(m,n),mR[1,nlines-Δβ(i)]α(i)Pi+1(m-1,n)+[1-α(i)]Pi+1(m,n),mR[nlines-Δβ(i)+1,nlines](13)

定义像移量变化率ε=β(i+j)(i)。以图3为例,得到各帧周期输出的行数据如下。其中当ε>1时,为避免丢行,需在每帧叠加完的第一行输出前,从前一叠加帧输出缺失行:

Nsignal(i)=Pi(1),i=1,2,3,4Pi-1(2)Pi(1),i=5,6(14)

以此类推,得到第i帧输出信号的表达式为

Nsignal(i)=Pi-1[β(i-1)-β(i-2)]Pi-1[β(i-1)-β(i-2)-1]Pi-1(2)Pi(1)。 (15)

以上插值方法完成了像素位移个数向下取整的上溯插值。该方法操作简便,但是会存在某些行数据叠加次数小于积分级数M的问题。因此,为了避免级数差异引起的失真,也为了使插值数据更接近真实值,当ε>1时,将插值改为向上追溯4个邻近帧插值缺失的1行数据,即

P'i+j+1(m,n)=k=03Pi+j-k[1+x=1k+1β(i+j-x),n]/4,M4Pi+j-k[1+x=2Mβ(i+j-x),n]/M,M<4(16)

因为相机在数字域TDI模式下,每个行周期将第一行累加数据输出作为M级积分值,所以第i个行周期第n个输出像素为

OM,i(j,n)=j=0β(i-M+1){Pi-M+1[(i-M+1)-j,n]+x=1M-1P'i-M+1+x[(M-x)β(i-M+1)-j,n]}(17)

图 3. 上溯插值示意图

Fig. 3. Retrospective interpolation diagram

下载图片 查看所有图片

算法设置一个最小行周期阈值(对于CMOS传感器,该阈值为最大读出频率时的帧周期),当通过姿轨参数和(5)式计算得到的所需行周期大于该阈值时,通过电子补偿像移;当所需行周期小于该阈值时,将行转移周期锁定为该阈值,然后利用图像法补偿像移。

在所提数字TDI算法中,电子像移补偿模型为

nlines=(Tneed-Tnicheng)/(trb+npixels/fs),(18)Tnicheng=Tneed-{(trb+npixels/fs)×rem[Tneed/(trb+npixels/fs)]},(19)

式中:trb为行空白时间,CMOS传感器需利用此时间进行相关双采样;fs为像素读出频率;npixels为每行像元数;Tnicheng为逆程时间。当像移速度不匹配且行周期大于阈值时,可以通过调整开窗行数(粗调)或逆程时间(精调)来改变行转移速度,从而改善像移失配引起的成像模糊。

4 实验结果与分析

首先选取合适的样本图像,然后用计算机模拟数字TDI成像,继而利用像移传递函数方法和互相关相似性测度方法对仿真图像进行分析比较。

1) 像移传递函数方法

假设将成像系统看作一个线性不变系统,那么景物经成像系统转化为积分后的数字图像的过程,可视为景物经过成像系统的传递过程。传递的频率不变,变化量是对比度和相位。随着对比度下降和相位推移,某一频率处的对比度会变为零。此时该频率的光强分布已经不存在亮度变化,即该频率被截止。一般而言,高频部分反映物体的细节传递情况,中频部分反映物体的层次传递情况,低频部分反映物体的轮廓传递情况,而表明各种频率传递情况的则是调制传递函数(MTF)。因此可以将像移对应的MTF用于评价像移匹配误差对成像质量的影响。

2) 互相关相似性测度方法

若原始图像表示为T(m,n),仿真图像表示为S(m,n),数字TDI CMOS成像系统扫描图像对应像素表示为Si,j(m,n),其中(i,j)代表对应像素的位置,M×N表示选取图像的大小。则其归一化互相关相似性测度为

σ=m=1Mn=1N[Si,j(m,n)×T(m,n)]/{m=1Mn=1N[Si,j(m,n)]2×m=1Mn=1N[T(m,n)]2}(20)

3) 仿真分析

选取某高分辨率原始遥感图像(如图4所示)作为假想景物样本。由像移速度匹配残余误差对MTF的影响可知,积分级数越大,MTF下降得越严重,图像越模糊,因此为了更好地验证算法性能,实验中应尽量选取高积分级数。参考IT-EN-06144-00-R型航天TDI CCD可设置积分级数为8,16,32,48,64,96,最终选取96级积分来验证所提算法,若96级积分仍可清晰成像,则其他低积分级数下也可满足要求。利用建立的广域像移大小数字TDI算法模型,仿真生成不同像移失配率情况下的96级数字域TDI图像,如图5(a)、图6(a)所示。为了对比分析,根据TDI通用算法工作原理,模拟同样条件下其扫描所得图像,结果如图5(b)、图6(b)所示。

图 4. 原始遥感图像

Fig. 4. Original remote sensing image

下载图片 查看所有图片

图 5. 像移失配率为0.5%时两种算法获取的图像。(a) 本文算法;(b) TDI通用算法

Fig. 5. Images obtained by two algorithms when image mismatch rate is 0.5%. (a) Proposed algorithm; (b) TDI general algorithm

下载图片 查看所有图片

在本实验中,影响最终图像传递函数的因素为目标自身对比度特性以及像移失配,图像传递函数fMT-IMG、目标传递函数fMT-OBJ和像移传递函数fMT-MAT三者之间满足关系fMT-IMG=fMT-OBJfMT-MAT。由于实验采用同一个样本图像作为基准,因此在各幅图像中由目标自身对比度特性引起的传递函数属于固定传递函数,此部分传递函数可通过由无像移失配(fMT-MAT=1)的基准样本图像计算的图像传递函数得到。采用刃边法对图像传递函数进行计算。分别在样本图像、两种算法获取的图像中选取同一区域的刃边图像,首先采用刃边法计算上述各图像中选取区域的图像传递函数,然后以样本图像的图像传递函数作为其他图像的目标传递函数,并利用3种传递函数关系式求取像移传递函数,算法越优,像移传递函数值越大。归一化互相关相似性测度中样本图像为S(m,n),将其与两种算法在不同像移失配率下获取的图像进行比较,得到计算结果,测度越高,说明图像失真越小。采用像移传递函数和互相关相似性测度方法对图像进行分析,结果见表1

图 6. 像移失配率为2%时两种算法获取的图像。(a)本文算法;(b) TDI通用算法

Fig. 6. Images obtained by two algorithms when image mismatch rate is 2%. (a) Proposed algorithm; (b) TDI general algorithm

下载图片 查看所有图片

表 1. 本文算法与TDI通用算法对图像的分析结果

Table 1. Image analysis results of proposed algorithm and TDI general algorithm

Type of algorithmImage mismatch rate /%fMT-MATσ
Proposed algorithm0.50.95480.9437
2.00.93860.9109
TDI general algorithm0.50.93670.9274
2.00.82010.8009

查看所有表

观察图5图6以及表1数据,可以发现:当96级积分的总像移量远小于像元尺寸时,本文算法与逐行累加的TDI通用算法的成像结果差不多,但因为本文算法可以进行相邻像素的加权修正,因此其成像质量略优于TDI通用算法;当96级积分的总像移量大于像元尺寸时,总像移量超出电子式像移可补偿的范围,因此TDI通用算法扫描图像发生严重混叠,成像质量急剧下降,像移传递函数和互相关性测度分别只有0.8201和0.8009;而本文算法利用匹配像素叠加,可以有效地控制成像质量不发生急剧恶化,图像像移传递函数和互相关性测度分别达到0.9386和0.9109,相较于TDI通用算法这两项指标至少提高0.11,但因为本文算法上溯插值的非整数像移量的像素由多像素插值得到,或者某些行像素由多帧图像获得,因此像移失配率为2.0%的成像效果相比于0.5%时会略微差一点。

5 结论

为了弥补传统电子式像移补偿机制存在的不足,以轨道末期遥感相机成像为例展开研究,提出了适用于广域像移大小变化的数字TDI算法。该算法以数字TDI算法为基础,同时将像移补偿与数字TDI算法结合在一起,扩大了传统电子式像移补偿的可补偿范围和TDI遥感相机可清晰成像的工作范围。设计了不同像移失配率的数字TDI算法的验证实验,实验结果表明:所提设计算法在不同像移失配率下均可获得清晰的图像,正确可行;尤其在2%的大像移失配率条件下仍可保持较高的传递函数值,与通用TDI算法的成像结果对比鲜明。

参考文献

[1] Yu H, Qian X Y, Guo M H, et al. An antivibration time-delay integration CMOS image sensor with online deblurring algorithm[J]. IEEE Transactions on Circuits and Systems for Video Technology, 2016, 26(8): 1544-1554.

[2] Wang J Q, Yu P, Yan C X, et al. Space optical remote sensor image motion velocity vector computational modeling, error budget and synthesis[J]. Chinese Optics Letters, 2005, 3(7): 414-417.

[3] 王家骐, 于平, 颜昌翔, 等. 航天光学遥感器像移速度矢计算数学模型[J]. 光学学报, 2004, 24(12): 1585-1589.

    Wang J Q, Yu P, Yan C X, et al. Space optical remote sensor image motion velocity vector computational modeling[J]. Acta Optica Sinica, 2004, 24(12): 1585-1589.

[4] 焦斌亮, 闫旭辉. 基于TDI_CCD成像像移分析及图像复原[J]. 宇航学报, 2008, 29(2): 675-678.

    Jiao B L, Yan X H. Image-motion analysis and image restoration based on TDI_CCD imaging[J]. Journal of Astronautics, 2008, 29(2): 675-678.

[5] 李伟雄. 高分辨率空间相机敏捷成像的像移补偿方法研究[D]. 北京: 中国科学院研究生院, 2012: 6- 8.

    Li WX. Research on method of image motion compensation of space high resolution cameras’ collecting scene agilely[D]. Beijing: Graduate University of the Chinese Academy of Sciences, 2012: 6- 8.

[6] 王德江, 匡海鹏, 蔡希昌, 等. TDI-CCD全景航空相机前向像移补偿的数字实现方法[J]. 光学精密工程, 2008, 16(12): 2465-2472.

    Wang D J, Kuang H P, Cai X C, et al. Digital implementation of forward motion compensation in TDI-CCD panoramic aerial camera[J]. Optics and Precision Engineering, 2008, 16(12): 2465-2472.

[7] 贺小军. 空间TDI CCD相机在轨智能成像处理技术研究[D]. 北京: 中国科学院研究生院, 2011: 6- 10.

    He XJ. In-orbit autonomous imaging technology of space TDI CCD camera[D]. Beijing: Graduate University of the Chinese Academy of Science, 2011: 6- 10.

[8] 贺小军, 金光, 杨秀彬, 等. 星载相机轨道末期成像模型及图像复原算法[J]. 测绘学报, 2010, 39(6): 579-584.

    He X J, Jin G, Yang X B, et al. Imaging model and image recovering algorithms of spaceborne camera in the end of orbit life[J]. Acta Geodaetica Et Cartographica Sinica, 2010, 39(6): 579-584.

[9] 叶鹏钊. 光学遥感运动退化成像仿真与图像复原技术[D]. 杭州: 浙江大学, 2017: 63- 71.

    Ye PZ. Optical remote sensing motion degration simulation and image restoration technology[D]. Hangzhou: Zhejiang University, 2017: 63- 71.

[10] 陶淑苹, 金光, 曲宏松, 等. 实现空间高分辨成像的数字域时间延迟积分CMOS相机设计及分析[J]. 光学学报, 2012, 32(4): 0411001.

    Tao S P, Jin G, Qu H S, et al. Design and analysis of CMOS camera based on time delay and integration in digital domain to realize spatial high-resolution imaging[J]. Acta Optica Sinica, 2012, 32(4): 0411001.

[11] 陶淑苹, 金光, 曲宏松, 等. 采用卷帘数字域TDI技术的CMOS成像系统设计[J]. 红外与激光工程, 2012, 41(9): 2380-2385.

    Tao S P, Jin G, Qu H S, et al. Design of CMOS imaging system based on rolling TDI in digital domain[J]. Infrared and Laser Engineering, 2012, 41(9): 2380-2385.

[12] 陶淑苹, 金光. 卷帘快门对数字域TDI成像的影响分析[J]. 光学学报, 2015, 35(3): 0311001.

    Tao S P, Jin G. Influence analysis on the rolling shutter for time delay and integration in digital domain[J]. Acta Optica Sinica, 2015, 35(3): 0311001.

[13] Lepage G, Bogaerts J, Meynants G. Time-delay-integration architectures in CMOS image sensors[J]. IEEE Transactions on Electron Devices, 2009, 56(11): 2524-2533.

[14] Xu J T, Shi X L, Nie K M, et al. A global shutter high speed TDI CMOS image sensor with pipelined charge transfer pixel[J]. IEEE Sensors Journal, 2018, 18(7): 2729-2736.

[15] Nie K M, Yao S Y, Xu J T, et al. A 128-stage analog accumulator for CMOS TDI image sensor[J]. IEEE Transactions on Circuits and Systems I: Regular Papers, 2014, 61(7): 1952-1961.

[16] Nie K M, Xu J T, Gao Z Y. A 128-stage CMOS TDI image sensor with on-chip digital accumulator[J]. IEEE Sensors Journal, 2016, 16(5): 1319-1324.

陶淑苹, 张续严, 冯钦评, 宋明珠, 吴勇. 针对广域像移变化的数字时间延迟积分方法[J]. 光学学报, 2019, 39(9): 0911001. Shuping Tao, Xuyan Zhang, Qinping Feng, Mingzhu Song, Yong Wu. Digital Time Delay and Integration Method for Wide-Range Image Motion Variation[J]. Acta Optica Sinica, 2019, 39(9): 0911001.

本文已被 1 篇论文引用
被引统计数据来源于中国光学期刊网
引用该论文: TXT   |   EndNote

相关论文

加载中...

关于本站 Cookie 的使用提示

中国光学期刊网使用基于 cookie 的技术来更好地为您提供各项服务,点击此处了解我们的隐私策略。 如您需继续使用本网站,请您授权我们使用本地 cookie 来保存部分信息。
全站搜索
您最值得信赖的光电行业旗舰网络服务平台!