留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

条纹投影动态三维表面成像技术综述

李勇 张广汇 马利红 应晓霖 姚建云

李勇, 张广汇, 马利红, 应晓霖, 姚建云. 条纹投影动态三维表面成像技术综述[J]. 红外与激光工程, 2020, 49(3): 0303005-0303005-13. doi: 10.3788/IRLA202049.0303005
引用本文: 李勇, 张广汇, 马利红, 应晓霖, 姚建云. 条纹投影动态三维表面成像技术综述[J]. 红外与激光工程, 2020, 49(3): 0303005-0303005-13. doi: 10.3788/IRLA202049.0303005
Li Yong, Zhang Guanghui, Ma Lihong, Ying Xiaolin, Yao Jianyun. Review of dynamic three-dimensional surface imaging based on fringe projection[J]. Infrared and Laser Engineering, 2020, 49(3): 0303005-0303005-13. doi: 10.3788/IRLA202049.0303005
Citation: Li Yong, Zhang Guanghui, Ma Lihong, Ying Xiaolin, Yao Jianyun. Review of dynamic three-dimensional surface imaging based on fringe projection[J]. Infrared and Laser Engineering, 2020, 49(3): 0303005-0303005-13. doi: 10.3788/IRLA202049.0303005

条纹投影动态三维表面成像技术综述

doi: 10.3788/IRLA202049.0303005
基金项目: 浙江省自然科学基金(LY17F050002)
详细信息
    作者简介:

    李勇(1972-),男,教授,硕士生导师,主要从事光学三维测量、全息三维显示方面的研究。Email:liyong@zjnu.cn

  • 中图分类号: TN206

Review of dynamic three-dimensional surface imaging based on fringe projection

  • 摘要: 对条纹投影动态三维表面成像技术进行了总结,分析了典型方案的特点。首先介绍了该技术的基本原理,包括系统基本结构、三维表面成像原理及相移法和傅立叶变换法这两种典型的相位提取方法。接着介绍了动态成像方案,包括高速投影方案和采用速度相对低的相机进行动态三维表面成像的方案。然后介绍了动态三维成像中绝对相位获取方法,主要是模拟和数字编码法及区域统计特性编码法。最后介绍了高精度动态相位测量方案。
  • 图  1  条纹投影三维测量系统示意图

    Figure  1.  Schematic diagram of fringe projection based 3D measurement system

    图  2  频分复用实验结果。(a) 原始图像; (b)、(c)、(d) 滤波分离出的不同时刻条纹图

    Figure  2.  Experimental results of frequency multiplexing. (a) Original image; (b), (c), (d) fringes image at different moment separated by filtering

    图  3  颜色复用实验结果。(a) 原始图像 ;(b)、(c)、(d) 颜色分离得到的不同时刻条纹图

    Figure  3.  Experimental results of color multiplexing. (a) Original image; (b), (c), (d) Fringes image at different moment separated by color

    图  4  多周期扫描采样示意图

    Figure  4.  Schematic diagram of multi period scanning and sampling

    图  5  扬声器纸盆振动模式测量结果。(a) 激励频率为660 Hz; (b) 激励频率为1 000 Hz

    Figure  5.  Experimental results of vibration modes of the loudspeaker membrane. (a) Excitation frequency of 660 Hz; (b) Excitation frequency of 1 000 Hz

    图  6  动态人脸测量图像序列中的一套数据。(a)、(b) 相位差为2π/3的高频条纹 ;(c) 低频条纹; (d) 白光照明下的图像 ;(e)、(f)红、绿光照明下的图像

    Figure  6.  A set images of dynamic face measurement sequence. (a),(b) High frequency fringes with phase difference 2π/3; (c) Low frequency fringe; (d) Image obtained with white light illumination; (e),(f) Images obtained with red and green light illumination separately

    图  7  表情变化测量结果。(a)、(b)不同时刻的表情; (c) 贴上彩色纹理的三维形貌

    Figure  7.  Measurement results of expression change. (a),(b) Expression at different moment; (c) 3D shape with color texture

    图  8  投影距离最小法示意图

    Figure  8.  Schematic diagram of projection distance minimization

    图  9  三值二维空间编码例子

    Figure  9.  Example pattern of 3 level 2D spatial coding

    图  10  条纹级次与编码值关系

    Figure  10.  Relationship of fringe order and code

    图  11  三值二维空间编码法绝对相位测量结果。(a) 变形条纹 ;(b) 深度图

    Figure  11.  Experimental results of absolute phase for two dimensional three level spatial coding method. (a) Deformed fringe; (b) Depth map

    图  12  多目几何约束示意图

    Figure  12.  Schematic diagram of multi-view geometric constraints

    图  13  相位补偿实验结果。(a) PMP测量的结果; (b)~(d) FAPS、WFAPS和GWFAPS补偿的结果; (e) GWFAPS和PMP结合结果

    Figure  13.  Experimental results of phase compensation. (a) Phase measured by PMP; (b)-(d) Results of phase compensation by FAPS, WFAPS and GWFAPS separately;(e) Result combining GWFAPS with PMP

    图  14  不同相位提取算法比较。(a) 傅里叶变换法; (b) 去背景傅里叶变换法; (c) 背景归一化傅里叶变换法

    Figure  14.  Comparison of different algorithm for obtaining phase. (a) By Fourier transform; (b) By background- eliminated Fourier transform; (c) By background-normalized Fourier transform

  • [1] Chen F, Brown G M, Song M. Overview of three-dimensional shape measurement using optical methods [J]. Optics Engineering, 2000, 39(1): 10−22. doi:  10.1117/1.602438
    [2] Blais F. Review of 20 years of range sensor development [J]. Journal of Electronic Imaging, 2004, 13(1): 231−240. doi:  10.1117/1.1631921
    [3] Salvi J, Fernandez S, Pribanic T, et al. A state of the art in structured light patterns for surface profilometry [J]. Pattern Recognition, 2010, 43(8): 2666−2680. doi:  10.1016/j.patcog.2010.03.004
    [4] Geng J. Structured-light 3D surface imaging: A tutorial [J]. Advances in Optics and Photonics, 2011, 3(2): 128−160. doi:  10.1364/AOP.3.000128
    [5] Takasaki H. Moiré Topography [J]. Applied Optics, 1970, 9(6): 1467−1472. doi:  10.1364/AO.9.001467
    [6] Takeda M, Motoh K. Fourier transform profilometry for the automatic measurement of 3-D object shapes [J]. Applied Optics, 1983, 22(24): 3977−3982. doi:  10.1364/AO.22.003977
    [7] Srinivasan V, Liu HC, Halioua H. Automated phase-measuring profilometry of 3-D diffuse objects [J]. Applied Optics, 1984, 23(18): 3105−3108. doi:  10.1364/AO.23.003105
    [8] Toyooka S, Tominaga M. Spatial fringe scanning for optical phase measurement [J]. Optics Communications, 1984, 51(2): 68−70. doi:  10.1016/0030-4018(84)90152-4
    [9] Su XY, Su LK. New 3D profilometry based on modulation measurement[C]. Proc SPIE, 1998, 3558: 1-7.
    [10] Su L K, Su X Y, Li W S. Application of modulation measurement profilometry to objects with surface holes [J]. Applied Optics, 1999, 38(7): 1153−1158. doi:  10.1364/AO.38.001153
    [11] Lu M T, Su X Y, Cao Y P, et al. Modulation measuring profilometry with cross grating projection and single shot for dynamic 3D shape measurement [J]. Optics and Lasers in Engineering, 2016, 87: 103−110. doi:  10.1016/j.optlaseng.2015.12.011
    [12] Su X Y, Zhang Q C. Dynamic 3-D shape measurement method: A review [J]. Optics and Lasers in Engineering, 2010, 48(2): 191−204. doi:  10.1016/j.optlaseng.2009.03.012
    [13] Sam V D J, Dirckx J J J. Real-time structured light profilometry: a review [J]. Optics and Lasers in Engineering, 2016: S0143816616000166.
    [14] Zhang S. High-speed 3D shape measurement with structured light methods: A review [J]. Optics and Lasers in Engineering, 2018, 106: 119−131.
    [15] Liu X, Kofman J. High-frequency background modulation fringe patterns based on a fringe-wavelength geometry-constraint model for 3D surface-shape measurement [J]. Optics Express, 2017, 25(14): 16618. doi:  10.1364/OE.25.016618
    [16] Zhang Q, Su X. High-speed optical measurement for the drumhead vibration [J]. Optics Express, 2005, 13(8): 3110−3116. doi:  10.1364/OPEX.13.003110
    [17] Guan C, Hassebrook L G, Lau D L. Composite structured light pattern for three-dimensional video [J]. Optics Express, 2003, 11(5): 406−417. doi:  10.1364/OE.11.000406
    [18] Cheng Wenjing, Su Xianyu, Cao Yiping, et al. Improved FTP based on bi-color fringe projection [J]. Acta Optics Sinica, 2003, 23(10): 1153−1157. (in Chinese)
    [19] Kemao Q. Two-dimensional windowed Fourier transform for fringe pattern analysis: Principles, applications and implementations [J]. Optics and Lasers in Engineering, 2007, 45(2): 304−317. doi:  10.1016/j.optlaseng.2005.10.012
    [20] Zhong J, Weng J. Spatial carrier-fringe pattern analysis by means of wavelet transform: Wavelet transform profilometry [J]. Applied Optics, 2004, 43(26): 4993−4998. doi:  10.1364/AO.43.004993
    [21] Jiang Mohua, Chen Wenjing, Zheng Zhiping. Research of demodulation technique based on S-Transform [J]. Acta Optics Sinica, 2011, 31(4): 0412001. (in Chinese) doi:  10.3788/AOS201131.0412001
    [22] Feng Shijie, Chen Qian, Gu Guohua, et al. Fringe pattern analysis using deep learning [J]. Advanced Photonics, 2019, 1(2): 025001.
    [23] Shi Jiashuo, Zhu Xinjun, Wang Hongyi, et al. Label enhanced and patch based deep learning for phase retrieval from single frame fringe pattern in fringe projection 3D measurement [J]. Optics Express, 2019, 27(20): 28929−28943. doi:  10.1364/OE.27.028929
    [24] Li J, Su X Y, Guo L. Improved Fourier-transform profilometry for automatic measurement of three-dimensional object shapes [J]. Optical Engineering, 1990, 29: 1439−1444. doi:  10.1117/12.55746
    [25] Chen Wenjing, Su Xianyu, Su Likun, et al. Improvement for measurement accuracy of Fourier transform profilometry with gray image [J]. Opto-electronic Engineering, 2000, 27(3): 55−59. (in Chinese)
    [26] Zuo C, Tao T, Feng S, et al. Micro Fourier Transform Profilometry (μFTP): 3D shape measurement at 10,000 frames per second [J]. Optics and Lasers in Engineering, 2018, 102: 70−91. doi:  10.1016/j.optlaseng.2017.10.013
    [27] Wu Zhoujie, Guo Wenbo, Zhang Qican. High-speed three-dimensional shape measurement based on shifting Gray-code light [J]. Optics Express, 2019, 27(16): 22631−22644. doi:  10.1364/OE.27.022631
    [28] Wu Zhoujie, Zuo Chao, Guo Wenbo, et al. High-speed three-dimensional shape measurement based on cyclic complementary Gray-code light [J]. Optics Express, 2019, 27(2): 1283−1297. doi:  10.1364/OE.27.001283
    [29] Wang Yuwei, Liu Lu, Wu Jun, et al. Enhanced phase-coding method for three-dimensional shape measurement with half-period codeword [J]. Applied Optics, 2019, 58(27): 7359−7366. doi:  10.1364/AO.58.007359
    [30] Li Yong, Su Xianyu, Wu Qingyang. Accurate phase–height mapping algorithm for PMP [J]. Journal of Modern Optics, 2006, 53(14): 1955−1964. doi:  10.1080/09500340600720789
    [31] Lai Guanming, Yatagai Toyohiko. Generalized phase-shifting interferometry [J]. Journal of the Optical Society of America A, 1991, 8(5): 822−827. doi:  10.1364/JOSAA.8.000822
    [32] Guan Y, Yin Y, Li A, et al. Dynamic 3D imaging based on acousto-optic heterodyne fringe interferometry [J]. Optics Letters, 2014, 39(12): 3678. doi:  10.1364/OL.39.003678
    [33] Hyun J S, Chiu T G, Zhang S. High-speed and high-accuracy 3D surface measurement using a mechanical projector [J]. Optics Express, 2018, 26(2): 1474−1487. doi:  10.1364/OE.26.001474
    [34] Heist S, Mann A, Kühmstedt, Peter, et al. Array projection of aperiodic sinusoidal fringes for high-speed three-dimensional shape measurement [J]. Optical Engineering, 2014, 53(11): 112208. doi:  10.1117/1.OE.53.11.112208
    [35] Heist S, Lutzke P, Schmidt I, et al. High-speed three-dimensional shape measurement using GOBO projection [J]. Optics and Lasers in Engineering, 2016: S0143816616000555.
    [36] Zhang Haihua, Zhang Qican, Li Yong, et al. High speed 3D shape measurement with temporal Fourier transform profilometry [J]. Applied Sciences, 2019, 9(19): 4123. doi:  10.3390/app9194123
    [37] Feng S, Chen Q, Zuo C, et al. Motion-oriented high speed 3-D measurements by binocular fringe projection using binary aperiodic patterns [J]. Optics Express, 2017, 25(2): 540−559. doi:  10.1364/OE.25.000540
    [38] Su X Y, Zhou W S, Bally G V, et al. Automated phase-measuring profilometry using defocused projection of a Ronchi grating [J]. Optics Communications, 1992, 94(6): 561−573. doi:  10.1016/0030-4018(92)90606-R
    [39] Li Yong, Zhao Cuifang, Qian Yixian, et al. High-speed and dense three-dimensional surface acquisition using defocused binary patterns for spatially isolated objects [J]. Optics Express, 2010, 18(21): 21628−21635. doi:  10.1364/OE.18.021628
    [40] Gao Peng, Li Yong, Tu Yanshuai, et al. Binarization methods of sinusoidal grating in 3D measurement base on defocused fringe projection [J]. Acta Photonica Sinica, 2014, 43(5): 0512006. (in Chinese) doi:  10.3788/gzxb20144305.0512006
    [41] Wang Y J, Zhang S. Optimal pulse width modulation for sinusoidal fringe generation with projector defocusing [J]. Optics Letters, 2010, 35(24): 4121−4123. doi:  10.1364/OL.35.004121
    [42] Ajubi G A, Ayubi J A, Martino J M D, et al. Pulse-width modulation in defocused three-dimensional fringe projection [J]. Optics Letters, 2010, 35(21): 3682−3684. doi:  10.1364/OL.35.003682
    [43] Xiao T, Su X. Area modulation grating for sinusoidal structure illumination on phase-measuring profilometry [J]. Applied Optics, 2001, 40(8): 1201−1206. doi:  10.1364/AO.40.001201
    [44] Cheng Ju, Su Xianyu. Study on error diffusion algorithm of binary encode grating [J]. Laser Technology, 2007, 31(3): 322−325. (in Chinese)
    [45] Zhao Liwei, Da Feipeng, Zheng Dongliang. Method for binary grating generation using defocused projection for three-dimensional measurement [J]. Acta Optica Sinica, 2016, 36(8): 0812005. (in Chinese) doi:  10.3788/AOS201636.0812005
    [46] Lohry William, Zhang Song. Genetic method to optimize binary dithering technique for high-quality fringe generation [J]. Optics Letter, 2013, 38(4): 540−542. doi:  10.1364/OL.38.000540
    [47] Li Y, Chen J, Tu Y, et al. On bit-depth of pattern in three-dimensional measurement system based on digital fringe projection[C]// Fourth International Conference on Optical and Photonics Engineering, 2017.
    [48] Tu Y, Li Y, Jin H, et al. High-speed three-dimensional shape measurement using spatial frequency encoding and DLP projector[C]//Proceedings of SPIE - The International Society for Optical Engineering, 2014, 9276: 92761K.
    [49] Zhang Qican, Su Xianyu, Cao Yiping, et al. An optical 3-D shape and deformation measurement for rotating blade using stroboscopic structured illumination [J]. Optical Engineering, 2005, 44(11): 113601. doi:  10.1117/1.2127927
    [50] Wang J, Li Y, Zhang Z, et al. Cost-effective and full-field method for measuring vibration of loudspeaker membrane using fringe projection[C]// Proceedings of SPIE - The International Society for Optical Engineering, 2014, 9276: 92761M.
    [51] Zhang Song. Absolute phase retrieval methods for digital fringe projection profilometry: A review [J]. Optics and Lasers in Engineering, 2018, 107: 28−37. doi:  10.1016/j.optlaseng.2018.03.003
    [52] Salvi J, Pages J, Batlle J. Pattern codification strategies in structured light systems [J]. Pattern Recognition, 2004, 37(4): 827−849. doi:  10.1016/j.patcog.2003.10.002
    [53] An Yatong, Zhang Song. Three-dimensional absolute shape measurement by combining binary statistical pattern matching with phase-shifting methods [J]. Applied Optics, 2017, 56(19): 5418−26. doi:  10.1364/AO.56.005418
    [54] Lohry William, Chen Vincent, Zhang Song. Absolute three-dimensional shape measurement using coded fringe patterns without phase unwrapping or projector calibration [J]. Optics Express, 2014, 22(2): 1287−1301. doi:  10.1364/OE.22.001287
    [55] Li Z, Zhong K, Li Y, et al. Multiview phase shifting: a full-resolution and high-speed 3D measurement framework for arbitrary shape dynamic objects [J]. Optics Letters, 2013, 38(9): 1389−91. doi:  10.1364/OL.38.001389
    [56] An Y, Hyun J-S, Zhang S. Pixel-wise absolute phase unwrapping using geometric constraints of structured light system [J]. Optics Express, 2016, 24(15): 18445.
    [57] Chen X, Wang Y, Wang Y, et al. Quantized phase coding and connected region labeling for absolute phase retrieval [J]. Optics Express, 2016, 24(25): 28613. doi:  10.1364/OE.24.028613
    [58] Li B, Bell T, Zhang S. Computer-aided-design (CAD) model-assisted absolute three- dimensional shape measurement [J]. Applied Optics, 2017, 56(24): 6770. doi:  10.1364/AO.56.006770
    [59] Hao Y, Zhao Y, Li D. Multifrequency grating projection profilometry based on the nonlinear excess fraction method [J]. Applied Optics, 1999, 38(19): 4106−4110. doi:  10.1364/AO.38.004106
    [60] Li E B, Peng X, Xi J, et al. Multi-frequency and multiple phaseshift sinusoidal fringe projection for 3D profilometry [J]. Optics Express, 2005, 13(5): 1561−1569. doi:  10.1364/OPEX.13.001561
    [61] Huntley J M, Saldner H O. Temporal phase unwrapping algorithm for automated interferogram analysis [J]. Applied Optics, 1993, 32(17): 3047−3052. doi:  10.1364/AO.32.003047
    [62] Saldner H O, Huntley J M. Temporal phase-unwrapping: application to surface profiling of discontinuous objects [J]. Applied Optics, 1997, 36(13): 2770−2775. doi:  10.1364/AO.36.002770
    [63] Gushov V, Solodkin Y N. Automatic processing of fringe patterns in integer interfer ometers [J]. Optics and Lasers in Engineering, 1991, 14(4-5): 311−24. doi:  10.1016/0143-8166(91)90055-X
    [64] Ding Y, Xi J, Yu Y, et al. Recovering the absolute phase maps of two fringe patterns with selected frequencies [J]. Optics Letters, 2011, 36(13): 2518−20. doi:  10.1364/OL.36.002518
    [65] Zhong J, Zhang Y. Absolute phase-measurement technique based on number theory in multifrequency grating projection profilometry [J]. Applied Optics, 2001, 40(4): 492−500. doi:  10.1364/AO.40.000492
    [66] Pribanic T, Mrvos S, Salvi J. Efficient multiple phase shift patterns for dense 3d acquisition in structured light scanning [J]. Image and Vision Computing, 2010, 28(8): 1255−66. doi:  10.1016/j.imavis.2010.01.003
    [67] Yin W, Zuo C, Feng S, et al. High-speed three-dimensional shape measurement using geometry-constraint-based number-theoretical phase unwrapping [J]. Optics and Lasers in Engineering, 2019, 115: 21−31. doi:  10.1016/j.optlaseng.2018.11.006
    [68] Li Haiyan, Li Yong, Wang Hui. Method for fast acquiring three-dimensional shape and color texture [J]. Acta Photonica Sinica, 2016, 45(1): 0112003. (in Chinese) doi:  10.3788/gzxb20164501.0112003
    [69] Li Y, Jin H, Wang H. Three-dimensional shape measurement using binary spatio-temporal encoded illumination [J]. Journal of Optics A Pure and Applied Optics, 2009, 11(7): 075502. doi:  10.1088/1464-4258/11/7/075502
    [70] Weise T, Leibe B, Van Gool L. Fast 3D Scanning with Automatic Motion Compensation[C]// Computer Vision and Pattern Recognition, 2007. CVPR '07. IEEE Conference on. IEEE, 2007: 1−8.
    [71] Li B, Liu Z, Zhang S. Motion-induced error reduction by combining Fourier transform profilometry with phase-shifting profilometry [J]. Optics Express, 2016, 24(20): 23289−23303. doi:  10.1364/OE.24.023289
    [72] Liu Ziping, Zibley P C, Zhang Song. Motion-induced error compensation for phase shifting profilometry [J]. Optics Express, 2018, 26(10): 12632−12637. doi:  10.1364/OE.26.012632
    [73] Lu Lei, Xi Jiangtao, Yu Yanguang, et al. Improving the accuracy performance of phase-shifting profilometry for the measurement of objects in motion [J]. Optics Letters, 2014, 39(23): 6715−6718. doi:  10.1364/OL.39.006715
    [74] Feng S, Zuo C, Tao T, et al. Robust dynamic 3-D measurements with motion-compensated phase-shifting profilometry [J]. Optics and Lasers in Engineering, 2018, 103: 127−138. doi:  10.1016/j.optlaseng.2017.12.001
    [75] Lu Lei, Yin Yongkai, Su Zhilong, et al. General model for phase shifting profilometry with an object in motion [J]. Applied Optics, 2018, 57(36): 10364−10369. doi:  10.1364/AO.57.010364
    [76] Cong PY, Xiong Z W, Zhang Y Y. Accurate dynamic 3D sensing with Fourier-Assisted phase shifting [J]. IEEE Journal of Selected Topics in Signal Processing, 2015, 9(3): 396−408. doi:  10.1109/JSTSP.2014.2378217
    [77] Yan Qianhong, Li Yong, Jiang Yiteng, et al. High precision phase estimation of projected fringes in dynamic 3-D measurement [J]. Laser Technology, 2019, 43(5): 619−623. (in Chinese)
    [78] Zhou Xingcan, Li Yong, Huang Kai, et al. Phase correction method for dynamic 3D measurement based on fringe projection[C]// Proc SPIE, Optical Metrology and Inspection for Industrial Applications VI, 2019, 11189: 111891I.
    [79] Qian Jiaming, Tao Tianyang, Feng Shijie, et al. Motion-artifact-free dynamic 3D shape measurement with hybrid Fourier-transform phase-shifting profilometry [J]. Optics Express, 2019, 27(3): 2713−2731. doi:  10.1364/OE.27.002713
  • [1] 冯世杰, 左超, 尹维, 陈钱.  深度学习技术在条纹投影三维成像中的应用 . 红外与激光工程, 2020, 49(3): 0303018-0303018-17. doi: 10.3788/IRLA202049.0303018
    [2] 张钊, 韩博文, 于浩天, 张毅, 郑东亮, 韩静.  多阶段深度学习单帧条纹投影三维测量方法 . 红外与激光工程, 2020, 49(6): 20200023-1-20200023-8. doi: 10.3788/IRLA20200023
    [3] 王玉伟, 陈向成, 王亚军.  改进的双频几何约束条纹投影三维测量方法 . 红外与激光工程, 2020, 49(6): 20200049-1-20200049-7. doi: 10.3788/IRLA20200049
    [4] 伏燕军, 韩勇华, 陈元, 张鹏飞, 桂建楠, 钟可君, 黄采敏.  基于相位编码的三维测量技术研究进展 . 红外与激光工程, 2020, 49(3): 0303010-0303010-15. doi: 10.3788/IRLA202049.0303010
    [5] 赵洋, 傅佳安, 于浩天, 韩静, 郑东亮.  深度学习精确相位获取的离焦投影三维测量 . 红外与激光工程, 2020, 49(7): 20200012-1-20200012-8. doi: 10.3788/IRLA20200012
    [6] 钟锦鑫, 尹维, 冯世杰, 陈钱, 左超.  基于深度学习的散斑投影轮廓术 . 红外与激光工程, 2020, 49(6): 20200011-1-20200011-11. doi: 10.3788/IRLA20200011
    [7] 殷永凯, 张宗华, 刘晓利, 彭翔.  条纹投影轮廓术系统模型与标定综述 . 红外与激光工程, 2020, 49(3): 0303008-0303008-18. doi: 10.3788/IRLA202049.0303008
    [8] 吕磊, 贾钊逸, 吴珂, 栾银森.  基于相移法的多目标运动物体三维重构 . 红外与激光工程, 2020, 49(3): 0303011-0303011-5. doi: 10.3788/IRLA202049.0303011
    [9] 刘维新, 魏志伟, 赵文谦, 丁星卜.  光学波片相位延迟测量仪设计 . 红外与激光工程, 2019, 48(7): 718001-0718001(7). doi: 10.3788/IRLA201948.0718001
    [10] 陈妮, 左超, Byoungho Lee.  基于深度测量的三维成像技术 . 红外与激光工程, 2019, 48(6): 603013-0603013(25). doi: 10.3788/IRLA201948.0603013
    [11] 杨凌辉, 王丽君, 林嘉睿, 孟伟, 徐秋宇.  基于正交柱面成像相机空间后方交会的三维坐标测量方法 . 红外与激光工程, 2018, 47(3): 317001-0317001(7). doi: 10.3788/IRLA201847.0317001
    [12] 卢纯青, 宋玉志, 武延鹏, 杨孟飞.  基于TOF计算成像的三维信息获取与误差分析 . 红外与激光工程, 2018, 47(10): 1041004-1041004(7). doi: 10.3788/IRLA201847.1041004
    [13] 熊玲, 罗霄, 戚二辉, 张峰, 薛栋林, 张学军.  摆臂式轮廓测量不同母线条数的敏感性分析 . 红外与激光工程, 2018, 47(2): 217003-0217003(6). doi: 10.3788/IRLA201847.0217003
    [14] 吴斌, 许友, 杨峰亭, 钱春强, 蔡蓓.  激光跟踪绝对测长多边法三维坐标测量系统 . 红外与激光工程, 2018, 47(8): 806007-0806007(6). doi: 10.3788/IRLA201847.0806007
    [15] 刘东, 严天亮, 王道档, 杨甬英, 黄玮.  条纹投影与相位偏折测量技术研究进展 . 红外与激光工程, 2017, 46(9): 917001-0917001(10). doi: 10.3788/IRLA201746.0917001
    [16] 刘俭, 谷康, 李梦周, 谭久彬.  光学显微三维测量解耦合准则 . 红外与激光工程, 2017, 46(3): 302001-0302001(7). doi: 10.3788/IRLA201746.0302001
    [17] 刘海庆, 杨凌辉, 任永杰, 邾继贵.  基于正交柱面成像相机的大尺寸三维坐标测量 . 红外与激光工程, 2016, 45(11): 1117002-1117002(6). doi: 10.3788/IRLA201645.1117002
    [18] 李彪, 吴海涛, 张建成, 伏燕军.  正弦脉冲宽度调制条纹结合相位编码条纹的三维测量方法 . 红外与激光工程, 2016, 45(6): 617006-0617006(6). doi: 10.3788/IRLA201645.0617006
    [19] 冯帆, 段发阶, 伯恩, 吕昌荣, 傅骁, 黄婷婷.  基于条纹投射和正弦相位调制的表面形貌测量系统 . 红外与激光工程, 2015, 44(12): 3762-3768.
    [20] 曾文雯, 钟小品, 李景镇.  从单幅干涉图中恢复相位的区间反转方法 . 红外与激光工程, 2014, 43(9): 3151-3156.
  • 加载中
图(14)
计量
  • 文章访问数:  2196
  • HTML全文浏览量:  407
  • PDF下载量:  259
  • 被引次数: 0
出版历程
  • 收稿日期:  2019-12-05
  • 修回日期:  2020-01-09
  • 刊出日期:  2020-03-01

条纹投影动态三维表面成像技术综述

doi: 10.3788/IRLA202049.0303005
    作者简介:

    李勇(1972-),男,教授,硕士生导师,主要从事光学三维测量、全息三维显示方面的研究。Email:liyong@zjnu.cn

基金项目:  浙江省自然科学基金(LY17F050002)
  • 中图分类号: TN206

摘要: 对条纹投影动态三维表面成像技术进行了总结,分析了典型方案的特点。首先介绍了该技术的基本原理,包括系统基本结构、三维表面成像原理及相移法和傅立叶变换法这两种典型的相位提取方法。接着介绍了动态成像方案,包括高速投影方案和采用速度相对低的相机进行动态三维表面成像的方案。然后介绍了动态三维成像中绝对相位获取方法,主要是模拟和数字编码法及区域统计特性编码法。最后介绍了高精度动态相位测量方案。

English Abstract

    • 三维表面成像技术是指获取物体表面各点三维坐标及其他表面特性(如反射率)的技术[1-4]。狭义的三维表面成像技术是指获取物体表面各点三维坐标的技术。在不同的应用领域,其有不同的名称,如:三维形貌测量、距离成像、深度成像及形貌扫描等。近年来,工业检测、生物医学、影视娱乐及安防等领域对动态三维表面成像技术的需求越来越旺盛。随着微电子技术的发展,计算机、图像传感器等的能力得到了极大提升,动态三维表面成像技术迎来了快速发展的机遇。消费级实时三维表面成像设备在商业上的成功,如微软的Kinect、因特尔的RealSense及最近的iPhone X、华为、小米等手机上的三维表面成像应用进一步推动了人们对高质量动态三维表面成像技术的需求。条纹投影动态三维表面成像(测量)技术是其中一种重要的技术。条纹投影三维测量技术包括莫尔等高法[5](Moiré Topography)、基于条纹相位测量的轮廓术[6-8]和基于条纹调制度测量的轮廓术[9-11]等。近年来,基于条纹相位测量的动态三维表面成像在学术研究上逐渐成为热点[12-15]

      根据获取三维数据需要拍摄的图像数,基于条纹相位测量的动态三维表面成像技术可分为基于单帧图像和基于多帧(序列)图像两类技术。单帧图像技术主要有采用罗琦光栅[6]或正弦光栅投影[16]和复合条纹投影[17-18]的技术。前者采用傅立叶变换[6]、加窗傅立叶 变换[19]、小波变换[20]、S变换[21]、深度学习[22-23]或空间相位检测[8]等方法获取条纹相位分布。后者通过频率[17]或颜色复用[18]将多幅条纹或条纹加编码图案组合到一幅图案中,在拍摄后通过频域滤波或颜色分离重新恢复出调制的变形条纹,然后用傅立叶 变换或相移法等获得变形条纹相位分布。多帧图像技术主要有相位测量轮廓术(PMP)[7]、各种改进的傅立叶 变换轮廓术(FTP)[24-25]及上述两种方法加编码图案实现绝对相位测量[26-29]的技术。总体而言,单帧图像技术对硬件要求低,容易实现动态三维表面成像,但是在原理上精度低于相移法。而采用相移法的多帧图像技术虽然原理上能实现高精度三维表面成像,但是要实现高精度动态三维表面成像对投影,对拍摄装置的速度要求高得多。因此,单帧图像技术主要是研究如何从单幅变形条纹图中获取尽可能准确的相位。文献[22-23]提出了采用深度学习的方法从1幅条纹图中高精度提取相位。而多帧图像技术主要研究的是如何减少投影的图案数、减少运动导致的相位测量误差及高速投影方案等。

      文中讨论基于条纹相位测量的动态三维表面成像技术,重点是基于多帧图像的技术。首先介绍成像系统结构、原理,然后由此出发介绍目前研究较多的图像快速获取方法、动态三维成像中的绝对相位获取方法及提高动态相位测量精度的方法。

    • 图1是典型的条纹投影三维表面成像系统结构示意。它由1台投影装置(投影仪)和1台摄像装置(摄像机)构成。图中CpCc分别为投影仪和摄像机主点(光轴和物/像面交点);Op、Oc分别为投影仪和摄像机镜头光心。投影仪物面上一点Pp投射到待测物体表面P点,摄像机将该点成像在其像面(图像传感器表面)上Pc点。点Pp与点Pc构成了投影仪物面与摄像机像面关于物体表面P点的一对对应点。在测量系统结构确定后,只要获得对应点对就可以根据三角关系(如图中的三角形OpPOc)计算出物体表面点的三维坐标。得到与物体表面所有点对应的对应点对,就能实现对被测物体表面的三维成像。条纹投影三维表面成像技术通过投影相位与投影仪物面坐标成线性关系的正弦条纹,利用条纹的相位对投影仪物面坐标进行编码。常用的是相位在一个方向线性增加的条纹。投影的条纹表示为:标进行编码。常用的是相位在一个方向线性增加的条纹。投影的条纹表示为:

      图  1  条纹投影三维测量系统示意图

      Figure 1.  Schematic diagram of fringe projection based 3D measurement system

      $$ {I_p}\left( {{x_p},{y_p}} \right) = {a_p} + {b_p}\cos \left[ {{\varphi _p}\left( {{x_p}} \right)} \right] $$ (1)

      式中:条纹相位${\varphi _p}\left({{x_p}} \right) = 2{\text{π}} {f_0}{x_p} + {\varphi _0}$f0为设计的条纹空间频率,φ0为条纹初相位;ap为条纹背景,保证条纹强度为非零值;bp为条纹幅度;xpyp为投影仪图像坐标。摄像机拍摄到的变形条纹表示为:

      $${I_c}\left( {{x_c},{y_c}} \right) = {a_c}\left( {{x_c},{y_c}} \right) + {b_c}\left( {{x_c},{y_c}} \right)\cos \left[ {{\varphi _c}\left( {{x_c},{y_c}} \right)} \right] $$ (2)

      式中:φc(xc,yc)为拍摄到的条纹相位,xcyc为摄像机图像坐标。条纹的相位通过投影—反射—拍摄这一过程从投影仪物面传递到摄像机像面。从这里可以看出,条纹投影三维表面成像过程可以看成一个通信过程。可以借鉴通信中的相关理论分析,实现可靠的相位恢复。求解出拍摄条纹图的相位分布后,结合系统结构参数就可以得到对应点对,从而获得物体表面三维坐标。三维形貌的恢复可以采用双目三维恢复这种显式的方法,也可以采用其他隐式的方法,如相位-高度映射方法[30]

      $$ \left\{ {\begin{aligned} & {{Z_w}\left( {{x_c},{y_c}} \right) = \sum\limits_{n = 0}^N {{k_n}} \left( {{x_c},{y_c}} \right)\Delta \varphi _c^n\left( {{x_c},{y_c}} \right)}\\ & {{X_w}\left( {{x_c},{y_c}} \right) = {a_1}\left( {{x_c},{y_c}} \right) + {b_1}\left( {{x_c},{y_c}} \right){Z_w}\left( {{x_c},{y_c}} \right)}\\ & {{Y_w}\left( {{x_c},{y_c}} \right) = {a_2}\left( {{x_c},{y_c}} \right) + {b_2}\left( {{x_c},{y_c}} \right){Z_w}\left( {{x_c},{y_c}} \right)} \end{aligned}} \right. $$ (3)

      式中:Δφc为被测表面与参考面的条纹相位差;a1a2b1b2kn为与摄像机像素坐标有关的常数。通常N取5就可以达到足够的精度。该方法中的Δφc也可以直接用绝对相位,此时得到的是以摄像机坐标系为世界坐标系的三维坐标。参考面也可以为曲面,此时得到的Zw是相对于参考曲面的相对高度。

      实际中条纹投影三维表面成像系统还有1台投影仪和2台及以上摄像机构成的双(多)目系统、2台投影仪和1台摄像机构成的系统等,但其三维重建原理是一样的。

    • 相移法提取条纹相位的本质是对测量信号进行正弦最小二乘拟合[31]。在理想情况下,拍摄的第i幅变形条纹表示为:

      $${I_{ci}}\left( {{x_c},{y_c}} \right) = {a_c}\left( {{x_c},{y_c}} \right) + {b_c}\left( {{x_c},{y_c}} \right)\cos \left[ {{\varphi _c}\left( {{x_c},{y_c}} \right) + {\delta _i}} \right] $$ (4)

      式中:δi为条纹相移量。相移法是点对点的计算,这里省略图像坐标。通过三角恒等变换,公式(4)写成:

      $$ \begin{split} {{I_{ci}}}= \; &{a + {b_c}\cos \varphi \cos {\delta _i} - {b_c}\sin \varphi \sin {\delta _i}}=\\ &{a + b\cos {\delta _i} + c\sin {\delta _i}} \end{split} $$ (5)

      式中:b=bccosφc=−bcsinφ。正弦最小二乘拟合就是从3个及以上的测量数据中寻找适合公式(5)的参数,使拟合的均方误差最小。设实际拍摄的条纹为$I_{ci}^\prime$,求解参数abc使得

      $$ \begin{split} S =\; & \sum\limits_{i = 0}^{M - 1} {{{\left( {{I_{ci}} - I_{ci}^\prime } \right)}^2}}= \\ & \sum\limits_{i = 0}^{M - 1} {{{\left( {a + b\cos {\delta _i} + c\sin {\delta _i} - I_{ci}^\prime } \right)}^2}} \end{split} $$ (6)

      最小。式中M为相移条纹幅数。使公式(6)最小需要满足$\partial S/\partial a = 0,\;\partial S/\partial b = 0,\;\partial S/\partial c = 0$。联立上述三个等式构成方程组,设

      $$ \left\{ \begin{array}{l} X = {\left[ {a\;b\;c} \right]^{\rm{T}}}\\ A = \left[ {\begin{array}{*{20}{c}} M&{\sum\limits_{i = 0}^{M - 1} {\cos } {\delta _i}}&{\sum\limits_{i = 0}^{M - 1} {\sin } {\delta _i}}\\ {\sum\limits_{i = 0}^{M - 1} {\cos } {\delta _i}}&{\sum\limits_{i = 0}^{M - 1} {{{\cos }^2}} {\delta _i}}&{\sum\limits_{i = 0}^{M - 1} {\cos } {\delta _i}\sin {\delta _i}}\\ {\sum\limits_{i = 0}^{M - 1} {\sin } {\delta _i}}&{\sum\limits_{i = 0}^{M - 1} {\cos } {\delta _i}\sin {\delta _i}}&{\sum\limits_{i = 0}^{M - 1} {{{\sin }^2}} {\delta _i}} \end{array}} \right]\\ B = {\left[ {\sum\limits_{i = 0}^{M - 1} {I_{ci}^\prime } \sum\limits_{i = 0}^{M - 1} {I_{ci}^\prime } \cos {\delta _i}\sum\limits_{i = 0}^{M - 1} {I_{ci}^\prime } \sin {\delta _i}} \right]^{\rm{T}}} \end{array} \right. $$ (7)

      求解方程组得:

      $$ X = {A^{ - 1}}B $$ (8)

      则变形条纹的相位可由下式得到:

      $$ \varphi = - {\arctan }\left( {c/b} \right) $$ (9)

      各种相移法相位求解公式都可以从公式(8)、(9)得到。不同的相移法有各自的特点和应用场合。如常用的整周期等间隔M步相移法提取的相位就是对拍摄数据在时间方向上进行离散傅立叶 变换后基频的相位。

    • 傅立叶 变换法提取相位是一种典型的空间相位提取法[6]。拍摄的变形条纹也可表示为:

      $$\begin{split} {I_c}\left( {{x_c},{y_c}} \right) =\; & {a_c}\left( {{x_c},{y_c}} \right) + {b_c}\left( {{x_c},{y_c}} \right)\cos \left[2{\text{π}} {f_{0x}}{x_c} +\right.\\ & \left. 2{\text{π}} {f_{0y}}{y_c} + \Delta {\varphi _c}\left( {{x_c},{y_c}} \right)\right]\end{split}$$ (10)

      式中:f0xf0y为条纹在水平和垂直方向上的频率;Δφc(xc, yc)为受高度h(x, y)调制的相位变化量。这里以一维形式来讨论。对公式(10)作傅立叶 变换得:

      $$\tilde I\left( {{f_x}} \right) = A\left( {{f_x}} \right)+ Q\left( {{f_x} - {f_{0x}}} \right) + {Q^*}\left( {{f_x} + {f_{0x}}} \right) $$ (11)

      式中:A(fx)为条纹图的零级频谱;Q(fx)为条纹图的一级频谱,是$q\left({{x_c}} \right) = \dfrac{{{b_c}\left({{x_c}} \right)}}{2}\exp \left[ {i2{\text{π}} {f_{0x}}{x_c} + i\Delta {\varphi _c}\left({{x_c}} \right)} \right]$的傅立叶 变换。在公式(11)零级与一级频谱无混叠时,对公式(11)进行滤波,滤除Q* (fx)与A(fx)并作逆傅立叶 变换可得q(xc)。傅立叶 变换法求出q(xc)的辐角作为变形条纹的相位。进行上述操作要求图像带宽有限,这在实际中无法严格满足。首先图像的大小是有限的,相当于条纹存在突变,图像带宽非有限。采样定理不满足,频谱发生混叠,则求出的相位受到突变影响。bc(xc)如果有突变、物体高度存在突变(如高度台阶形物体),都会影响条纹相位提取精度。在bc(xc)变化缓慢、物体高度无突变、条纹数足够多时,相位误差较小。

    • 实现高速条纹投影是相移法动态三维表面成像的关键点之一。采用激光干涉法产生正弦条纹,可以实现高达50 MHz的条纹周期刷新率[32]。只要摄像机速度足够高、光源能量足够大,可以实现50 MHz的三维表面成像。目前该方法的条纹投影面积较小,因此测量体积较小。同时激光散斑、干涉条纹对环境影响敏感等影响了系统的测量精度。参考文献[33]提出了一种阵列投影器高速投射非周期条纹,实现了几十kHz的投影速度。该投影器体积可以做到很小,但是使用了两套微透镜阵列,制造复杂。而且投影光能量难以进一步提高。参考文献[34]提出了一种径向条纹高旋转实现非周期条纹投影的方法,降低了投影器的制造难度,同时提高了投影光的能量。参考文献[35-36]提出了等角度径向条纹高旋转,摄像机在旋转的一个周期内按一定时序采集,实现周期条纹高速相移投影—拍摄的方法。采用径向条纹旋转容易实现高能量的高速移动条纹投影。但是采用的都是定制装置,制作相对难度大。参考文献[37]对传统非周期条纹进行了改进,使其适合于普遍使用的DLP投影仪来高速投射非周期条纹。虽然投影速度比前者有所降低,但是实现更容易。目前市场上出现了MEMS扫描的投影器。采用MEMS振镜对强度随时间变化的线光做一维扫描实现快速条纹投影。该投影器采用激光二极管作为光源,目前其投射的光强还不高,因此还无法实现大面积快速三维表面成像。采用DLP技术的投影仪是目前比较成熟的投影方案,但是DLP投影仪只有采用二值图案时投影速度最快。研究者对于采用二值图案产生正弦条纹的方法做了较多的研究。投影二值图案获取正弦条纹技术主要是利用投影镜头的离焦对图案做低通滤波,产生正弦条纹。投影镜头的点扩散函数可以表示为:

      $$ h(x,y) = \frac{1}{{2{\text{π}}{\sigma ^2}}}\exp \left( { - \frac{{{x^2} + {y^2}}}{{2{\sigma ^2}}}} \right) $$ (12)

      式中:扩散参数σ=kRk为比例系数(k>0),R为模糊圆的半径。

      $$ R = s \cdot \left( {\frac{1}{f} - \frac{1}{u} - \frac{1}{s}} \right) \cdot \frac{D}{2} $$ (13)

      式中:f为投影仪镜头焦距;u为物距;s为模糊圆像面到投影仪镜头的距离;D为投影镜头光圈的直径。可以看出,扩散参数σ和离焦距离s成正比。离焦后的投影图像表示为:

      $$ I_p^\prime (x,y) = {I_p}(x,y)h(x,y) $$ (14)

      离焦后的镜头点扩散函数呈低通特性,因此投影仪离焦相当于对投影图案做了低通滤波。

      利用罗琦光栅离焦投影[38]是较早提出的方案。罗琦光栅可以分解为多个奇数次谐波的正弦光栅。罗琦光栅中基频成分的幅度是2/π,可以获得高对比度的条纹[39]。在周期较小时,高次谐波与基频距离较大,只要轻微离焦,配合整周期等间隔奇数次相移,该方法可以获得很高的精度[40]。优化的脉宽调制方法[41]在条纹周期较大时可以产生质量较好的正弦条纹,但是周期较小时该方法无法实现优化。其他的二值图案还有脉宽调制法[42]、面积调制法[43]、误差扩散法[44-45]等。这些方法在输出设备分辨率高,对一个条纹周期内的采样点数较多时效果较好。参考文献[46]提出了一种通用优化抖动方法,产生的二值图案在小周期和大周期情况下都能获得良好的效果。参考文献[47]研究了不同量化级时直接量化与采用误差扩散方法产生正弦条纹的相位测量误差情况。在条纹周期较大时,误差扩散图案离焦投影相位测量的标准偏差比直接量化的小。在离焦程度较小时,其最大误差比直接量化的大。总体而言,当量化比特数大于4时,周期较大情况下,两种方法的相位测量最大误差都小于2π的1%。

    • 在投影速度足够快的情况下,采用较低速度的成像设备实现动态三维表面成像,是动态三维表面成像研究的另一个方面。从公式(10)可知,通过设置水平方向频率f0x和垂直方向频率f0y能够得到不同方向的条纹。在多个不同载频的变形条纹叠加图像中,如果保证变形条纹空间频谱之间不混叠,则可以通过滤波将这些条纹分离。参考文献[48]采用频分复用的方法,通过在摄像机一个积分周期内投影多个不同方向载频的正弦条纹。每个时刻对应一个载频。这样,不同时刻变形条纹的空间频谱是分离的。通过滤波分离出对应频率的变形条纹信息,再求出变形条纹的相位,最后由相位得到对应时刻的物体三维形貌。通过这种方法,从采集的一幅图像中得到多个不同时刻的被测物体三维形貌。该方法在实现高速测量的同时牺牲了每个时刻图像的动态范围,测量精度受到影响。图2是频分复用采集的叠加条纹图及通过滤波分离出的不同时刻条纹图。类似地,也可以采用颜色对不同时刻编码(颜色复用)。LED的光谱带宽较窄,采用LED作为光源,通过LED光谱与摄像机彩色滤光膜的光谱特性匹配,尽可能减小颜色串扰,可以实现较高的测量精度。该方案中,测量物体表面反射的光谱特性对测量精度有影响。极端情况下会造成测量失败(如物体对某种波长的光吸收率大到无法拍摄条纹),但是通常这种情况不会出现。图3是采用这种方法采集的颜色叠加图像及分离出的不同时刻图像。

      图  2  频分复用实验结果。(a) 原始图像; (b)、(c)、(d) 滤波分离出的不同时刻条纹图

      Figure 2.  Experimental results of frequency multiplexing. (a) Original image; (b), (c), (d) fringes image at different moment separated by filtering

      图  3  颜色复用实验结果。(a) 原始图像 ;(b)、(c)、(d) 颜色分离得到的不同时刻条纹图

      Figure 3.  Experimental results of color multiplexing. (a) Original image; (b), (c), (d) Fringes image at different moment separated by color

      对于周期性或近似周期性变化的动态过程,参考文献[49]提出了频闪条纹投影的方法对风扇启动过程中叶片形变情况进行了测量。当风扇叶片运行到拍摄位置时,触发投影、拍摄系统工作,采集这一时刻的变形条纹。通过傅立叶 变换轮廓术得到风扇叶片三维形貌。对于周期性形变,参考文献[50]提出了一种多周期扫描采样的方法。图4是多周期扫描采样原理示意图。每隔一定时间采集周期中的指定位置,通过采集多个周期内不同位置的数据,最后合成完整的一个周期形变信息。参考文献[50]中以曲面为参考面计算每一时刻的三维形貌。对扬声器在不同频率激励下的震动模式及实时形变进行了测量。得到的结果与采用高速摄像机测量的相同。图5是在660 Hz和1 000 Hz正弦波激励下某种扬声器纸盆振动模式测量结果。

      图  4  多周期扫描采样示意图

      Figure 4.  Schematic diagram of multi period scanning and sampling

      图  5  扬声器纸盆振动模式测量结果。(a) 激励频率为660 Hz; (b) 激励频率为1 000 Hz

      Figure 5.  Experimental results of vibration modes of the loudspeaker membrane. (a) Excitation frequency of 660 Hz; (b) Excitation frequency of 1 000 Hz

    • 在对有孤立物体的大深度场景动态三维表面成像时需要得到变形条纹的绝对相位。动态三维表面成像中的绝对相位测量方法也是研究的重要方面[51]。绝对相位测量的根本问题是获得条纹级次。条纹相位的计算都要采用反正切函数,如公式(9)。得到的相位分布在[−π,π)或[0,2π)主值区间内,称为截断相位。如果视场内只有1条条纹或测量的相位与参考面的相位差绝对值小于π时,不需要相位展开。其他情况下,实际相位φ与截断相位φw有如下关系:

      $$ \varphi (x,y) = {\varphi _{\rm{r}}}(x,y) + 2l{\text{π}} $$ (15)

      式中:l为条纹级次。

      理论上,目前使用的各种编码方法[52]都可以用来对条纹级次进行编码。在相移条纹投影动态三维表面成像中,要求投影的编码图案数尽可能少。动态三维表面成像中的条纹级次获得方法主要有模拟或数字编码、区域统计特性编码法[53]、多目几何约束法[54-55]及深度约束法[56]等。模拟或数字编码主要利用光强、相位[57]等参数对条纹级次进行编码。区域统计特性编码法通常是设计局部区域统计特性有唯一性的图案(如数字散斑)对条纹级次编码,解码中需要作模式匹配。深度约束法[56]的核心思想是设置一个相位已知的参考面,这个参考面可以是平面,也可以是曲面[58]。设定物体形貌引起的条纹变化不超过一个周期,这样相对相位就只需要做简单的展开,从而得到绝对相位。

    • 模拟编码法也称为多波长相移法[59-60]或时间相位展开法[61-62]。它利用多个不同周期的条纹相位间的关系来确定条纹级次,因此需要投影多套条纹。在动态三维表面成像中,采用两个或三个周期接近的条纹是常见方法。该方法特别适合离焦二值条纹投影,因为获得正弦条纹需要的离焦程度接近。以两个频率条纹投影的多频外差法为例。设两个条纹的频率分别为f1f2,且f1>f2,初相位分别为φ01φ02,则这两个条纹的相位差为:

      $$ \begin{split} {\varphi _s}(x,y) = \; &{\varphi _1}(x,y) - {\varphi _2}(x,y)=\\ & 2{\text{π}} \left( {{f_1} - {f_2}} \right){x_p} + {\varphi _{01}} - {\varphi _{02}} \end{split} $$ (16)

      当频率差f1f2≤1/xpmax时,合成条纹在投影区域内只有一个周期。则频率为f1的条纹级次:

      $$ {l_1}(x,y) = {\rm{round}}\left[ {\frac{{{f_1}{\varphi _2}(x,y) - {f_2}{\varphi _1}(x,y)}}{{2\pi \left( {{f_1} - {f_2}} \right)}}} \right] $$ (17)

      式中: round[.]为四舍五入取整。从上式可以看出相位测量误差被放大。在噪音较大的时候需要采用3个频率的三频外差法,这样相位测量误差放大的倍数减小,保证条纹级次计算正确。

      除多频外差法外,还有采用数论中的方法通过选择合适的频率/周期实现条纹级次求解[26, 63-67]。参考文献[26, 67]利用在条纹周期最小公倍数范围内条纹级次组合唯一这一特性求解条纹级次。这种方法可利用的条纹周期数大于等于多频外差法,但是误差放大问题依然存在,需要通过其他方法检测、纠正条纹级次错误。

      采用模拟编码法需要投影额外的条纹来计算条纹级次。在高速动态三维测量时,需要研究尽量减少条纹投影数量的方案。参考文献[68]提出了一种方法,投影6幅图案实现了绝对相位及颜色纹理的获取。该方法采用双频外差法,通过投影1幅全白图案获取背景光强,采用了修改的三步相移法及改进的傅立叶 变换法分别获得两个频率相近条纹的相位,再用双频外差法得到绝对相位。利用三步相移法计算的相位进行三维表面成像,保证了精度。采用主动颜色投影方法,投影两个原色的纯色图案,结合背景光强,得到被测物体颜色纹理。图6是一次测量中拍摄的图像。图(a)、(b)是相位差为2π/3的两幅高频条纹,与图(d)一起采用修改的三步相移法求解相位;图(c)是低频条纹,与图(d)一起采用改进的傅立叶 变换法求解相位;图(d)~(f)分别是白、红、绿三色光照明下拍摄的图像。从中求解出蓝光照明下的图像,从而得到物体表面彩色纹理。图7是两个不同时刻的表情三维测量结果及贴上彩色纹理的三维形貌。参考文献[26]提出了称为μFTP的方法。通过投影3个频率的条纹,条纹间投影全白图案,一共6幅图案实现高速绝对相位测量。该方法采用全白图案照明下拍摄的图像对条纹归一化,减少了背景和物体表面反射率变化对相位测量精度的影响。文献中还采用了投影距离最小化(projection distance minimization)方法优化相位展开结果。该方法利用由不同周期条纹相位构成的点在多维空间中构成一条通过原点的直线这一特点,求解条纹级次的最佳组合。图8是条纹周期分别为3,4,5 pixel(其最小公倍数为60 pixel)时的条纹相位在三维空间中的点轨迹。图中φ1、φ2、φ3分别是周期为3,4,5 pixel条纹对应的相位。对于坐标为11的投影仪像素对应的截断相位,其条纹级次有34种可能的组合,分别为(0,0,0)、(1,0,0)、…、(19,14,11)。只有匹配的组合(3,2,2)计算出的绝对相位位于直线上。以计算出的绝对相位与直线距离最近为原则,在所有可能的条纹级次组合中搜索最佳组合,从而得到最佳条纹绝对相位。

      图  6  动态人脸测量图像序列中的一套数据。(a)、(b) 相位差为2π/3的高频条纹 ;(c) 低频条纹; (d) 白光照明下的图像 ;(e)、(f)红、绿光照明下的图像

      Figure 6.  A set images of dynamic face measurement sequence. (a),(b) High frequency fringes with phase difference 2π/3; (c) Low frequency fringe; (d) Image obtained with white light illumination; (e),(f) Images obtained with red and green light illumination separately

      图  7  表情变化测量结果。(a)、(b)不同时刻的表情; (c) 贴上彩色纹理的三维形貌

      Figure 7.  Measurement results of expression change. (a),(b) Expression at different moment; (c) 3D shape with color texture

      图  8  投影距离最小法示意图

      Figure 8.  Schematic diagram of projection distance minimization

    • 数字编码法[52]利用二值或多值时间编码、空间编码或时空编码[69]方法对条纹级次进行编码。二值时间编码可靠性最高。投影N幅编码图案能够编码2N条条纹。需要的图案数最多,不利于动态三维测量。在相移条纹投影动态三维表面成像中,二值时间编码较少使用。在M值时间编码中,投影N幅编码图案能够编码MN条条纹,编码的条纹数量大大增加。因此,采用M值时间编码对相同数量条纹编码需要的图案数将大大减少。但是受噪声影响,解码的可靠性降低。在被测物体反射率分布简单、系统信噪比较好的情况下可以采用多值时间编码。空间编码只需要1幅图案,利用相邻空间信息对条纹级次进行编码,但是其可靠性最低。时空编码方法结合时间和空间信息对条纹级次编码,可靠性和投影的图案数都介于两者之间。

      采用空间编码时,被测物体的横向尺寸如果太小会导致编码区域不足,复杂物体还存在编码区域错误组合等问题。常常需要根据其他信息进行编码纠正。为减小编码区域尺寸,参考文献[39]提出了一种3值二维空间编码方法。将图像根据投影条纹方向分成若干宽度与条纹周期相同的竖条。在竖条内,沿着条纹的方向上利用灰度变化规律进行编码,得到6个码值。利用该码值在水平方向上构造特别的伪随机序列。该序列通过在有向图上搜索哈密顿环的方法得到。其特点是:(1)子序列大于等于一定长度(窗口长度)时,该子序列唯一;(2)在窗口长度内,子序列中无重复代码。这样的子序列实际上是一种空间编码,只要存在窗口长度的子序列就可以确定条纹级次。使用6个代码,序列的窗口长度为2时,能够编码30条条纹。图9是采用垂直条纹时,投影条纹和编码图案。上面两幅是位移量为1/3周期的罗琦光栅。第3幅是编码图案,采用误差扩散的方法转化为二值图案。将上述图案在离焦的投影仪上投出,得到相移量为2π/3的正弦条纹及三级灰度编码图案。条纹级次与编码值之间的关系如图10所示。图中k为条纹级次,k'为编码值。采用这样的对应关系,相位跳变的位置码值不变,而码值变化的位置相位连续,求出的条纹级次对运动敏感性低。图11是采用该编码方法结合改进的傅立叶 变换法测量的结果。采用的窗口长度为3。在编码不足部分结合洪水算法作空间相位展开。

      图  9  三值二维空间编码例子

      Figure 9.  Example pattern of 3 level 2D spatial coding

      图  10  条纹级次与编码值关系

      Figure 10.  Relationship of fringe order and code

      图  11  三值二维空间编码法绝对相位测量结果。(a) 变形条纹 ;(b) 深度图

      Figure 11.  Experimental results of absolute phase for two dimensional three level spatial coding method. (a) Deformed fringe; (b) Depth map

    • 区域统计特性编码法在解码时需要进行模式匹配,有单相机方案[53]和双相机方案[54]。该方法需要投影1幅编码图案或将编码图案复合到正弦条纹中。利用双目匹配得到匹配点在投影仪中的粗略位置,得到条纹的级次。单相机方案将投影图案和拍摄图案匹配。模式匹配相对困难,预处理算法比较复杂,鲁棒性不高。双相机方案再增加1台相机,在两台相机之间做双目匹配,这样相对比较容易、鲁棒性也得到了提高。这类双相机方案也可以只作为主动双目系统[54]。这样,不用标定投影仪,只将投影图案作为附加特征。先以投影的编码图案作为特征进行粗匹配,再将截断的相位作为特征进行精匹配得到精度更高的对应点。编码图案复合到正弦条纹中的方案降低了条纹的动态范围,影响了相位测量精度,同时编码图案对测量的相位也有影响。

    • 多目几何约束法是指投影仪加双目或多目相机,利用多目系统的几何约束而不需要投影额外编码图案的方法。直接利用截断相位,根据极线约束、测量体积约束等多个约束寻找两个(多个)相机上的最佳匹配点,从而得到绝对相位。图12是多目几何约束方法示意图。左图中“1”点和右图的“1'”点对应。在下面的截断相位图中,“1”点与右图中对应极线上截断相位相同的点“1'”、“2'”、…、“n'”等都可能对应。在条纹数N确定时,一共有N对可能的对应点。因此,需要根据相位分布、表面反射率分布等在这N对可能的对应点中寻找最佳匹配点。参考文献[70]在投影仪、双目摄像机构成的三目系统(投影仪看成反向工作的摄像机)中,利用一个摄像机的坐标及测得的截断相位结合三目系统中的约束—三焦张量计算得到另一个相机中N个可能的对应点。再在这N个点中搜索最佳匹配点。为提高条纹级次求解的可靠性,还采用了连续表面分割,利用局部连续性作空间相位展开,将小区域的相位合并到相邻的大区域中;相位展开优化;一致性检查等一系列操作。整体算法比较复杂。

      图  12  多目几何约束示意图

      Figure 12.  Schematic diagram of multi-view geometric constraints

    • 采用相移条纹投影的动态三维表面成像中,假设拍摄期间物体是准静态的。当场景的变化速度相对于成像装置的速度快到一定程度时,这种假设不再成立,造成相位测量误差。造成误差的主要因素是运动造成的条纹间相移量偏离设计值和条纹幅度偏离设计值。研究者在提高动态三维表面成像中的相位获取精度上做了诸多探索[71-74]。对于刚体运动导致的相位测量误差,参考文献[75]估计了物体的运动参数,根据估计的参数进行相位补偿。在相移偏差较小且运动一致的情况下,参考文献[70]推导得到真实相位与测量相位、相移误差之间的表达式,并将其用泰勒级数展开;然后基于局部线性假设在每个像素周围的小邻域内采用线性拟合得到相移误差从而求解出变形条纹实际相位。该方法减小了运动导致的相位失真,得到了很好的效果。但是,实际中假设的条件不能总是满足。而对于非刚体运动、多种运动组合的情况,参考文献[76]提出了傅立叶 辅助相移(FAPS)的方法,取得了良好的效果。先用傅立叶 变换法提取每幅条纹的相位,再求出相邻两幅条纹间的相位差,作为条纹的实际相移量计算条纹相位分布。但是傅立叶 分析法是一种全局方法,条纹频率或幅度突变会影响全局的相移量估计结果。采用加窗傅立叶 分析(WFAPS)[77]及图像分割加Gerchberg迭代的方法(GWFAPS)[78]可以提高相移量估计精度。参考文献[77-78]中还将图像分割成动态和静态两部分。对于静态部分用相移法提取相位。对于动态部分,检测条纹突变边缘,在根据边缘将条纹图分割成不同部分。然后采用Gerchberg迭代方法迭代出区域周边的条纹。最后采用加窗傅立叶 分析法得到相移量。这样提高了动态部分的相位测量精度。合并动态和静态部分的相位,得到高精度的全局相位。图13是几种方法的处理结果对比及GWFAPS和PMP结合的结果。采用GWFAPS方法后运动导致的误差大大减小,能够明显看出手掌上的纹路。由于采用了图像分割、迭代及加窗傅立叶 变换等,该方法计算量比较大,实现实时测量难度较大。参考文献[79]提出了相移加背景归一化的傅立叶 变换法实现高精度动态三维表面成像方法。该方法投影3幅相移为2π/3的正弦条纹和1幅全白图案。根据相邻条纹的相移量将被测场景分为动态部分和静态部分。动态部分用背景归一化的傅立叶 变换法提取相位,而静态部分用相移法提取相位。这种方法在动态部分只用了背景归一化的傅立叶 变换法,计算量相对小,适合实时测量。背景归一化的傅立叶 变换法原理如下。在投影强度为条纹幅度的全白图案时,拍摄的图像为:

      图  13  相位补偿实验结果。(a) PMP测量的结果; (b)~(d) FAPS、WFAPS和GWFAPS补偿的结果; (e) GWFAPS和PMP结合结果

      Figure 13.  Experimental results of phase compensation. (a) Phase measured by PMP; (b)-(d) Results of phase compensation by FAPS, WFAPS and GWFAPS separately;(e) Result combining GWFAPS with PMP

      $$ {I_0}\left( {{x_c},{y_c}} \right) = {a_c}\left( {{x_c},{y_c}} \right) $$ (18)

      在环境光强可以忽略时${b_c}\left({{x_c},{y_c}} \right) = {a_c}\left({{x_c},{y_c}} \right)$。做如下处理:

      $$ \begin{split} {I_n}\left( {{x_e},{y_e}} \right) =\; & \frac{{{I_e}\left( {{x_e},{y_e}} \right) - {I_0}\left( {{x_e},{y_e}} \right)}}{{{I_0}\left( {{x_e},{y_e}} \right) + \gamma }} =\\ & \cos \left[ {2\pi {f_{0x}}{x_e} + 2\pi {f_{0y}}{y_c} + \Delta {\varphi _c}\left( {{x_c},{y_c}} \right)} \right] \end{split} $$ (19)

      式中:γ为一个小常数,防止出现被0除错误。经过公式(19)的处理,环境光及物体表面反射率的影响被消除,提高了相位测量精度。图14是采用不同算法提取出的相位比较。在满足准静态条件下,采用背景归一化傅立叶 变换法提取的相位精度最高。

      图  14  不同相位提取算法比较。(a) 傅里叶变换法; (b) 去背景傅里叶变换法; (c) 背景归一化傅里叶变换法

      Figure 14.  Comparison of different algorithm for obtaining phase. (a) By Fourier transform; (b) By background- eliminated Fourier transform; (c) By background-normalized Fourier transform

    • 近几年,随着支撑技术的成熟及光学三维表面成像商业应用的成功,条纹投影动态三维表面成像技术的研究爆发式增长。高速、高精度动态表面三维成像是研究的重点。研究者针对不同应用场合的特点,就相应的解决方案进行了诸多研究。文中从基本原理出发,回顾了条纹投影动态三维表面成像中的各环节关键技术,分析了典型技术的优缺点。在正弦条纹产生部分重点介绍了离焦二值图案投影方法;在绝对相位获取部分主要介绍了各类条纹级次编码方法;在高精度相位测量部分主要介绍了相位补偿方法和多种相位测量方法结合的复合相位测量方法。

      条纹投影动态三维表面成像技术是一种跨学科的综合技术,它主要包含了光学、电子学、信号处理、计算机硬件及软件等方面内容。进一步紧密结合该技术涉及学科,综合考虑光学设计、传感器特性及软件处理能力(如引入深度学习),进一步提高动态三维表面成像系统的性能及性价比是研究的一个重要方向。

参考文献 (79)

目录

    /

    返回文章
    返回