留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

仿人眼视网膜成像技术研究进展(特约)

曹杰 郝群 张芳华 崔焕 唐鸣元 程阳 李鲲 高泽东 方亚毜

曹杰, 郝群, 张芳华, 崔焕, 唐鸣元, 程阳, 李鲲, 高泽东, 方亚毜. 仿人眼视网膜成像技术研究进展(特约)[J]. 红外与激光工程, 2020, 49(8): 20201026. doi: 10.3788/IRLA20201026
引用本文: 曹杰, 郝群, 张芳华, 崔焕, 唐鸣元, 程阳, 李鲲, 高泽东, 方亚毜. 仿人眼视网膜成像技术研究进展(特约)[J]. 红外与激光工程, 2020, 49(8): 20201026. doi: 10.3788/IRLA20201026
Cao Jie, Hao Qun, Zhang Fanghua, Cui Huan, Tang Mingyuan, Cheng Yang, Li Kun, Gao Zedong, Fang Yami. Research progress of bio-inspired retina-like imaging (Invited )[J]. Infrared and Laser Engineering, 2020, 49(8): 20201026. doi: 10.3788/IRLA20201026
Citation: Cao Jie, Hao Qun, Zhang Fanghua, Cui Huan, Tang Mingyuan, Cheng Yang, Li Kun, Gao Zedong, Fang Yami. Research progress of bio-inspired retina-like imaging (Invited )[J]. Infrared and Laser Engineering, 2020, 49(8): 20201026. doi: 10.3788/IRLA20201026

仿人眼视网膜成像技术研究进展(特约)

doi: 10.3788/IRLA20201026
基金项目: 国家自然科学基金(61871031,61875012,61905014);基础加强技术领域基金(2019-JCJQ-JJ-273);北京市自然科学基金(4182058);上海航天科技创新基金(SAST2017-083);博士后国际交流计划派出项目(20190097)
详细信息
    作者简介:

    曹杰(1984-),男,副研究员,博士生导师,博士,主要从事仿生视觉、三维成像方面的研究工作。Email:caojie@bit.edu.cn

    通讯作者: 郝群(1968-),女,教授,博士生导师,博士,主要从事激光探测、精密测量与仪器方面的研究工作。Email:qhao@bit.edu.cn
  • 中图分类号: Q811.211

Research progress of bio-inspired retina-like imaging (Invited

  • 摘要: 人眼视网膜因具有变分辨成像及冗余数据压缩的优势为成像方法与应用开辟了新途径。基于人眼视网膜成像机理,有效解决了大视场、高分辨、实时性难以兼顾的问题。随着半导体制造工艺与计算机处理能力的迅猛发展,仿人眼视网膜成像系统已广泛应用于视觉导航、识别与跟踪、生物医疗等领域, 目前,正朝着小型化、高效化、智能化方向发展。对比分析了仿人眼视网膜成像实现方法的优缺点,以现有实例化应用分析了仿人眼视网膜成像技术的发展现状并提出挑战与机遇,为进一步研究仿人眼视网膜成像提供参考与借鉴。
  • 图  1  被动式仿人眼视网膜图像传感器

    Figure  1.  Passive bio-inspired retina-like image sensor

    图  2  传统与仿人眼视网膜图像传感器对比

    Figure  2.  Comparison between traditional and bio-inspired retina-like image sensors

    图  3  基于空间变分辨率的目标搜索

    Figure  3.  Target seeking based on space variant resolution

    图  4  图像深度信息提取

    Figure  4.  Information extraction of the image depth

    图  5  改进型仿人眼视网膜结构与成像

    Figure  5.  Improved bio-inspired retina-like structure and imaging

    图  6  基于非均匀透镜阵列的仿人眼视网膜传感器

    Figure  6.  Bio-inspired retina-like sensor based on non-uniform lens array

    表  1  实现方式比较

    Table  1.   Comparison of implementation

    Implementation itemsCircuitOpticsSoftware
    PassiveActive
    Core methodNon-uniform pixelsNon-uniform scanning specklesVariable resolution design of optical componentsLogarithmic polar correlation algorithms
    Key featureCompression when sampling, high resolution in gaze imaging region +peripheral low resolution imaging samplingAchieve variable resolution with image sensorsCompressing after sampling
    AdvantagesGood real-time performance, high sensitivity and low data volumeAchieve local high resolution with good scalabilityStructures are simple and easy to connect with existing equipment
    DisadvantageNonuniform responseNo reduction in data volumePoor real-time performance
    DifficultyDifficult MediumMediumEasy
    下载: 导出CSV
  • [1] 李晗, 段海滨, 李淑宇. 猛禽视觉研究新进展[J]. 科技导报, 2018, 36(17): 52-67.

    Li Han, Duan Haibin, Li Shuyu. New progress in raptor vision research [J]. Science & Technology Review, 2018, 36(17): 52-67. (in Chinese)
    [2] Floreano D, Pericet-Camara R, Viollet S, et al. Miniature curved artificial compound eyes [J]. Proc Natl Acad Sci U S A, 2013, 110(23): 9267-9272. doi:  10.1073/pnas.1219068110
    [3] 胡雪蕾, 高明, 陈阳. 大视场曲面仿生复眼光学系统设计[J]. 红外与激光工程, 2019, 49(1): 0114002. doi:  0114002

    Hu Xuelei, Gao Ming, Chen Yang. Design of curved bionic compound eye optical system with large field of view [J]. Infrared and Laser Engineering, 2019, 49(1): 0114002. (in Chinese) doi:  0114002
    [4] Cheng Yang, Cao Jie, Zhang Yangkun, et al. Review of state-of-the-art artificial compound eye imaging systems [J]. Bioinspiration & Biomimetics, 2019, 14: 0310023.
    [5] Schwartz E L. Spatial mapping in primate sensory projection - analytic structure and relevance to perception [J]. Biological Cybernetics, 1977, 25(4): 181-194. doi:  10.1007/BF01885636
    [6] Javier Traver V, Alexandre Bernardino. A review of log-polar imaging for visual perception in robotics [J]. Robotics and Autonomous Systems, 2010, 58(4): 378-398. doi:  10.1016/j.robot.2009.10.002
    [7] Paolo P, Gamba Ele, Lombardi Luca, et al. Log-map analysis [J]. Parallel Computing, 2008, 34(12): 757-764. doi:  10.1016/j.parco.2008.09.008
    [8] Liu Zhaoqin, Peng Man, Di Kaichang, et al. A continuative variable resolution digital elevation model for ground-based photogrammetry [J]. Computers & Geosciences, 2014, 62: 71-79.
    [9] 韩溟, 郭峰, 王道平. 图像对数极坐标变换的FPGA实现[J]. 弹箭与制导学报, 2011, 31(6): 44-46. doi:  10.3969/j.issn.1673-9728.2011.06.013

    Han Ming, Guo Feng, Wang Daoping. The implementation of LPT for image by FPGA [J]. Journal of Projectiles, Rockets, Missiles and Guidance, 2011, 31(6): 44-46. (in Chinese) doi:  10.3969/j.issn.1673-9728.2011.06.013
    [10] Wong Wai Kit, Choo Chee Wee, Loo Chu Kiong, et al. FPGA implementation of log-polar mapping[C]//IEEE 15th International Conference on Mechatronics and Machine Vision in Practice, 2008: 45-50.
    [11] Wick D, Martinez T, S Restaino, et al. Foveated imaging demonstration [J]. Optics Express, 2002, 10(1): 60-65. doi:  10.1364/OE.10.000060
    [12] Hao Qun, Wang Zihan, Cao Jie, et al. A hybrid bionic image sensor achieving fov extension and foveated imaging [J]. Sensors, 2018, 18: 10424.
    [13] Niu Yajun, Chang Jun, Lv Fengxiang, et al. Low-cost dynamic real-time foveated imager [J]. Applied Optics, 2017, 56(28): 7915. doi:  10.1364/AO.56.007915
    [14] Massimo Tistarellia, Giulio Sandinia. Estimation of depth from motion using an anthropomorphic visual sensor [J]. Image and Vision Computing, 1990, 8(4): 271-278. doi:  10.1016/0262-8856(90)80003-C
    [15] Sandini G, Questa P, Scheffer D, et al. A retina-like CMOS sensor and its applications[C]//Proceedings of the 2000 IEEE Sensor Array and Multichannel Signal Processing Workshop, 2000: 514-519.
    [16] Pardo F, Boluda J A, Pérez J J, et al. Response properties of a foveated space-variant CMOS image sensor[C]//1996 IEEE International Symposium on Circuits And Systems, ISCAS'96. 1996: 373-376.
    [17] Cao Fengmei, Lin Yabin, Bai Tingzhu, et al. Image rotation-elimination based on a retina-like sensor [J]. Optical Engineering, 2015, 54: 12310512.
    [18] 曹峰梅, 牟勇, 白廷柱. 基于仿视网膜成像器件的折反射全景系统设计[J]. 光学技术, 2018, 44(2): 133-139.

    Cao Fengmei, Mou Yong, Bai Tingzhu. Design of a catadioptric panorama system based on retina-like imaging device [J]. Optical Technique, 2018, 44(2): 133-139. (in Chinese)
    [19] Hao Qun, Meng Lingtong, Cheng Yang, et al. Design of a retina-like transmitting system based on a curved lens array [J]. Applied Optics, 2018, 57(29): 8494-8502. doi:  10.1364/AO.57.008494
    [20] Brian F Aull, Duerr Erik K, Frechette Jonathan P, et al. Large-format Geiger-mode avalanche photodiode arrays and readout circuits [J]. IEEE Journal of Selected Topics in Quantum Electronics, 2018, 24: 38005102.
    [21] 孙剑峰, 姜鹏, 张秀川, 等. 32×32面阵InGaAs Gm-APD激光主动成像实验[J]. 红外与激光工程, 2016, 45(12): 1206006. doi:  10.3788/IRLA201645.1206006

    Sun Jianfeng, Jiang Peng, Zhang Xiuchuan, et al. Experimental research of 32×32 InGaAs Gm-APD arrays laser active imaging [J]. Infrared and Laser Engineering, 2016, 45(12): 1206006. (in Chinese) doi:  10.3788/IRLA201645.1206006
    [22] Jiang Yunshan, Karpf Sebastian, Jalali Bahram. Time-stretch LiDAR as a spectrally scanned time-of-flight ranging camera [J]. Nature Photonics, 2020, 14(1): 14. doi:  10.1038/s41566-019-0548-6
    [23] 陈伟海, 宋蔚阳, 荣利霞, 等. 仿人眼功能的三维激光扫描算法[J]. 北京航空航天大学学报, 2009, 3(5): 563-566.

    Chen Weihai, Song Weiyang, Rong Lixia, et al. 3D laser scanning algorithm with human-like eye function [J]. Journal of Beijing University of Aeronautics and Astronautics, 2009, 3(5): 563-566. (in Chinese)
    [24] Ye Ling, Gu Guohua, He Weiji, et al. Adaptive target profile acquiring method for photon counting 3-D imaging lidar [J]. IEEE Photonics Journal, 2016, 8(6): 2625801. doi:  10.1109/JPHOT.2016.2625801
    [25] Cao Jie, Hao Qun, Xia Wenze, et al. Design and realization of retina-like three-dimensional imaging based on a MOEMS mirror [J]. Optics and Lasers in Engineering, 2016, 82: 1-13.
    [26] David B Phillips, Sun Mingjie, Taylor Jonathan M, et al. Adaptive foveated single-pixel imaging with dynamic supersampling [J]. Science Advances, 2017, 3(4): 1-10.
    [27] Cheon W Shin, Inokuchi Seiji, Kim Kwang I. Retina-like visual sensor for fast tracking and navigation robots [J]. Machine Vision and Applications, 1997, 10(1): 1-8. doi:  10.1007/s001380050053
    [28] 乔良, 鲍泓, 郑颖. 无人驾驶汽车决策控制技术研究: 基于驾驶态势图[C]//中国计算机用户协会网络应用分会2017年第二十一届网络新技术与应用年会论文集, 2017: 293-296.

    Qiao Liang, Bao Hong, Zheng Ying. Research on autonomous driving decision and control technology: Based on driving state map[C]//Proceedings of the 21st Annual Meeting of New Network Technology and Application in 2017 of Network Application Branch of China Computer Users Association, 2017: 293-296. (in Chinese)
    [29] 范晋祥, 张渊, 王社阳. 红外成像制导导弹自动目标识别应用现状的分析[J]. 红外与激光工程, 2007, 36(6): 778-781. doi:  10.3969/j.issn.1007-2276.2007.06.002

    Fan Jinxiang, Zhang Yuan, Wang Sheyang. Analysis of application status of ATR technologies in infrared imaging guided missiles [J]. Infrared and Laser Engineering, 2007, 36(6): 778-781. (in Chinese) doi:  10.3969/j.issn.1007-2276.2007.06.002
    [30] 赵刚, 李嵘, 王敏. 符合人眼视觉特性的前背景匹配快速算法[J]. 计算机工程与应用, 2008, 44(20): 80-82. doi:  10.3778/j.issn.1002-8331.2008.20.025

    Zhao Gang, Li Rong, Wang Min. Fast foreground/background matching algorithm based on human visual properties [J]. Computer Engineering and Applications, 2008, 44(20): 80-82. (in Chinese) doi:  10.3778/j.issn.1002-8331.2008.20.025
    [31] 李言俊. 视觉仿生成像制导技术及应用[M]. 北京: 国防工业出版社, 2006.

    Li Yanjun. Visual Imitation Image Guidance Technology and Application[M]. Beijing: National Defense Industry Press, 2006. (in Chinsese)
    [32] 粟宇路, 曹峰梅, 王凡, 等. 仿视网膜探测器在相向运动中的仿真成像研究[J]. 光学技术, 2013, 39(1): 28-32.

    Su Yulu, Cao Fengmei, Wang Fan, et al. The research on the imaging simulation of retina-like sensor in the forward motion [J]. Optical Technique, 2013, 39(1): 28-32. (in Chinese)
    [33] Kang Wei, Zeng Hansong, Zhao Yi. Insect-Human Hybrid Eye (IHHE): an adaptive optofluidic lens combining the structural characteristics of insect and human eyes [J]. Lab on a Chip, 2014, 14(18): 3594-3602. doi:  10.1039/C4LC00363B
    [34] David Claveau, Wang Chunyan. Space-variant motion detection for active visual target tracking [J]. Robotics and Autonomous Systems, 2009, 57(1): 11-22. doi:  10.1016/j.robot.2008.04.001
    [35] 刘惠中. 空间分辨率可变视觉系统研究[D]. 西安: 西北工业大学, 2005.

    Liu Huizhong. Research on vision system with variable spatial resolution[D]. Xi'an: Northwestern Polytechnical University, 2005. (in Chinese)
    [36] 魏新国, 张广军, 江洁. 基于Log-Polar变换的星图识别方法[J]. 光学技术, 2006, 32(5): 678-681. doi:  10.3321/j.issn:1002-1582.2006.05.038

    Wei Xinguo, Zhang Guangjun, Jiang Jie. A star identification algorithm base on Log-Polar transform [J]. Optical Technique, 2006, 32(5): 678-681. (in Chinese) doi:  10.3321/j.issn:1002-1582.2006.05.038
    [37] 汪洋, 黄小红, 陈曾平. 基于对数极坐标变换的目标识别算法[J]. 雷达科学与技术, 2009, 7(2): 111-114. doi:  10.3969/j.issn.1672-2337.2009.02.007

    Wang Yang, Huang Xiaohong, Chen Cengping. A new algorithm for target recognition based on log-polar transform [J]. Radar Science and Technology, 2009, 7(2): 111-114. (in Chinese) doi:  10.3969/j.issn.1672-2337.2009.02.007
    [38] Wang Hongsheng, Hao Qun, Cao Jie, et al. Target recognition method with frequency features on retina-like laser detection and range images [J]. Applied Optics, 2019, 58(35): 9532-9539. doi:  10.1364/AO.58.009532
    [39] Zhang Kaiyu, Cao Jie, Hao Qun, et al. Modeling and simulations of retina-like three-dimensional computational ghost imaging [J]. IEEE Photonics Journal, 2019, 11: 69007131.
    [40] 曹杰, 郝群, 宋勇, 等. 基于对数极坐标映射的非均匀透镜阵列设计[J]. 光子学报, 2014, 43: 97-102.

    Cao Jie, Hao Qun, Song Yong, et al. Designing non-uniform lens array based on log-polar mapping [J]. Acta Photonica Sinica, 2014, 43: 97-102. (in Chinese)
    [41] Niño-de-Rivera L, Calzada Salas R, Duchen Sánchez G, et al. Visual simulation of retinal images through microstructures [J]. Microelectronic Engineering, 2012, 90: 159-162. doi:  10.1016/j.mee.2011.04.041
    [42] Perić Z, Dinčić M, Jovanović A. Optimal log-polar image sampling [J]. Journal of Communications Technology and Electronics, 2009, 54(12): 1397-1402. doi:  10.1134/S1064226909120092
    [43] Cheung Brian, Weiss Eric, Olshausen Bruno. Emergence of foveal image sampling from learning to attend in visual scenes[J]. arXiv: 1611.09430, 2017.
    [44] Bigas M, Cabruja E, Forest J, et al. Review of CMOS image sensors [J]. Microelectronics Journal, 2006, 37(5): 433-451. doi:  10.1016/j.mejo.2005.07.002
    [45] Donati S, Martini G, Randone E. Improving photodetector performance by means of microoptics concentrators [J]. Journal of Lightwave Technology, 2011, 29(5): 661-665. doi:  10.1109/JLT.2010.2103302
    [46] Daisy S Daivasagaya, Yao Lei, Yung Ka Yi, et al. Contact CMOS imaging of gaseous oxygen sensor array [J]. Sensors and Actuators B: Chemical, 2011, 157(2): 408-416. doi:  10.1016/j.snb.2011.04.074
    [47] Huo Yijie, Fesenmaier Christian C, Catrysse Peter B. Microlens performance limits in sub-2μm pixel CMOS image sensors [J]. Optics Express, 2010, 18(6): 5861. doi:  10.1364/OE.18.005861
  • [1] 曹军峰, 丁庆海, 罗海波.  基于空间非一致模糊核标定的红外图像超分辨率重建方法 . 红外与激光工程, 2024, 53(2): 20230252-1-20230252-10. doi: 10.3788/IRLA20230252
    [2] 党诗沛, 李润泽, 周美玲, 千佳, 但旦, 于湘华, 姚保利.  显微成像系统分辨率问题讨论(特邀) . 红外与激光工程, 2022, 51(11): 20220735-1-20220735-8. doi: 10.3788/IRLA20220735
    [3] 范文强, 王志臣, 陈宝刚, 陈涛, 安其昌.  自适应光学相干层析在视网膜高分辨成像中的应用 . 红外与激光工程, 2020, 49(10): 20200333-1-20200333-13. doi: 10.3788/IRLA20200333
    [4] 张爱武, 张希珍, 赵江华.  斜模超分辨率成像最佳角度 . 红外与激光工程, 2019, 48(8): 826001-0826001(7). doi: 10.3788/IRLA201948.0826001
    [5] 郜鹏, 温凯, 孙雪莹, 姚保利, 郑娟娟.  定量相位显微中分辨率增强技术综述 . 红外与激光工程, 2019, 48(6): 603007-0603007(13). doi: 10.3788/IRLA201948.0603007
    [6] 蔡文涛, 李晶, 江海波, 孙秀辉, 杨若夫, 尹韶云.  基于非均匀采样的高分辨曲面投影计算全息方法 . 红外与激光工程, 2019, 48(5): 524004-0524004(6). doi: 10.3788/IRLA201948.0524004
    [7] 邱兆文, 宋利权, 张炳通.  四反射镜结构极坐标红外惯性稳像平台像旋研究 . 红外与激光工程, 2017, 46(12): 1217004-1217004(6). doi: 10.3788/IRLA201746.1217004
    [8] 宋言明, 潘志康, 孟晓辰, 娄小平, 祝连庆.  基于仿人眼自适应调节的多光谱视觉图像处理方法 . 红外与激光工程, 2017, 46(9): 910001-0910001(8). doi: 10.3788/IRLA201746.0910001
    [9] 王中阳, 周燕飞, 张小伟, 沈灏, 李恩荣, 韩申生, 宓现强, 田立君, 彭玉峰.  基于随机采样的超高分辨率成像中快速压缩感知分析 . 红外与激光工程, 2017, 46(2): 201002-0201002(7). doi: 10.3788/IRLA201746.0201002
    [10] 赵明, 谢晨波, 钟志庆, 王邦新, 王珍珠, 尚震, 谭敏, 刘东, 王英俭.  高光谱分辨率激光雷达探测大气透过率 . 红外与激光工程, 2016, 45(S1): 76-80. doi: 10.3788/IRLA201645.S130002
    [11] 孟祥涛, 向政, 郭景, 李美清.  非均匀采样条件下光纤陀螺微小角振动信号检测技术 . 红外与激光工程, 2016, 45(3): 322004-0322004(5). doi: 10.3788/IRLA201645.0322004
    [12] 白雁力, 龙井华, 蔡厚智, 廖昱博, 雷云飞, 刘进元.  时间展宽分幅变像管的时间分辨率探究 . 红外与激光工程, 2015, 44(S1): 63-67.
    [13] 张月, 王超, 苏云, 焦建超.  地球静止轨道甚高分辨率成像系统热控方案 . 红外与激光工程, 2014, 43(9): 3116-3121.
    [14] 陈艳菲, 王利恒, 王洪伟.  估算红外成像作用空间分辨率的新方法 . 红外与激光工程, 2014, 43(1): 33-38.
    [15] 赵培娥, 罗雄, 曹文勇, 赵彬, 冯立天, 李晓锋, 谭锦, 周鼎富.  应用Zoom FFT方法提高相干测风激光雷达频谱分辨率 . 红外与激光工程, 2014, 43(1): 98-102.
    [16] 李伟雄, 闫得杰, 王栋.  高分辨率空间相机俯仰成像的像移补偿方法 . 红外与激光工程, 2013, 42(9): 2442-2448.
    [17] 张月, 周峰.  火星轨道轻小型高分辨率相机热分析与热设计 . 红外与激光工程, 2013, 42(11): 2979-2983.
    [18] 崔智高, 李艾华, 姜柯, 苏延召, 金广智.  双目协同多分辨率主动跟踪方法 . 红外与激光工程, 2013, 42(12): 3509-3516.
    [19] 任航.  高分辨率大面阵CCD相机高帧频设计及其非均匀性的校正 . 红外与激光工程, 2013, 42(6): 1491-1497.
    [20] 赵晓, 张伟, 侯晴宇, 巩晋南.  多尺度匹配的红外变分辨率弱小目标检测 . 红外与激光工程, 2013, 42(11): 2913-2918.
  • 加载中
图(6) / 表(1)
计量
  • 文章访问数:  633
  • HTML全文浏览量:  155
  • PDF下载量:  93
  • 被引次数: 0
出版历程
  • 收稿日期:  2020-03-05
  • 修回日期:  2020-04-07
  • 网络出版日期:  2020-09-22
  • 刊出日期:  2020-08-28

仿人眼视网膜成像技术研究进展(特约)

doi: 10.3788/IRLA20201026
    作者简介:

    曹杰(1984-),男,副研究员,博士生导师,博士,主要从事仿生视觉、三维成像方面的研究工作。Email:caojie@bit.edu.cn

    通讯作者: 郝群(1968-),女,教授,博士生导师,博士,主要从事激光探测、精密测量与仪器方面的研究工作。Email:qhao@bit.edu.cn
基金项目:  国家自然科学基金(61871031,61875012,61905014);基础加强技术领域基金(2019-JCJQ-JJ-273);北京市自然科学基金(4182058);上海航天科技创新基金(SAST2017-083);博士后国际交流计划派出项目(20190097)
  • 中图分类号: Q811.211

摘要: 人眼视网膜因具有变分辨成像及冗余数据压缩的优势为成像方法与应用开辟了新途径。基于人眼视网膜成像机理,有效解决了大视场、高分辨、实时性难以兼顾的问题。随着半导体制造工艺与计算机处理能力的迅猛发展,仿人眼视网膜成像系统已广泛应用于视觉导航、识别与跟踪、生物医疗等领域, 目前,正朝着小型化、高效化、智能化方向发展。对比分析了仿人眼视网膜成像实现方法的优缺点,以现有实例化应用分析了仿人眼视网膜成像技术的发展现状并提出挑战与机遇,为进一步研究仿人眼视网膜成像提供参考与借鉴。

English Abstract

    • 眼睛是绝大部分动物获得外部信息的重要渠道之一,有数据表明,视觉作为获取外部信息的重要传感器之一,占据获取总信息量的80%以上[1]。同时,随着对自然界诸多动物视觉成像机理的深入研究,发现不同动物的视觉特性为突破传统成像瓶颈提供了新的解决办法。例如:利用昆虫复眼的曲面布局与相同周期排列并行响应特性,有利于提高对广域条件下目标的响应度,可广泛应用在安防领域,且随着小型化工艺能力的提升,具有应用在穿戴领域的潜力[2]。再比如:猫头鹰具有极好的暗视觉能力,且头颈部运动灵活,旋转幅度大,利用此特性,开发了具有仿猫头鹰视觉的夜视仪;利用鹰眼的高敏锐度特性,开发了具有运动轨迹即时回放的电子鹰眼系统,已广泛应用于体育赛事中。由此可见,仿生视觉作为仿生学的重要分支之一,在诸多领域中扮演了重要的角色[3-4]

      人眼相比较上述视觉系统,其显著区别在于视网膜中的感光细胞排布随着距视网膜中心的距离增大而稀疏,这种特点使得视觉信息的获取具有非均匀特性[5],即人眼视网膜的中央凹区域分辨高,而外围区域分辨率低,因此有利于对感兴趣场景区域的清晰描述,周边进行粗略表达,从而压缩周边冗余数据。进一步研究发现,视网膜与视觉皮层存在近似对数极坐标(log-polar)映射的关系,从而使视网膜实现抗旋转与尺度改变。以上特性表明,仿人眼视网膜成像适用于同时对视场、分辨率、实时性有较高要求的场合,因此,在视觉导航、智能监控、生物医疗等领域具有广泛的应用前景[4,6]

      文章旨在通过讨论国内外仿人眼视网膜成像技术的研究与应用,总结仿人眼视网膜成像的实现方法,分析目前存在的关键问题以及发展趋势,为仿人眼视网膜成像技术的深入研究提供参考与借鉴。

    • 仿人眼视网膜成像包括两方面:(1)结构方面,实现近似视网膜感光细胞的变分辨布局,即中央凹高分辨、周边低分辨;(2)机理方面,在(1)的基础上,形成近似笛卡尔到对数极坐标的映射。根据文献,将仿人眼视网膜成像实现方法划分为软件、电路、光学三类。其中,基于软件可以通过常规图像传感器得到一幅图像,然后采用适当的算法转换成对数极坐标图像[7-8],此种方式具有操作简便、成本低的优点,缺点在于实时性不明显,完全依赖于处理器能力。一些通过FPGA[9-10]实现类似上述功能的方法本质上也属于基于软件方式。光学方式主要是通过对光学镜头中(固定[11]或移动[12-13])的光学组件进行优化,使得某一特定区域实现高分辨率成像,从而达到变分辨成像目的。电路方式可以根据主被动成像进一步细化,较为典型的被动式仿人眼视网膜成像是通过CCD或CMOS图像传感器像素非均匀化实现,例如:1990年,意大利热那亚大学Giulio Sandini等人[14],基于CCD加工技术,研制了单元离散分布的首个仿人眼视网膜传感器。像素所处的半径随视场离心率线性增加,像素大小随着半径增加,如图1(a)所示。传感器外围包括30圆环,每环64个,总共1 920个像素点,像素大小从30 μm逐渐增大到412 μm,中央凹区成菱形形状,用于弥补中央凹区域太小而无法映射的缺陷,包括102个像素,尺寸11 mm×11 mm。与CCD工艺相比较,CMOS在数据存储上可控性更高,更适合于模拟人眼视网膜信息获取,更加容易与微处理器实现对接,典型结构如图1(b)所示,由校际微电子中心(IMEC)研发的仿人眼图像传感器[15],基于0.7 μm的CMOS工艺,像元尺寸14 μm,包含了8 013个像素,其中的7 168(56环,每环128)个像素属于对数极坐标转换像素,中央凹处覆盖的像素为845个,传感器尺寸8.1 mm。之后基于0.35 μm CMOS加工工艺,实现了传感器外围110环,每环252个,共27 720个像素,中央凹区共5 773个像素,整个传感器总共33 493个像素,最外环像素大小与最内环像素大小比例为17,整个传感器尺寸与最小像素尺寸比值为1 100,整个传感器尺寸为7.1 mm[16]。北京理工大学曹峰梅等人[17-18]完成了国内首个仿人眼视网膜图像传感器,如图1(c)所示,感光面尺寸10.226 mm,像元尺寸14 μm×14 μm,证明了其可以有效消除图像旋转产生的影响。由于集成电路设计复杂、非均匀探测器存在串扰等问题,也可以通过透镜阵列实现仿人眼视网膜布局,而各探测器仍需要采用相同尺寸,以此提高光能利用率[19]

      图  1  被动式仿人眼视网膜图像传感器

      Figure 1.  Passive bio-inspired retina-like image sensor

      主动成像方式因环境适应性更强,近年来也得到深入发展,较为典型的激光三维成像雷达,已广泛应用于无人驾驶、避障、地形勘测等领域。主动成像系统包括发射与接收两部分,因此,结合仿人眼视网膜机理可从发射与接收两个方面形成仿人眼视网膜成像。值得注意的是,目前,激光三维成像雷达多以雪崩二极管(APD)或小面阵APD阵列作为接收核心器件,相比较CCD或CMOS工艺,APD因受噪声串扰影响仍难以形成大面阵芯片(国外可实现最大面阵256×256[20],国内为32×32[21])。因此,主动成像仿人眼视网膜在前端更容易实现,即通过变分辨扫描实现。例如:加州大学洛杉矶分校的Jiang等人[22],提出采用时间延展的方法实现时间飞行扫描的激光雷达,通过在不同光谱上实现针对固定区域的高分辨率采集,扫描频率达到1 MHz,达到仿人眼视网膜成像效果。北京航空航天大学陈伟海等人[23],提出利用DSP+FPGA的硬件平台构架,对环境进行分步扫描,在线规划下一步的扫描规律,以减少无用信息获取。南京理工大学顾国华等人[24]利用背景与目标的非连续性特点,提出了自适应的单光子计数三维成像激光雷达,基于扫描成像方式,使得数据采样效率提高了85%。北京理工大学曹杰、郝群等人[25]以MEMS光学器件为核心,结合单像素探测器,完成了类似视网膜环形变分辨扫描与采样,实现了仿人眼视网膜机理成像,满足旋转与尺度不变特性。近年来,对于以单像素探测器为基础的量子关联成像方法(也被称为鬼成像),随着计算机能力大幅提升而得到进一步研究,其中,英国格拉斯哥大学Phillips等人[26]提出利用人眼视网膜变分辨成像特点,实现变分辨率成像,在相同分辨率下,通过DMD生成疏密程度非均匀的二维随机散斑光场,视场中央模拟人眼中央凹的高分辨率成像,周边区域模拟人眼外围低分辨率成像,以适应不同的场景。将上述方式进行总结,如表1所示,对于各种方式的具体应用将在实例化应用中进一步介绍。

      表 1  实现方式比较

      Table 1.  Comparison of implementation

      Implementation itemsCircuitOpticsSoftware
      PassiveActive
      Core methodNon-uniform pixelsNon-uniform scanning specklesVariable resolution design of optical componentsLogarithmic polar correlation algorithms
      Key featureCompression when sampling, high resolution in gaze imaging region +peripheral low resolution imaging samplingAchieve variable resolution with image sensorsCompressing after sampling
      AdvantagesGood real-time performance, high sensitivity and low data volumeAchieve local high resolution with good scalabilityStructures are simple and easy to connect with existing equipment
      DisadvantageNonuniform responseNo reduction in data volumePoor real-time performance
      DifficultyDifficult MediumMediumEasy
    • 结合仿人眼视网膜成像优势,通过一些典型实例化应用讨论仿人眼视网膜成像发展。

    • 在成像制导与导航中[27-28],均需要高分辨、实时性成像,尤其是成像导引头的总体要求是尽量提高制导精度和分辨率,以红外制导为例,焦平面阵列发展趋势必然是高密度、多光谱、高响应度、高探测度、高工作温度及更大面积、更小像元及更高灵敏度的器件,以不断扩大导引头的视场、增大导引头的探测距离并不断增强导引头对付多目标的能力和复杂背景下捕获、跟踪目标的能力[29-30]。大视场、高分辨率的确可以带来更高的作战效能,但同时也增加了数据处理量,常规的CCD、CMOS图像传感器制导如图2(a)所示,其中前端为光感受器,后端为图像处理器。这种弊端在于(1)光感受器不具有信号处理能力,因此光感受器与处理器之间需要较高的传输带宽;(2)图像处理器承担了所有的处理工作,因此功耗、数据量、计算量较大,实时处理难度增加[31];(3)在制导过程中,目标的高速相向运动导致在常规图像传感器的曝光时间内激发多个像素同时响应,从而导致图像模糊[32];(4)导弹在飞行过程中高度和飞行方向不断调整,必然会在实时图像与基准图像之间产生一定的旋转和缩放,这给传统的图像匹配方法带来极大的困难[9]

      图  2  传统与仿人眼视网膜图像传感器对比

      Figure 2.  Comparison between traditional and bio-inspired retina-like image sensors

      基于仿人眼视网膜成像机理的图像传感器如图2(b)所示,一方面,像素尺寸非均匀特性有利于降低数据量,使得感受器与处理器之间的传输带宽降低,处理器面对的信息量、计算量大幅减小,有利于提高成像制导系统的实时性。同时,像素尺寸非均匀性(由内向外逐渐增加)可减小因高速相向运动而导致的径向模糊。另一方面,人眼视网膜图像传输机理使得所获图像具有旋转与尺度不变特性,有利于抑制旋转与缩放对图像匹配精度的干扰。可见,仿视网膜图像传感器的特色在于具有对图像信息的预处理功能。

    • 对于目标搜索而言,实际应用中不仅要求搜索范围大,而且常常伴随识别与跟踪。无论主动或是被动成像,常规的方式所获图像分辨率单一,势必造成大量冗余数据。仿人眼视网膜具有空间分辨率可变的特点,利用外围区域搜索目标,发现目标后又可以用高分辨中央凹对准目标实现高分辨成像与跟踪目的。因此,非常适合大视场范围内的目标实时搜索[33-34]。过程如图3所示,假设A与A’分别为中央凹对应的笛卡尔与对数极坐标图像,B与B’为周边区域对应的图像,三角形代表目标,红色的圆环为一一映射环[35],环内区域为扩张区,环外区域为压缩区,B对应的视场通常远大于A。目标首先在B被探测,可通过调整结构将A对准目标,形成高分辨用于识别,若为所需目标,则进行追踪。在星图识别方面,利用仿人眼视网膜特性可以有效地检测到在星图中某一星体的特征,从而进行识别[36],因为视场范围内的星体,尤其是在多星体下,若按照笛卡尔坐标系进行标定会比较繁琐,采用对数极坐标转换后,可以将星体转变为一系列沿角度轴的像点,且采用对数极坐标转换后的图像具有旋转与尺度不变性,非常有利于图像的快速配准,从而提高星体的识别效率。利用人眼视网膜特性的算法还可以应用在雷达图像获取[37-38]。通过傅里叶变换获得视场内对数极坐标的频谱信息,结合旋转与尺度不变特性,可以更高精度地识别目标。

      图  3  基于空间变分辨率的目标搜索

      Figure 3.  Target seeking based on space variant resolution

    • 三维图像信息获取与重构具有广泛应用。利用人眼视网膜的对数极坐标映射特性,能够进行三维重建[7]图4(a)为原始输入图像,根据对数极坐标中的直线探测将对数图像进行区域划分,如图4(b)所示,分成了前墙、右墙、天花板、左墙、底板、右墙,通过图像处理找到主要直线;然后将得到的直线进行逆对数极坐标映射,与原图进行融合,根据探测出的直线寻求消失点即直线的相交点,可以得到获取图像中的光心。然后根据光心的位置提取图像的深度信息,从而实现三维图像重构。在基于骨架恢复三维物体的应用中,利用人眼的注意机制以及处理视觉场景复杂任务能力,构建了基于仿视网膜机理作为描述算子的算法,配合人工蜂群算法,提高了三维目标重建性能。除此之外,还可以配合DEM[8]、时间飞行、关联成像[39]等方法实现三维图像重构,其目的均是利用人眼视网膜的变分辨特性,在实现高分辨的同时尽可能提高三维图像重构效率。

      图  4  图像深度信息提取

      Figure 4.  Information extraction of the image depth

    • 根据仿人眼视网膜成像研究情况,从内涵层面,研究趋势已从二维发展到三维,从空域到频率,从单波长到多波长。从研究方法来看,已涵盖了光学、电子、算法等不同方式。一方面,尽管仿人眼视网膜在变分辨成像方面的理论较为完善,但受限于目前半导体制造工艺水平,实际应用仍有困难,尤其是基于硬件的方式;另一方面,仿人眼视网膜成像与其他成像方法结合,将促进仿人眼视网膜成像理论体系更加完善。下面从这两方面探讨遇到的机遇与挑战。

    • 虽然基于硬件实现的仿人眼传感器优点突出,但是因其像素或散斑需采用非均匀的方式,使得设计较传统均匀成像更为复杂。按照仿生视网膜变分辨成像理论,包含的主要参数有环数、每环个数、环间增长系数、盲孔半径、最大作用半径、填充因子等,但这些参数在实际使用时因不同的需求将会有侧重点,例如:对于电路仿视网膜结构布局,填充因子是关键参数之一,由于像素的排布受到物理尺寸限制,通过仿真验证,若以圆形感光面为例,且环环相切作为边界条件,按照对数极坐标理论,最大填充因子为${\pi}$/4[40],因此,在实际条件下,无论是对数极坐标还是环形结构均需要改进。墨西哥A.Loaiza-Brito等人[41]提出一种同心矩形的仿人眼图像传感器,这种传感器利用同心矩形面积由内向外逐渐增大,以此模拟人眼视网膜的非均匀分布,采用矩形排布的方式更加有利于硬件的实现,同时,提出了最小目标(Minimum Object)与最大目标(Maximum Object)的光电探测单元的布局方式,如图5所示,图5(a)为最小目标形状,红色的矩形代表光电探测器,分别放置在每个顶点,同时,在中间的矩形边上安置两个,其形状的设计均可通过软件程序实现,图5(b)为最大目标结构形状,图中给出的排列形状为三角形,事实上,也可以根据实际需要形成任意形状,而且可以随着最小目标的改变而改变。仿人眼结构布局如图5(c)所示,形状为同心矩形,中央凹区域为最小目标,采用单点光电探测器,而外围区域利用最大目标,将最小目标分布在矩形的4个顶点,由此形成了基于仿人眼的图像传感器,图5(d)为仿真成像结果。

      图  5  改进型仿人眼视网膜结构与成像

      Figure 5.  Improved bio-inspired retina-like structure and imaging

      相比较被动电路方式,基于扫描散斑的主动方式因不需要考虑像元尺寸干涉问题而更加灵活,且可以对某一特定区域密集采样,提高分辨率。但同时伴随的另一个问题是参数自由更大,实际设计时需要根据应用场合具体分析,例如:对于搜索类应用,需要保证盲孔尺寸小于搜索目标尺寸,从而不至于漏检,在此基础上,需要结合实际安装空间确定最大尺寸半径,以此作为初始条件,根据评价函数(信噪比、光能利用率等)确定环数、每环个数等参数[42]

      近年来,伴随人工智能、量子成像的兴起与迅速发展,仿人眼视网膜成像技术也得到了新的发展,例如:将人眼注意机制与深度学习相结合,通过数据集不断训练模型参数,使得对输入图像自适应地进行感兴趣目标高分辨成像而压缩周边数据压缩采集[43]。再比如:鬼成像基于量子关联成像体制,一般而言,需要通过单像素的光强与随机涨落光场多次复合运算重构图像,尽管目前提出了诸如压缩感知、深度学习的加速成像方法,仍难以同时兼顾大视场、高分辨、实时性的要求,尤其在目标搜索与跟踪场合。因此,提出了采用类似视网膜的变分辨率的随机散斑替代传统单一分辨率的散斑方法[39],为快速重构提供了新途径,而且由于只涉及散斑结构创新[26],仍可与已有算法兼容,提高成像效率。同时,基于新型成像体制的仿人眼视网膜成像理论也更加丰富。

    • 信噪比是衡量成像系统的重要参数之一,与常规的CCD/CMOS图像传感器相比[44],由于仿人眼视网膜图像传感器中像素的非均匀性,导致其不仅具有一些固有噪声(例如:暗噪声、光串扰、背景噪声等),还有来自像素非均匀引起的噪声。中央凹处的像素尺寸小,周边尺寸大,将导致中央的灵敏度较低[45]。同时,加上像素与像素之间的相互串扰,会进一步地降低其灵敏度。对于此问题,目前尚无特别有效的解决办法,已有主要基于CMOS工艺实现的类人眼图像传感器,即:通过CMOS工艺形成不同尺寸的像素,按照一定的几何布局形成与人眼视网膜类似的“视网膜区”,形成具有对数极坐标映射能力的类人眼图像传感器。但该方法仍有两个缺点:(1) 由于采用的像素非均匀分布,使得芯片电路的设计与工艺更复杂,使其成本较高[41,46];(2) 基于CMOS工艺实现的像素,由于其内部含有读取电路,导致填充因子不高,灵敏度较低[47],如果通过减小像素尺寸而提高分辨率,会使得灵敏度进一步下降,同时引入感光像素的串扰。因此,除了采用上述非均匀响应的光电探测器,通过非均匀的微透镜阵列将物面光线汇聚在尺寸相同的光电探测器上是一种替代方法,如图6所示,单元透镜与后面的光电探测器等效为常规的探测器,由于光电探测器之间留有间隔,这样可避免像素之间的光串扰,同时,因为透镜呈圆形,更加符合对数极坐标的映射要求,而且由于采用尺寸相同的光电探测器,也能够降低仿人眼传感器的设计成本。目前,对于周期相同的微透镜阵列已有相对较为成熟的工艺[4],但尺寸与周期非均匀的微透镜阵列仍需进一步研究。

      图  6  基于非均匀透镜阵列的仿人眼视网膜传感器

      Figure 6.  Bio-inspired retina-like sensor based on non-uniform lens array

    • 仿人眼视网膜成像基于人眼视网膜的非均匀采样机制以及大脑皮层与视网膜中的对数极坐标映射规律,同时获得大视场、高分辨、实时性的优势。目前,国内外已通过光学、电子、软件的方式实现仿人眼,对比分析了各种实现方式的利弊,通过应用实例化分析,包括仿生制导、大视场目标搜索、识别、检测以及三维图像信息获取与重建等应用,展望仿人眼视网膜成像的未来发展方向,一方面,仿人眼视觉传感器在实用化方面需进一步提升;另一方面,可以将仿人眼视网膜成像技术与激光成像、深度学习、量子成像等领域相结合,丰富其内涵,为进一步研究仿人眼视网膜成像技术提供有益参考。

参考文献 (47)

目录

    /

    返回文章
    返回