好色之图 | CMOS成像如何接近人眼感受效果?图像亮度暗藏ISP算法玄机

2017-01-04 10:51:30 来源:EEFOCUS
分享到:
标签:

前言:

这篇文章是我从事ISP研究数年来的一些经验总结,没有用到深奥的理论知识,有的只是根据实际状况来处理的一些常规方法,以及曾经犯过的错误总结。我想把ISP function的原理用简单浅显的语言描述出来,希望对初学者有所帮助。这里的ISP主要是指从CMOS  sensor输出的bayer pattern,到转换成通用的YUV或者YCbCr格式的过程,通常用于USB摄像头/监控摄像头/手机/平板等芯片设计中。

 

2.图像亮度

ISP算法的目的是要让CMOS成像接近人眼的感受效果,所以首先要比较人眼成像和CMOS成像的差异。从图像亮度这方面来看,最重要的就是曝光,其次有针对显示器特性的Gamma映射,针对CMOS sensor 特性的Black Level Correction,针对镜头透光性的Lens shading Correction,以及anti-flick等,下面逐一介绍。


2.1曝光

影响CMOS Sensor 成像亮度的因素有光圈大小,曝光时间以及Sensor像素本身的感光特性。光圈越大,进光量越大,图像亮度和光圈大小成正比。曝光时间越长,接收到的光子数量越多,图像亮度和曝光时间也成正比。Sensor本身像素敏感度则和pixel size大小,以及CMOS process(FSI/BSI)相关。在Sensor内部,完成光电转化之后的电位,还需要通过一个模拟/数字增益电路,增益越大,图像越亮,同时Noise也会被放大,在sensor的参数设定中有这个analog/digital gain,即通常说的ISO。


对于人眼来说,瞳孔是人眼的口径;虹膜是光圈,像是孔径内的档板。在角膜的折射造成有效孔径 (入射瞳)。入射瞳的直径通常是4mm,但是它的范围可以从在明亮地方的2mm变化至黑暗地方的8mm。
Sensor和人眼的对比如下表格:

 

从以上表格内容可以看出,人眼是靠调整光圈来适应环境亮度,而一般的摄像头则是调整曝光时间和增益来适应环境亮度。相比而言,人眼在同一场景下所能感受的亮度动态范围要比CMOS sensor大很多倍,在很多户外场景中,摄像头拍出的照片局部过曝,或者局部太黑,因此摄像头很需要HDR技术:同一场景下拍摄不同曝光时间的多张图片(扩大动态范围),来合成一张图像。另一方面CMOS sensor的曝光时间理论上可以无限长,因此摄像头可以拍下和人眼平常所见不同的美景,例如夜晚的星空和城市夜景(通常曝光时间要好几十秒)。不过对于视频拍摄来说,较长的曝光时间意味着运动物体会变模糊,所以一般都要求帧速率在15fps以上,即曝光时间最大只有1/15s。在这个约束条件下,一般的Sensor感光效果相比人眼差很多,在暗光下为了使图像可见,必须要用很大的模拟或者数字增益,很多sensor会到64倍增益,这带来了很大的Noise,人眼是没有Noise这一说法的哦。


在ISP中,自动曝光AE有相对成熟的算法。首先以人的视觉主观感觉确定一个目标亮度,这个亮度要让用户看着合适,具体数值看用户喜好和真实环境可以调整。然后统计当前图像的实际亮度。统计的方法常见的有两种。


一种是基于亮度均值的方法,例如把整幅图像分割成若干个矩形框,分别统计矩形框中像素平均亮度,不同位置的矩形框有不同的权重系数,然后加权平均得到整幅图像的亮度均值。下图为两种常见的权重设置方式:中间优先(适用于人像拍摄)和下方优先(适用于行车记录仪)。

 

(左)中心优先     (右)下方优先

Figure 2.1.1 亮度统计权重


在人像拍摄的时候,有时并不知道人脸的位置在哪里,如果此时背景比较明亮,那么人脸可能会拍得比较暗。假如上层应用中有人脸检测功能,那么就可以告诉ISP人脸的位置在哪里,ISP对人脸所在的位置进行亮度统计,把得到人脸的亮度和整幅图像的均值做加权平均,重新得到当前亮度。


对于平板和手机而言,还有touch AE,拍摄视频/照片的时候,在屏幕上点击感兴趣的位置,那么AE 和AF 都会跟着有变化。在ISP中,就是对着touch的区域做亮度统计,把touch区域的亮度和整幅图像的均值再做加权平均,重新得到当前亮度。
 

还有一种方法是基于直方图统计的,力争让图像的灰阶分布比较好,特别是在高反差的情况下,像素主要分布在直方图的两端,亮度均值的算法不太适用。直方图数据可以明显的反映出这种状况,从而选择暗光优先模式或者亮光优先模式。
 

以上介绍了当前图像的几种亮度统计方法,得出当前亮度,接着要计算当前亮度和目标亮度的比例关系,根据这个比例关系来调整Sensor的曝光时间和增益。 我们已经知道图像亮度是和曝光时间及增益成线性比例关系,有如下公式:

目标亮度/当前亮度 = (期望曝光时间×期望增益)/(当前曝光时间×当前增益)


AE算法要在期望曝光时间和期望增益之间做一定的平衡,增益较大的话会有Noise,曝光时间长的话会导致帧速率fps下降。此外,AE控制算法还需要注意两点:一是给sensor下的曝光参数并不是实时生效的,往往会有几个Frame的延迟,要小心避免AE来回震荡;二是要切换AE参数要平稳一些,渐进的方式达到目标亮度,一步到位的视觉感受并不好,AE收敛速度和AE稳定性需要平衡。
 

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

作者简介
侯莅聪
侯莅聪

东南大学研究生毕业,在瑞晟微电子工作12年。是数字IC设计资深经理和数字图像处理专家,拥有多篇专利。参与研发的USB camera产品,获得市场占有率第一的位置。

继续阅读
索尼未来最有重量筹码,3D传感器到底有多牛叉

据麦姆斯咨询报道,索尼的新一代ToF传感器是专为智能手机和增强现实(AR)设备设计的,并计划于明年量产。新传感器最终还会进入与环境交互的无人机、自动驾驶汽车、游戏机、工业设备、工厂和仓库机器人、许多其它机器人等领域。

加特兰发布国内首款77GHz CMOS雷达芯片

国家级半导体产业年度盛会IC China 2017今日隆重开幕,超过5万行业专业人士聚集上海浦东。就在活动当天上午,一个汽车主动安全系统核心芯片的本土设计企业闪亮登场,在这一完全由欧美厂商垄断的领域打响了本土化第一枪。

从倒车摄像头到全景摄像头到行车记录仪到电子眼,聊聊汽车和摄像头的那点事
从倒车摄像头到全景摄像头到行车记录仪到电子眼,聊聊汽车和摄像头的那点事

随着汽车驾驶性能的不断提高,摄像头在汽车中的作用愈加明显。摄像头的加入让驾驶人员更加自如的操作自己的爱车,减少了由于汽车物理架构存在的盲区。不过摄像头也是驾驶违章的克星,因为交警正是利用摄像头监管交通。今天,让我们聊聊汽车和摄像头的不解之缘。

莱迪思携手Helion推出开箱即用的ISP解决方案
莱迪思携手Helion推出开箱即用的ISP解决方案

2017年10月2日 — 莱迪思半导体公司(NASDAQ: LSCC),客制化智能互连解决方案市场的领先供应商,今日与HelionVision®共同宣布推出最新的解决方案,加速嵌入式视觉应用设计和原型开发。

总被搞混的TTL与CMOS电平藏着这些学问
总被搞混的TTL与CMOS电平藏着这些学问

TTL集成电路的主要型式为晶体管-晶体管逻辑门(transistor-transistor logic gate),TTL大部分都采用5V电源.

更多资讯
Octinion草莓采摘机器人问世,断了农业工作者的收入?

一家比利时工程公司试图将我们收获农产品的方式数字化,一次一颗草莓。基于Heverlee的创业公司Octinion最近开发了一种配备机器视觉和3D打印“手”的草莓采摘机器人。其先进的计算机视觉系统可以确定何时草莓成熟并准备采摘,所有这一切都与人类工作者相似。

从历史到各地政策,人工智能现在到底有多火?

这个时代什么技术关键词最火?人工智能(AI)可谓当仁不让。上到国家政策,下到茶余饭后,人工智能就这么来了。

论中国新一代半导体产业重镇与投资的关系
论中国新一代半导体产业重镇与投资的关系

中国半导体产业产值从2015年开始呈现爆发性成长,2018年产值预估将突破6200亿元人民币,政府的政策支持成为主要驱动力。

半导体Top 10最新排名出炉,三星真的干掉了英特尔
半导体Top 10最新排名出炉,三星真的干掉了英特尔

据IC Insights统计预报,2017年世界半导体产业前十大企业排名出台。三星半导体以656亿美元挤掉英特尔,终于登上世界第一的位置,英特尔以610亿美元屈居第二位,SK海力士跃升两位居第三位,美光跃升两位居第四位,博通后退一位居第五位。

硬见生态,共享智慧,2017硬见开发者论坛在深圳举行

如今,互联网+与人工智能浪潮正在席卷一切,软件与硬件的界限日渐模糊,跨界、融合成为当前各个产业共同的旋律,多个产业的生态链互相碰撞,爆发出众多创新创业机遇,同时也为跨界者带来诸多挑战。

微话题

工作 or 考研?

又到一年招聘季,考研or工作让你实现了怎样的逆袭?……
Moore8直播课堂