事件相机(三)事件相机特征提取

事件相机作为一种新型相机,其特征提取方法仍然有许多需要探索的地方,目前主流的事件相机特征提取算法都还是将事件信息二维化或者三维化,并没有很好利用事件相机数据量小的特点,也都把一些关键信息丢掉了,这篇博客主要介绍目前常用的事件相机的特征提取方法。用这些方法编码事件,有一些适合给传统算法使用,有一些适合使用CNN进行处理。

阅读更多

事件相机(二)事件相机应用

前面一篇博客介绍了事件相机的原理和种类,这一篇博客来介绍一下事件相机的具体应用场景,主要也是对 Event Camera Survey的总结梳理。目前学界研究比较多的是 SLAM、Motion Object Detection、Deblur、HDR、高帧率视频等方向。传统方法在SLAM上使用较多,提取事件特征非常繁琐耗费算力,NN方面在处理事件上有一些探索,但都还没完全成熟。目前主要的产品应用还是手机Deblur、插帧和HDR上(目前只有手机的出货量有机会压低Event Camera的成本)。

阅读更多

事件相机(一)事件相机原理

事件相机(Event Camera)目前分为如下几类:DVS、ATIS、DAVIS等,这类基于事件的相机与传统基于全帧输出的CIS相机不同,具有高帧率、高动态、低延时、低带宽的优点,同时也面临着噪声、Flicker、带宽变化等不利因素。这篇博客重点介绍事件相机产生事件的原理,和目前事件相机的分类。

阅读更多

CNN直接处理YUV图像

在ISP pipe中,最后输出的一般都是YUV图像,YUV420的数据量是RGB数据量的两倍,我们在送入CNN处理的时候处理RGB图像居多,如果CNN也可以直接输入YUV图像,那么前级需要的带宽就会减为输入RGB图的一半。

YUVMultiNet提供了一种实用的结构来处理YUV图像。这篇博客只会介绍处理YUV的这种结构,如果对MultiNet感兴趣可以移步原文:https://arxiv.org/pdf/1904.05673.pdf

阅读更多

摄像头模组CRA参数

我们在摄像头模组规格书中和Sensor规格书中都会看到CRA这个光学参数。这里两个CRA的实际含义有所区别。镜头CRA的含义类似于FOV,Sensor CRA则关联传感器像素感光的量子效率。实际设计模组时这两个参数需要匹配。

阅读更多

Visual Studio在直方图、曲线、图像调试插件

现在主流的IDE都广泛支持安装插件来实现各种有用的功能,在使用Visual Studio 2019/2017开发工具时,如果要在调试状态下查看C++中某个数组,像matlab或python的plot一样画出曲线和直方图,或者查看内存中的图像裸数据,都有插件可以实现,这里介绍三个免费的工具插件:Image Watch查看图像,ArrayPlotter将数组plot成曲线,Graphical Debugging(Plot Watch)查看直方图。

阅读更多

光场相机原理

光有如下基本性质:强度、波长、相位、位置、传播方向、偏振等量子态。传统相机可以利用光学系统利用透明成像原理,捕捉光的位置和强度,加上带不同波长pattern的CFA,就可以用来捕捉颜色。但是传统光学系统,只能捕捉像平面上光源的位置和强度,无法捕捉光的传播方向。

我们所描述的光场,包含光的位置和传播方向,目前我们可以通过如下手段获取光场:微透镜阵列、相机阵列、掩膜等。光场相机目前是利用微透镜阵列来捕捉光场信息。这篇博客主要介绍光场相机的原理和发展。

阅读更多

车载图像传感器

未来的自动驾驶系统将主要依赖摄像头(博主认为激光雷达是目前视觉硬件和算法不完善条件下的替代品,目前使用激光雷达切实的降低了落地的难度,但是是否真的需要,尚未有定论),车载系统的图像传感器和之前在其它领域使用的传感器的选型指标有明显区别。

阅读更多