BEVNet,一个多摄像头在BEV视图的3-D目标检测方法

智能汽车
本文提出BEVDet,根据在鸟瞰视图(BEV)中检测3D目标,因为BEV能方便地执行路线规划(route planning)。

 

arXiv在2021年12月“BEVDet: High-Performance Multi-Camera 3D Object Detection in Bird-Eye-View“,作者是北京鉴智机器人公司。

自主驾驶能够感知周围环境进行决策,这是视觉感知最复杂的应用场景之一。本文提出BEVDet,根据在鸟瞰视图(BEV)中检测3D目标,因为BEV能方便地执行路线规划(route planning)。其包括四类模块:在图像视图编码特征的图像视图编码器、将特征从图像视图转换为BEV的视图转换器、在BEV中进一步编码特征的BEV编码器以及用于预测BEV中目标(target)的任务特定头。只需重复使用现有的模块来构建BEVDet,并通过构建专用的数据增强策略用于多摄像机3D目标检测。

BEVDet如图所示:图像视图编码器,包括主干和颈部,用于图像特征提取;视图转换器将特征从图像视图转换为BEV;BEV编码器进一步编码BEV特征;最后,基于BVE特征构建特定于任务的头部,并预测3D目标的目标值(target values)。

如下表是BEVDet的几个变型:

图像像素点加深度,可以得到其3-D空间坐标:

文章采用一个数据增强策略,即变换A:

那么为保持图像像素与三维空间对应点之间的一致性,在视图变换过程中应采用A逆,即:

在BEV空间中的学习,数据量少于图像视图空间的数据量,因为每个样本包含多个摄像机图像(例如,nuScenses基准数据的每个样本包含6个图像)。因此,BEV空间中的学习容易陷入过拟合。在增强角度看,视图变换器将两个视图空间隔离,为此构建另一个增强策略,专门为BEV空间学习的正则化。二维空间的常见数据扩充操作包括翻转、缩放和旋转。在实践中,这些操作同时在视图转换器的输出特征和三维目标检测的目标上进行,保持其空间一致性。值得注意的是,这种数据增强策略建立于这样的前提,即视图转换器解耦图像视图编码器与后续模块。

实验结果如下:

 

 

责任编辑:张燕妮 来源: 知乎
相关推荐

2016-06-06 10:12:16

摄像头智能硬件

2018-06-22 10:34:46

Linux树莓派数字针孔摄像头

2023-12-12 10:09:33

3D框架模型

2022-12-13 10:17:05

技术目标检测

2022-12-14 10:21:25

目标检测框架

2022-08-29 00:20:48

Render树莓派物联网

2017-06-20 11:45:52

2009-08-21 17:55:14

C#获取摄像头

2021-03-11 10:21:55

特斯拉黑客网络攻击

2013-03-21 09:56:09

2023-05-07 13:41:22

OBS摄像头USB

2017-03-21 08:41:51

iOS手机摄像头检测心率

2011-04-25 09:16:10

Windows 8

2012-06-23 20:13:44

HTML5

2023-11-20 09:47:14

自动驾驶视觉

2022-10-13 15:42:12

深度学习3D

2023-03-06 15:08:54

AI

2023-11-17 09:55:41

2009-08-21 17:24:18

C#控制摄像头

2009-06-17 11:52:01

Linux
点赞
收藏

51CTO技术栈公众号