【论文笔记】Radar Fields: An Extension of Radiance Fields to SAR

原文链接:https://arxiv.org/abs/2312.12961

1. 引言

本文针对合成孔径雷达(SAR)的3D重建,提出雷达场,基于多个SAR对场景的测量学习体积模型。

3. 辐射场的介绍

NeRF将静态场景表达为连续的体积函数 F \mathcal{F} F,该函数可由MLP、体素分解或张量插值编码,预测给定点 x x x和视线方向 d d d下的RGB色彩 c c c和密度 σ \sigma σ。多视图一致性使得网络仅依赖 x x x预测 σ \sigma σ,而依靠 x x x d d d预测 c c c

NeRF的渲染与优化见神经辐射场的简单介绍。

表面模型:将辐射场扩展到表面模型,即将场景表达为表面 S \mathcal{S} S
S = { x ∈ R 3 ∣ F ( x ) = 0 } \mathcal{S}=\{x\in\mathbb{R}^3|\mathcal{F}(x)=0\} S={xR3F(x)=0}

d d d x x x S \mathcal{S} S的最小距离, F \mathcal{F} F被定义为有符号距离函数(SDF):
F ( x ) = { d ( x , S ) 若 x 位于 S 外部 − d ( x , S ) 若 x 位于 S 内部 \mathcal{F}(x)=\left\{\begin{matrix}d(x,\mathcal{S})&若x位于\mathcal{S}外部\\-d(x,\mathcal{S})&若x位于\mathcal{S}内部\end{matrix}\right. F(x)={d(x,S)d(x,S)x位于S外部x位于S内部

可以使用额外的损失项保证SDF的Eikonal属性:
L E i k o n a l = ∑ x ∈ Ω ( ∥ ∇ F ( x ) ∥ 2 2 − 1 ) 2 \mathcal{L}_{Eikonal}=\sum_{x\in\Omega}(\|\nabla\mathcal{F}(x)\|^2_2-1)^2 LEikonal=xΩ(∥∇F(x)221)2

其中 Ω \Omega Ω包含表面附近的采样点和整个空间均匀采样的点。

表面模型的优化可以通过拉普拉斯函数的累积分布,转化为体积模型来实现:
Ψ ( d ) = { 1 2 exp ⁡ ( − d β ) d ≥ 0 1 − 1 2 exp ⁡ ( d β ) d < 0 \Psi(d)=\left\{\begin{matrix}\frac{1}{2}\exp(-\frac{d}{\beta})&d\geq 0\\1-\frac{1}{2}\exp(\frac{d}{\beta})&d<0\end{matrix}\right. Ψ(d)={21exp(βd)121exp(βd)d0d<0

其中 α \alpha α β \beta β为可学习的参数。渲染时,使用 σ i = Ψ ( F ( x i ) ) \sigma_i=\Psi(\mathcal{F}(x_i)) σi=Ψ(F(xi))得到伪密度。

使用上述方法可以探索更多信息,例如表面法线 n ( x ) = ∇ F ( x ) n(x)=\nabla\mathcal{F}(x) n(x)=F(x)

4. 雷达场

SAR成像模型的介绍:部署在运动空载或机载平台上的天线会发射侧视几何形状的电磁脉冲,并接收地面反射。卫星飞行方向被称为方位角,射线方向被称为距离。对于每个方位角下发射的脉冲,卫星会收集反射并进行解调和采样,按照距离排序后存储为复数,将幅值(与地面反射率和角度相关)和相位(包含卫星到目标的路径延迟/调制波长的信息)分开。生成的图像被称为原始格式,且因为电磁波束的足迹大、脉冲长,分辨率很低。使用聚焦过程可以大幅提高分辨率,生成与短脉冲和窄波束等价的复值图像。SAR图像保留了距离信息,但在多个反射器有相同距离和方位角的时候,响应是二者相加的结果(有负面影响)。距离图像可以视为垂直入射角方向的投影视图,被雷达脉冲照亮,其中的物体看起来像透明的。SAR的获取过程如下所示。
在这里插入图片描述
雷达场的定义:给定射线集合 { r j } \{r_j\} {rj},其在给定方位角平面内的原点和方向为 { ( o j , v j ) } \{(o_j,v_j)\} {(oj,vj)} { d i } i ∈ { 1 , 2 , ⋯   , N } \{d_i\}_{i\in\{1,2,\cdots,N\}} {di}i{1,2,,N}为这些射线的采样距离。设 s r j ( d i ) s_{r_j}(d_i) srj(di) r i r_i ri在距离 d i d_i di处的感知信号,类似NeRF的公式,可得
s r j ( d i ) = − T i , j α i , j ⟨ v j ∣ n i , j ⟩ θ s_{r_j}(d_i)=-T_{i,j}\alpha_{i,j}\langle v_j|n_{i,j}\rangle^\theta srj(di)=Ti,jαi,jvjni,jθ

给定 j j j时, T i , j T_{i,j} Ti,j α i , j \alpha_{i,j} αi,j的计算与NeRF相同, n i , j = ∇ F ( o j + d i v j ) n_{i,j}=\nabla\mathcal{F}(o_j+d_iv_j) ni,j=F(oj+divj),系数 θ \theta θ用于建模反射的镜面性。传统的SAR仿真中,反射信号 s s s由下式给出:
s = − ⟨ v ∣ n ⟩ θ s=-\langle v|n\rangle^\theta s=vnθ

其中 v v v是入射角, n n n为表面法线。对朗伯模型,通常假设 θ = 1 \theta=1 θ=1;对于镜面反射,需要设置更大的 θ \theta θ,也可以通过学习得到。

注意,如上图所示,聚合是跨射线而非沿射线的:因为对给定的方位角,SAR将来自同一距离的反射器投影到同一像素中。则聚合公式为:
s ( d i ) = ∑ r j s r j ( d i ) = ∑ r j − T i , j α i , j ⟨ v j ∣ n i , j ⟩ θ s(d_i)=\sum_{r_j}s_{r_j}(d_i)=\sum_{r_j}-T_{i,j}\alpha_{i,j}\langle v_j|n_{i,j}\rangle^\theta s(di)=rjsrj(di)=rjTi,jαi,jvjni,jθ

最后,在所有方位角平面计算结果,得到完整的SAR图像。

辐射场与雷达场的区别:如下表所示。对于辐射场的计算,沿射线采样聚合得到一个像素,而雷达场为跨射线采样得到一行(同一水平角)像素。
在这里插入图片描述
在辐射场中,采样距离时可以添加扰动,但雷达场的距离是固定的。但雷达场的信号不需要明确的原点,也就是说原点可以在方位角平面内变动,只要不改变距离。记 w j w_j wj为方位角平面内与 v j v_j vj正交的向量,则扰动原点可按下式给出:
o ~ j = o j + n w j , n ∼ N ( 0 , 1 ) \tilde{o}_j=o_j+nw_j,n\sim\mathcal{N}(0,1) o~j=oj+nwj,nN(0,1)

此外,SAR图像含有大量噪声,服从复杂的Wishart分布。 L L L视配置下,噪声样本协方差 C C C d d d维分布 p p p为:
p ( C ) = L L d ∣ C ∣ L − d Γ d ( L ) ∣ Σ ∣ L exp ⁡ ( − L  Tr ( Σ − 1 C ) ) p(C)=\frac{L^{Ld}|C|^{L-d}}{\Gamma_d(L)|\Sigma|^L}\exp(-L\ \text{Tr}(\Sigma^{-1}C)) p(C)=Γd(L)∣ΣLLLdCLdexp(L Tr(Σ1C))

其中 Σ \Sigma Σ为无噪声方差, Γ d ( L ) = π d ( d − 1 ) / 2 ∏ k = 1 d Γ ( L − K + 1 ) \Gamma_d(L)=\pi^{d(d-1)/2}\prod_{k=1}^d\Gamma(L-K+1) Γd(L)=πd(d1)/2k=1dΓ(LK+1)。当处理单通道单视强度图像时,样本协方差退化为单位阵 I I I,且此模型简化为反射率的乘性散斑噪声:
I = n × R , n ∼ Γ ( 1 , 1 ) I=n\times R,n\sim\Gamma(1,1) I=n×R,nΓ(1,1)

尽管有噪声,仍然可以学习表面。将无噪声生成视图与有噪声样本比较是足够的。

表面模型实施:遥感中的地表通常使用数字表面模型(DSM)表达,即各点海拔的2D地图。本文使用类似的表达,记 d s m : [ 0 , 1 ] 2 → [ 0 , 1 ] dsm:[0,1]^2\rightarrow[0,1] dsm:[0,1]2[0,1],定义
F ( x , y , z ) = z − d s m ( x , y ) \mathcal{F}(x,y,z)=z-dsm(x,y) F(x,y,z)=zdsm(x,y)

注意该函数不完全是SDF(高度不一定是到表面的距离),但其隐式地表达了表面。对于更细粒度的情况,使用双线性插值和法线计算。DSM的像素值被直接优化。对Eikonal损失,可以替换为简单的表面正则化项:
∑ ( x , y , z ) ∑ ( x ′ , y ′ , z ′ ) ∈ N ( x , y , z ) ∥ d s m ( x , y , z ) − d s m ( x ′ , y ′ , z ′ ) ∥ 2 2 \sum_{(x,y,z)}\sum_{(x',y',z')\in\mathcal{N}(x,y,z)}\|dsm(x,y,z)-dsm(x',y',z')\|^2_2 (x,y,z)(x,y,z)N(x,y,z)dsm(x,y,z)dsm(x,y,z)22

其中 N \mathcal{N} N表示邻域。

5. 实验

合成数据生成:使用第4节的成像模型生成合成SAR图像,并添加噪声: s ~ ( d ) = n × s ( d ) , n ∼ Γ ( 1 , 1 ) \tilde{s}(d)=n\times s(d),n\sim\Gamma(1,1) s~(d)=n×s(d),nΓ(1,1),其中 s ( d ) s(d) s(d)由4.2节最后一式得到。生成的数据/真实SAR数据以及几何参数会输入模型用于优化。

结果:可视化表明,可以从少量SAR图像利用提出的雷达场学习到地表。对于非朗伯表面,同时优化镜面图和几何,也能在输入数据富含噪声的情况下精确学习表面。

6. 讨论与结论

多次反射:由于表面设置,传感器的接收信号可能不是来自直接反射,而来自第二次或更多次的反射。当反射仍在同一方位角平面内时,相当于在第一次反射后延长射线,取飞行时间的一半,因此实际的测量位置有所偏差,如下图所示(B点的第二次反射对应的虚拟反射点为C点)。
在这里插入图片描述
更一般地,当反射不在同一方位角平面内时,情况更加复杂。可能需要将多个方位角平面一起渲染。

相位和偏振信息:若进一步引入相位和偏振信息,可能对提高精度有所帮助。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/279682.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

长城杯2021政企组-魔鬼凯撒的RC4茶室 WP

魔鬼凯撒的RC4茶室 知识点&#xff1a;UPX 移位密码 XOR 分析 查壳 32bit&#xff1b;UPX壳&#xff0c;upx -d直接脱。 查看主函数。 第一处输入Str1然后做一个比较。这里进去。 有个小技巧&#xff0c;这里传入的参数是Str字符串&#xff0c;但是原本IDA自动识别出来的…

智能监控平台/视频共享融合系统EasyCVR海康设备国标GB28181接入流程

TSINGSEE青犀视频监控汇聚平台EasyCVR可拓展性强、视频能力灵活、部署轻快&#xff0c;可支持的主流标准协议有国标GB28181、RTSP/Onvif、RTMP等&#xff0c;以及支持厂家私有协议与SDK接入&#xff0c;包括海康Ehome、海大宇等设备的SDK等。平台既具备传统安防视频监控的能力&…

shiro1.10版本后-IniSecurityManagerFactory过期失效

1、问题概述&#xff1f; 今天在研究了shiro的新版本shiro1.13.0版本&#xff0c;发现用了很长时间的IniSecurityManagerFactory工厂失效了。 从下图中可以看出&#xff0c;在新版本中IniSecurityManagerFactory被打上了过期线了。 那么问题来了&#xff0c;新版本如何使用呢…

Python 命令补全工具 argcomplete

1. 概述 在使用Python 命令或者 Python的命令行工具的时候&#xff0c;一个痛点是没有补全。比如python -m后面输入包名字&#xff0c;就没有提示&#xff0c;每次想运行一个http server的时候&#xff0c;都需要搜索一下http服务的包名。另外&#xff0c;像pip&#xff0c;pi…

Java注解学习,一文掌握@Autowired 和 @Resource 注解区别

&#x1f3c6;作者简介&#xff0c;普修罗双战士&#xff0c;一直追求不断学习和成长&#xff0c;在技术的道路上持续探索和实践。 &#x1f3c6;多年互联网行业从业经验&#xff0c;历任核心研发工程师&#xff0c;项目技术负责人。 &#x1f389;欢迎 &#x1f44d;点赞✍评论…

【前端面经】即时设计

目录 前言一面git 常见命令跨窗口通信vue 响应式原理发布订阅模式翻转二叉树Promise.all()扁平化数组面试官建议 二面Event Loop 原理Promise 相关css 描边方式requestAnimationReact 18 新特性JSX 相关react 输出两次函数式编程React 批处理机制http请求头有哪些本地存储性能优…

秒杀系统的设计思路(应对高并发,超卖等问题的解决思路)

首先我们先看一下设计秒杀系统时&#xff0c;我们应该考虑的问题。 解决方案&#xff1a; 一.页面静态化结合CDN内容分发 前端把能提前放入cdn服务器的东西都放进去&#xff0c;反正把所有能提升效率的步骤都做一下&#xff0c;减少真正秒杀时候服务器的压力。 秒杀活动的页面…

年度总结和规划

年度总结和规划 目录概述需求&#xff1a; 设计思路实现思路分析1.技术总结2.管理总结3.职业计划比较 参考资料和推荐阅读 Survive by day and develop by night. talk for import biz , show your perfect code,full busy&#xff0c;skip hardness,make a better result,wait…

利用F12和Fiddler抓包

网络基础 http 而http协议又分为下面的部分,点击具体条目后可以查看详细信息 http请求消息:请求行(请求方法),请求路径,请求头,请求体(载荷) http响应消息:响应行(响应状态码),响应头&#xff0c;响应体 请求行 即请求方法 get post put patch 响应行 即响应码,常见响应状态…

Java基础02-Java编程基础

文章目录 变量&#xff08;Variables&#xff09;局部变量和成员变量局部变量&#xff08;Local Variables&#xff09;成员变量&#xff08;Instance Variables&#xff09; 标识符&#xff08;Identifiers&#xff09;八种基本数据类型原始数据类型&#xff08;Primitive Dat…

java中如何使用elasticsearch—RestClient操作文档(CRUD)

目录 一、案例分析 二、Java代码中操作文档 2.1 初始化JavaRestClient 2.2 添加数据到索引库 2.3 根据id查询数据 2.4 根据id修改数据 2.4 删除操作 三、java代码对文档进行操作的基本步骤 一、案例分析 去数据库查询酒店数据&#xff0c;导入到hotel索引库&#xff0…

python+django超市进销存仓库管理系统s5264

本次设计任务是要设计一个超市进销存系统&#xff0c;通过这个系统能够满足超市进销存系统的管理及员工的超市进销存管理功能。系统的主要功能包括&#xff1a;首页、个人中心、员工管理、客户管理、供应商管理、承运商管理、仓库信息管理、商品类别管理、由管理员和员工&#…

Metapreter 详细教程--进阶教程

常用命令 基本命令 命令说明sysinfo查看系统信息ls列出目录或文件夹pwd获取当前目录地址cd切换目录&#xff0c;注意这里的win系统需要用用两个反斜杠来分割&#xff08;cd c:\windows\system32 &#xff09;help帮助getuid查看当前用户是谁getpid查看当前进程号ps查看所有进…

API 开放平台项目(已整理,已废弃)

项目大纲 前端 React 18Ant Design Pro 5.x 脚手架Ant Design & Procomponents 组件库Umi 4 前端框架OpenAPI 前端代码生成 后端 Java Spring BootMySQL 数据库MyBatis-Plus 及 MyBatis X 自动生成API 签名认证&#xff08;Http 调用&#xff09;Spring Boot Starter&#…

数据库——简单查询复杂查询

1.实验内容及原理 1. 在 Windows 系统中安装 VMWare 虚拟机&#xff0c;在 VMWare 中安装 Ubuntu 系统,并在 Ubuntu 中搭建 LAMP 实验环境。 2. 使用 MySQL 进行一些基本操作&#xff1a; &#xff08;1&#xff09;登录 MySQL&#xff0c;在 MySQL 中创建用户&#xff0c;…

OpenCV-Python(22):直方图的计算绘制与分析

目标 了解直方图的原理及应用使用OpenCV 或Numpy 函数计算直方图使用Opencv 或者Matplotlib 函数绘制直方图学习函数cv2.calcHist()、np.histogram()等 原理及应用 直方图是一种统计图形&#xff0c;是对图像的另一种解释&#xff0c;用于表示图像中各个像素值的频次分布。直…

机器学习归一化和标准化

1. 为什么做归一化和标准化 样本中有多个特征&#xff0c;每一个特征都有自己的定义域和取值范围&#xff0c;他们对距离计算也是不同的&#xff0c;如取值较大的影响力会盖过取值较小的参数。因此&#xff0c;为了公平&#xff0c;样本参数必须做一些归一化处理&#xff0c;将…

UI演示双视图立体匹配与重建

相关文章&#xff1a; PyQt5和Qt designer的详细安装教程&#xff1a;https://blog.csdn.net/qq_43811536/article/details/135185233?spm1001.2014.3001.5501Qt designer界面和所有组件功能的详细介绍&#xff1a;https://blog.csdn.net/qq_43811536/article/details/1351868…

如何理解李克特量表?选项距离相等+题目权重相等!

在学术研究中&#xff0c;通过开展问卷调查获取数据时&#xff0c;调查问卷分为量表题和非量表题。量表题就是测试受访者的态度或者看法的题目&#xff0c;大多采用李克特量表。 李克特量表是一种评分加总式态度量表&#xff08;attitude scale&#xff09;&#xff0c;由美国…

论文阅读——Slide-Transformer(cvpr2023)

Slide-Transformer: Hierarchical Vision Transformer with Local Self-Attention 一、分析 1、改进transformer的几个思路&#xff1a; &#xff08;1&#xff09;将全局感受野控制在较小区域&#xff0c;如&#xff1a;PVT&#xff0c;DAT&#xff0c;使用稀疏全局注意力来…