OctAttention: Octree-Based Large-Scale Contexts Model for Point Cloud Compression-程序员宅基地

技术标签：论文阅读算法 python 3D点云论文学习笔记人工智能论文笔记

1. 论文基本信息

发布于： AAAI 2022

2. 创新点

提出了一种树形结构的注意力机制来模拟大规模上下文中节点的依赖关系。

我们采用掩码操作并行对八叉树进行编码，以减轻在大规模上下文中引入兄弟姐妹的缺点。

3. 背景

在点云压缩中的相关工作介绍一般都分为以下几个部分：

基于体素的点云压缩（Voxel-Based Point Cloud Compression）

1. 优势：与八叉树相比，几何模式可以自然地保留在体素表示中。
2. 缺点：副作用是基于体素的网络对密度变化很敏感，对于稀疏点云可能会失败。

基于树的点云压缩（Tree-Based Point Cloud Compression）
基于八叉树和深度学习的点云压缩

1. 过去的方法未考虑到八叉树同层级相邻节点之间的关系。

由八叉树量化的LiDAR点云，最大深度为6，7，8，9。八叉树叶节点中的点随着深度的增加而减小。基于体素的方法的感受野是有限的。

VoxelContext-Net 通过使用体素和八叉树混合结构来学习前一个八叉树深度的上下文，部分解决了这个问题（考虑了兄弟节点之间的关系）。然而，高分辨率（即来自兄弟节点）的特征仍然被忽略。（ps：本文指出在八叉树深度足够的情况下，VoxelContext-Net 的局部体素领域的感受野随着八叉树的深度增加而减小，对兄弟节点之间的关系特征的获取不友好）

解决的问题：

OctAttention 适应于稀疏的点云数据集。
OctAttention 在使用八叉树的方法的情况下，考虑了同层次兄弟节点的相互关系，也考虑了兄弟节点的特征以及其祖先节点的特征。
并且优化了 VoxelContext-Net 的局部体素领域的感受野随着八叉树的深度增加而减小的问题。
还提出了一个掩码操作来抵消由兄弟上下文参与引起的编码时间增加。

4. Pipeline

4.1. 上下文模型

我们通过具有先验信息的网络估计概率 Q(x)，以指导算术编码器。估计概率越接近基本事实，实际比特率 Ex∼P [− log2 Q(x)] 越接近其下限 Ex∼P [− log2 P (x)]。因此，论文的目标是估计准确的占用分布以降低比特率。

论文中首先以广度优先顺序遍历八叉树。然后对于序列中的每个当前编码节点 ni，随后构建了一个上下文窗口 {ni−N +1,。, nk,., ni−1, ni} 长度为 N，目前的编码节点位于窗口的末尾，局部上下文窗口随着当前编码节点向前移动而向前滑动。通过这种方式，选择 N-1 个兄弟节点来利用同一深度节点之间的强依赖关系。考虑到节点与其祖先节点之间的依赖关系，论文分别在上下文窗口中进一步引入了 N 个节点的 K-1 个祖先。总之，论文的方法集成了 N * K 个相关节点并极大地扩展了上下文。具体来说，我们将分布 Q(x) 分解为每个占用符号 xi 的条件概率的乘积：

其中 xi ∈ {1, 2,., 255} 是当前编码节点 ni 的占用符号。高维向量 fk = [h(0)k , h(1)k , h(2)k ,。.., h(K−1)k ] 表示节点 nk 的嵌入特征和其 K-1 个祖先的特征的串联，它们被定义为它们的占用、深度和八分区的嵌入。w 表示上下文模型参数。节点信息分别嵌入到固定长度的向量中，然后连接为hk = [SkW1, LkW2, OkW3]，其中Sk, Lk, Ok为单热编码占用（Occupancy 图中是占用位置的十进制）、级别索引（Level 八叉树的对应层级）和八分区索引（Octant 对应上一层哪一个八叉树位置），W为它们各自的嵌入矩阵。嵌入还用作三种不同比例变量的归一化。

4.2. Tree-Structured Attention （树结构注意力）

上下文窗口中第 m 个和第 n 个兄弟节点之间的注意力图中的注意力分数标量定义为：

n ≤ m, m = i − N + 1, ..., i.

4.3. Mask operation

引入了掩码操作，它为每个节点分配一个不同长度的接受域。每个节点仅限于训练和测试时上下文窗口中先前节点的访问，这样的做法减少编码的时间。

5. 实验成果展示

消融实验（证明大上下文窗口的有效性）：

本文链接：https://blog.csdn.net/skyxya/article/details/137163785

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

艾美捷Epigentek DNA样品的超声能量处理方案-程序员宅基地

文章浏览阅读15次。空化气泡的大小和相应的空化能量可以通过调整完全标度的振幅水平来操纵和数字控制。通过强调超声技术中的更高通量处理和防止样品污染，Epigentek EpiSonic超声仪可以轻松集成到现有的实验室工作流程中，并且特别适合与表观遗传学和下一代应用的兼容性。Epigentek的EpiSonic已成为一种有效的剪切设备，用于在染色质免疫沉淀技术中制备染色质样品，以及用于下一代测序平台的DNA文库制备。该装置的经济性及其多重样品的能力使其成为每个实验室拥有的经济高效的工具，而不仅仅是核心设施。

11、合宙Air模块Luat开发：通过http协议获取天气信息_合宙获取天气-程序员宅基地

文章浏览阅读4.2k次，点赞3次，收藏14次。目录点击这里查看所有博文本系列博客，理论上适用于合宙的Air202、Air268、Air720x、Air720S以及最近发布的Air720U（我还没拿到样机，应该也能支持）。先不管支不支持，如果你用的是合宙的模块，那都不妨一试，也许会有意外收获。我使用的是Air720SL模块，如果在其他模块上不能用，那就是底层core固件暂时还没有支持，这里的代码是没有问题的。例程仅供参考！..._合宙获取天气

EasyMesh和802.11s对比-程序员宅基地

文章浏览阅读7.7k次，点赞2次，收藏41次。1 关于meshMesh的意思是网状物，以前读书的时候，在自动化领域有传感器自组网，zigbee、蓝牙等无线方式实现各个网络节点消息通信，通过各种算法，保证整个网络中所有节点信息能经过多跳最终传递到目的地，用于数据采集。十多年过去了，在无线路由器领域又把这个mesh概念翻炒了一下，各大品牌都推出了mesh路由器，大多数是3个为一组，实现在面积较大的住宅里，增强wifi覆盖范围，智能在多热点之间切换，提升上网体验。因为节点基本上在3个以内，所以mesh的算法不必太复杂，组网形式比较简单。各厂家都自定义了组_802.11s

线程的几种状态_线程状态-程序员宅基地

文章浏览阅读5.2k次，点赞8次，收藏21次。线程的几种状态_线程状态

stack的常见用法详解_stack函数用法-程序员宅基地

文章浏览阅读4.2w次，点赞124次，收藏688次。stack翻译为栈，是STL中实现的一个后进先出的容器。要使用 stack，应先添加头文件include<stack>，并在头文件下面加上“ using namespacestd;"1. stack的定义其定义的写法和其他STL容器相同, typename可以任意基本数据类型或容器：stack<typename> name;2. stack容器内元素的访问..._stack函数用法

2018.11.16javascript课上随笔（DOM）-程序员宅基地

文章浏览阅读71次。<li> <a href = "“#”>-</a></li><li>子节点：文本节点（回车），元素节点，文本节点。不同节点树：　　节点（各种类型节点）childNodes:返回子节点的所有子节点的集合，包含任何类型、元素节点（元素类型节点）：child。node.getAttribute(at...

随便推点

layui.extend的一点知识第三方模块base 路径_layui extend-程序员宅基地

文章浏览阅读3.4k次。//config的设置是全局的layui.config({ base: '/res/js/' //假设这是你存放拓展模块的根目录}).extend({ //设定模块别名 mymod: 'mymod' //如果 mymod.js 是在根目录，也可以不用设定别名 ,mod1: 'admin/mod1' //相对于上述 base 目录的子目录}); //你也可以忽略 base 设定的根目录，直接在 extend 指定路径（主要：该功能为 layui 2.2.0 新增）layui.exten_layui extend

5G云计算：5G网络的分层思想_5g分层结构-程序员宅基地

文章浏览阅读3.2k次，点赞6次，收藏13次。分层思想分层思想分层思想-1分层思想-2分层思想-2OSI七层参考模型物理层和数据链路层物理层数据链路层网络层传输层会话层表示层应用层OSI七层模型的分层结构TCP/IP协议族的组成数据封装过程数据解封装过程PDU设备与层的对应关系各层通信分层思想分层思想-1在现实生活种，我们在喝牛奶时，未必了解他的生产过程，我们所接触的或许只是从超时购买牛奶。分层思想-2平时我们在网络时也未必知道数据的传输过程我们的所考虑的就是可以传就可以，不用管他时怎么传输的分层思想-2将复杂的流程分解为几个功能_5g分层结构